확률 공간(Probability space)

• 확률 공간을 triple $(\Omega, \mathcal{F}, \mathbb{P})$로 정의한다.
  • 여기서 $\Omega$는 표본 공간(sample space)라고 하며, 실험으로부터 가능한 결과의 집합을 의미하고,
  • $\mathcal{F}$는 사건 공간(event space)라고 하며, $\Omega$의 가능한 모든 부분집합의 집합을 의미하고,
  • $\mathbb{P}$는 확률 측정(probability measure)라고 하며, 사건 $E \subseteq \Omega$을 숫자 $[0,1]$로 매핑하는 것을 의미한다. (즉 $\mathbb{P} : \mathcal{F} \to [0,1]$)

이산 확률 변수

• ‘A’,’B’,’C’ 3개 면을 가진 주사위가 있다고 하자. 이 주사위의 표본 공간은 아래와 같고 모든 가능한 ‘실험’ 결과를 표현한다.

$$ \Omega = \{A,B,C\} $$

• 사건 공간은 표본 공간의 부분 집합이므로 아래와 같다.

$$ \mathcal{F} = \{\empty, \{A\}, \{B\}, \{C\}, \{A,B\},\{A,C\},\{B,C\},\{A,B,C\}\} $$

• 사건은 사건 공간의 요소이다.
  • 예컨대 $E_1 = \{A,B\}$은 주사위의 면이 $A$나 $B$가 나타나는 결과를 표현하고 $E_2 = \{C\}$는 주사위 면이 $C$가 나타나는 것을 표현한다.
• 확률 측정은 사건 공간에서 각 집합의 ‘크기’나 ‘가중치’를 계산하는 방법으로 정의할 수 있다. 예컨대 위 주사위에 대해 원자적 사건의 확률을 아래와 같이 정의한다고 하자.

$$ \mathbb{P}[\{A\}] = {2\over6}, \ \mathbb{P}[\{B\}] = {1\over6}, \ \mathbb{P}[\{C\}] = {3\over6} $$

• 그러면 다른 사건의 확률에 대한 측정을 위의 확률을 이용해서 유도할 수 있다.
  • 예컨대 $\mathbb{P}[\{A,B\}] = {2\over6} + {1\over6} = {1\over2}$
• 사건 공간에서 가능한 결과에 할당되는 숫자를 확률 변수(random variable)로 정의할 수 있다. 여기서 함수 $X : \Omega \to \mathbb{R}$은 결과 $\omega \in \Omega$를 실수선 위의 숫자 $X(\omega)$에 매핑한다.
  • 예컨대 3면 주사위에 대한 확률 변수 $X$를 다음과 같이 정의할 수 있다

$$ X(A) = 1\\ X(B) = 2\\ X(C) = 3 $$

• 공정한 동전을 2번 던지는 실험을 가정하자. $H$를 동전의 앞면, $T$를 동전의 뒷면이라 하면 표본 공간은 다음과 같이 정의할 수 있다.

$$ \Omega = \{\omega_1 = (H,H), \omega_2 = (H,T), \omega_3 = (T,H), \omega_4 = (T,T)\} $$

• 이때 $X$를 앞면의 수를 나타내는 확률 변수라 하면 다음과 같이 정의된다.

$$ X(\omega_1) = 2\\ X(\omega_2) = 1\\ X(\omega_3) = 1\\ X(\omega_4) = 0 $$

• 확률변수의 가능한 값들의 집합을 상태 공간(state space)로 정의하고 $X(\Omega) = \mathcal{X}$로 표기한다. 다음과 같이 모든 주어진 상태의 확률을 정의할 수 있다.

$$ p_X(a) = \mathbb{P}[X=a] = \mathbb{P}[X^{-1}(a)] $$