확률변수의 변환

• 기존의 확률변수를 새로운 확률변수로 바꾸는 것을 확률변수의 변환이라고 한다.
  • 어떤 확률변수 $x_1:x_N$를 확률변환 함수 $f$에 넣어서 $y_1:y_N$을 만드는 것.

$$ \{x_1, x_2, ... , x_N\} \to \{f(x_1), f(x_2),..., f(x_N)\} $$

• 예컨대 확률 변환 함수를 다음과 같이 정의할 수 있다.
  • 만일 아래의 식에서 $x \sim \text{Unif}(0,1)$이었다면 $y$는 $x$를 2배 늘리고 +1 이동 시킨 결과를 갖는다.

$$ f(x) = 2x + 1 $$

• 이런 변환에는 물론 행렬도 사용 가능하다. 이것은 다변량 분포에 사용된다.

$$ f(x) = \left( \begin{matrix} a & c \\ b & d \end{matrix} \right) x + \text{bias} $$

이산형 확률변수

• $X$가 이산형 확률변수인 경우, 변환된 확률변수의 확률 질량 함수는 다음과 같이 구할 수 있다.
  • $X$에 대한 확률 질량 함수의 합이 $Y$에 대한 확률 질량 함수의 합이 된다.

$$ p_y(y) = \sum_{x:f(x) = y} p_x(x) $$

연속형 확률변수

• $X$가 연속형 확률변수인 경우, 밀도에 대한 합을 구할 수 없기 때문에, 다음과 같이 $Y$에 대한 누적 분포 함수를 구한다.

$$ P_y(y)=Pr(Y \leq y) = Pr(f(X) \leq y) = Pr(X \in \{ x| f(x) \leq y \}) $$

확률변수 변환의 선형성

• $X \to Y$ 애 대한 기댓값은 다음과 같은 선형성을 갖는다.

$$ \mathbb{E}[\bold{y}] = \mathbb{E}[\bold{Ax} + \bold{b}] = \bold{A} \mathbb{E}[\bold{x}] + \bold{b} = \bold{A}\boldsymbol{\mu} + \bold{b} $$

• $X \to Y$ 에 대한 공분산 행렬은 다음과 같은 관계를 갖는다.
  • 기댓값과 달리 분산은 선형이 아니다.
  • 만일 두 확률 변수에 대한 분산이 선형이 되려면, 두 확률 변수가 독립이어야 함.

$$ \text{Cov}[\bold{y}] = \text{Cov}[\bold{Ax} + \bold{b}] = \bold{A} \text{Cov}[\bold{x}] \bold{A}^T = \bold{A} \boldsymbol{\Sigma} \bold{A}^T $$

Convolution 이론