행렬 곱

• 두 행렬 $\bold{A, B}$의 곱은 앞에 있는 $\bold{A}$의 행벡터와 뒤에 있는 $\bold{B}$의 열벡터간의 내적을 나열한 것으로 이해하는게 가장 일반적이다.

$$ \bold{C = AB} = \left[ \begin{matrix} - & \bold{a}_1^\top & - \\ - & \bold{a}_2^\top & - \\ & \vdots & \\ - & \bold{a}_m^\top & - \end{matrix} \right] \left[ \begin{matrix} \vert & \vert & & \vert \\ \bold{b}_1 & \bold{b}_2 & ... & \bold{b}_p \\ \vert & \vert & & \vert \end{matrix} \right] = \left[ \begin{matrix} \bold{a}_1^\top \bold{b}_1 & \bold{a}_1^\top \bold{b}_2 & ... & \bold{a}_1^\top \bold{b}_p \\ \bold{a}_2^\top \bold{b}_1 & \bold{a}_2^\top \bold{b}_2 & ... & \bold{a}_2^\top \bold{b}_p \\ \vdots & \vdots & \ddots & \vdots \\ \bold{a}_m^\top \bold{b}_1 & \bold{a}_m^\top \bold{b}_2 & ... & \bold{a}_m^\top \bold{b}_p \end{matrix} \right] \\ $$

• 이는 다음과 같은 몇 가지 다른 방법으로도 해석이 가능하고, 모두 동등하다.
  1. 앞에 있는 $\bold{A}$의 열벡터와 뒤에 있는 $\bold{B}$의 행벡터 간의 외적의 합으로 해석.
  2. 앞에 있는 행렬 $\bold{A}$와 뒤에 있는 $\bold{B}$의 열벡터 간의 행렬-벡터 곱으로 해석
  3. 앞에 있는 $\bold{A}$의 행과 뒤에 있는 행렬 $\bold{B}$의 벡터-행렬 곱으로 해석
• 행렬과 벡터의 곱을 별도로 정의할 수도 있지만 벡터를 열이나 행이 1인 행렬로 이해하면 벡터와 행렬의 곱도 두 행렬 간의 곱으로 이해할 수 있다.
• 행렬의 곱은 두 행렬의 안쪽의 크기가 맞아야 가능하며, 그 결과의 크기는 바깥쪽이 된다.
  • $m \times n$ 행렬과 $n \times q$ 행렬을 곱하면 결과의 크기는 $m \times q$가 된다.

행렬의 행이나 열간의 합

• $m \times n$ 행렬 $\bold{A}$에 대해 열의 합을 구하려면 다음과 같은 2가지 방법을 사용할 수 있다.

1. 모든 요소가 1인 $m$차원 벡터 $\bold{1}_m$를 행렬의 앞에 곱하여(pre-multiplying) 구할 수 있다. 이 경우 결과의 크기는 $1 \times n$이 된다.
   • 열벡터이므로 전치해서 $1 \times m$ 형태로 곱한다.

$$ \bold{1}m^\top \bold{X} = (\begin{matrix} \sum_m x{m1} & ... & \sum_m x_{mn} \end{matrix}) $$

1. 또는 모든 요소가 1인 $n$차원 벡터 $\bold{1}_n$를 행렬의 뒤에 곱하여(pre-multiplying) 구할 수 있다. 이 경우 결과의 크기는 $m \times 1$이 된다.

$$ \bold{X}\bold{1}n = \left( \begin{matrix} \sum_n x{1n} \\ \vdots \\ \sum_n x_{mn} \end{matrix} \right) $$

• 같은 식으로 행렬의 행의 합도 구할 수 있다.

행렬의 행이나 열간의 크기 조정

• 표준화 등을 위해 행렬의 행이나 열의 크기를 조정하고 싶을 수 있다.
• $m \times n$ 행렬 $\bold{A}$에 대해 행 별로 크기를 조정하고 싶다면 $m$차원 벡터를 갖는 대각 행렬 $\bold{S} = \text{diag}(\bold{s})$를 행렬의 앞에 곱하여 (pre-multiply) 구할 수 있다.

$$ \begin{aligned} \text{diag}(\bold{s})\bold{X} &= \left( \begin{matrix} s_1 & ... & 0 \\ & \ddots & \\ 0 & ... & s_m\end{matrix} \right) \left( \begin{matrix} x_{1,1} & ... & x_{1,n} \\ & \ddots & \\ x_{m,1} & ... & x_{m,n} \end{matrix} \right) \\ &= \left( \begin{matrix} s_1 x_{1,1} & ... & s_1 x_{1,n} \\ & \ddots & \\ s_m x_{m,1} & ... & s_m x_{m,n} \end{matrix} \right) \end{aligned} $$

• 비슷하게 $m \times n$ 행렬 $\bold{A}$에 대해 열 별로 크기를 조정하고 싶다면 $n$차원 벡터를 갖는 대각 행렬 $\bold{S} = \text{diag}(\bold{s})$를 행렬의 뒤에 곱하여 (post-multiply) 구할 수 있다.

$$ \begin{aligned} \bold{X}\text{diag}(\bold{s}) &= \left( \begin{matrix} x_{1,1} & ... & x_{1,n} \\ & \ddots & \\ x_{m,1} & ... & x_{m,n} \end{matrix} \right) \left( \begin{matrix} s_1 & ... & 0 \\ & \ddots & \\ 0 & ... & s_n\end{matrix} \right) \\ &= \left( \begin{matrix} s_1 x_{1,1} & ... & s_n x_{1,n} \\ & \ddots & \\ s_1 x_{m,1} & ... & s_n x_{m,n} \end{matrix} \right) \end{aligned} $$