Eigen Decomposition(고유값 분해)의 일반화 형태

행렬 분해 기법

$$ A A^T=U\left(\Sigma \Sigma^T\right) U^T\\ A^TA = V(\Sigma\Sigma^T)V^T $$

에서

$$ A=U \Sigma V^T $$

• $U$(left singular vector)

  $AA^T$를 고유값 분해해서 얻은 직교 행렬

• $V$(right singular vector)

  $A^TA$를 고유값 분해해서 얻은 직교 행렬

• $\Sigma$ : 직사각 대각 행렬

  대각 원소는 $AA^T, A^TA$의 고유값들$(\Sigma\Sigma^T)$의 제곱근에 해당한다.

• 2차원 행렬 분해 기법
  • 유저 잠재요인 행렬 ⇒ 유저 임베딩
  • 잠재요인 대각행렬 ⇒ 임베딩의 중요도
  • 아이템 잠재요인 행렬 ⇒ 아이템 임베딩
• 차원 축소 기법
• 행렬을 대각화하는 방법
• 모든 m x n 행렬에 대해 적용 가능

Rating Matrix $R$ 에 대해 유저와 아이템의 잠재 요인을 포함할 수 있는 행렬로 분해한다.

Full SVD

기존 행렬을 온전하게 3개의 행렬로 분해한다.

$$ \tt Full\ \ SVD :R = U\Sigma V^T $$

• $U$: 유저와 Latent Factor의 관계

  $U$의 열벡터는 $R$의 left singular vector

• $V$: 아이템과 Latent Factor의 관계

  $V$의 열벡터는 $R$의 right singular vector

• $\Sigma$: Latent Factor의 중요도

  $RR^T$을 고유값 분해해서 얻은 직사각 대각 행렬

  대각 원소들은 $R$의 singular value(특이치)