고유 값(Eigen Value)와 고유 벡터(Eigen Vector)는 무엇인가?

정방 행렬 A가 있을 때, A가 하는 역할은 무엇인가?

• 행렬은 특정 벡터와 곱해져서 Ax라는 결과를 만든다. 즉, 정방 행렬 A는 함수와 같은 역할을 한다.

수식

$Ax = \lambda x$

⇒ 어떤 정방행렬 A는 벡터x와 곱해져 x의 위치와 방향을 변환시키는 역할을 한다.

• 특정 벡터들은 A와 곱해져서 그 위치나, 방향이 변해도 자기 자신과 동일한 평행 벡터가 된다.

  → 변환 전의 x와 변환 후의 x의 크기는 다를 수 있는데, 이는 상수 곱(lambda) 만큼 다르다.

  → 변환 전, 변환 후에 동일한 **부분 공간(Sub-Space)**에 존재함

  ⇒ $\lambda$를 고유 값(Eigen Value) 라고 한다.

고유 벡터(Eigen Vector)

행렬 A에 의해 변환된 고유벡터 x는 원래의 벡터에 어떤 상수 lambda를 곱한 것과 같다.

⇒ A에 의해 linear transform 되는 수 많은 벡터 중, 곱하기 전과 곱한 후의 벡터 방향이 같은 벡터들을 의미

→ A를 어떻게 곱해도 x의 방향이 변하지 않음을 의미

정방행렬 A는 모든 x를 변화시키지만, 방향이 변하지 않는 성분이 존재하고, 이를 고유 값(Eigen Value), 고유 벡터 (Eigen Vector) 형태로 표현.

Eigen Space

고유값은 유일, 고유 벡터는 무수히 많다.

$A(cx) = \lambda (cx)$

같은 변에 상수 c를 곱해줬으므로, 무수한 벡터가 생성될 수 있다.

→ 이 고유 벡터를 형성하는 공간이 **고유 공간(Eigen Space)**이다.

• 고유 공간은 어떤 nxn 행렬에서 동일한 고유 값에 대응되는 고유 벡터들의 집합, 혹은 sub-space라고 볼 수 있다.

  ⇒ nxn 행렬에서 고유 공간의 수는 동일한 고유값에 대응되는 고유 벡터들의 집합의 수이다.

투영 행렬 P에 다른 방향이 되면 P의 고유 벡터가 아니다.