[Linear Algebra] Eigenvalue and Eigenvector

드디어 Linear Algebra를 공부한 최종 목표(물론 다른 것도 많지만..) Eigenvalue와 Eigenvector에 도달했다. 이번 포스팅에서는 Eigenvalue와 Eigenvector를 공부해보려고 한다.

우선, Eigenvalue와 Eigenvector 각각이 무엇인지 이야기 해보자. nxn matrix A가 있다고 하자. 그 A에 nx1 matrix X를 곱했을 때 나오는 값은 대부분 X와는 다른 방향의 vector일 것이다. 그런데 그 방향이 같은 vector들이 존재한다. 즉, 아래의 식이 성립하는 scalar λ와 matrix X가 matrix A에 대하여 존재한다는 것이다. 아래의 식을 보자.

우리는 위의 식을 만족하는 X를 Eigenvector라고 한다. 즉, nxn matrix A에 곱해도 (앞으로 이 포스팅에서 나오는 모든 matrix A는 nxn행렬이다.) 방향은 변하지 않는 vector X들!! 그들을 우리는 Eigenvector라고 한다. 물론 이 vector X들의 크기는 달라질 수 있다. 그래서 scalar λ를 곱한 것이다.

식(1)을 만족하는 λ를 Eigenvalue라고 한다. 즉 A에 곱해도 방향이 변하지 않는 X들에 대하여 그 식을 만족하게 하는 λ를 Eigenvalue라고 한다. 방향이 변하지 않는다고 말을 했지만, 사실 λ=-1도 될 수 있다. 완전히 반대 방향으로 되는 것도 포함이라는 뜻이다. 또한 λ=0도 될 수 있다. 이럴 경우 Ax=0이 될 것이고, 이 때의 x는 A의 null space가 될 것이다.

이제 대략적인 개념은 설명했으니, 실제로 어떤 값들이 Eigenvalue와 Eigenvector가 되는지 알아보자.

음... 위의 값을 어찌 어찌 식(1)에 대입했더니 맞긴 맞다. 그럼 위의 값들을 어떻게 구했는지 알아보자. 우선 그러기 위해서는 식(1)에 대해서 증명과정을 조금 거쳐보자.

위의 증명과정을 이해하고 아래에 다시 A의 eigenvalue와 eigenvector를 어떻게 구했는지 이해해보자.

마지막에 eigenvector는 더 정확하게 말하면, 비례식으로 풀리게 되는데, 한번 종이에 써서 직접 풀어보도록 하자.

위의 식으로부터 eigenvector의 몇가지 특징에 대해서 이야기해보도록 하자.

1. 하나의 matrix A에 대하여 가능한 eigenvalue의 모든 합은 matrix A의 diagonal element를 다 더한 것이다. 위의 예제에서 봐도 λ=2 그리고 λ=4인데 그 합은 6이다. 실제로 matrix A에 있는 모든 diagonal element를 다 더하면 6이다. 이 정리에 대해서는 따로 증명을 하지는 않겠다. 예전에 중고등학교 때, 이차방정식의 해답의 합을 구하는 공식과 그 증명과정을 생각해보라.

2. eigenvalue의 모든 곱은 det(A-λI)이다.

증명과정은 생략하도록 한다.

3. Elimination on matrix A

Elimination을 하면 A의 eigenvalue는 변한다. 증명과정은 생략하자.

마지막 세 개의 정리는 사실 나도 증명 안 했다. 이 증명은 굳이 필요하지 않을 거라고 판단되어 증명과정까지 공부하지는 않았다.

뭔가 중요한 파트인 것은 분명한데 뭔가 너무 빨리 끝난 것 같다.

우선은 내가 eigenvalue와 eigenvector에 대해서 아는 바는 여기까지이다.