[Linear Algebra] Vector Space, Subspace, Null Space

미리 예고했듯이 이번 포스팅에서는 Vector Space, Subspace, Null Space에 대해서 이야기해보려고 한다. 우선 Vector Space가 무엇인지부터 알아야 될 것 같다. 

Vector Space는 말 그대로 Vector들이 이루고 있는 공간이다. 우리 머리 속에서 가장 편하게 이해할 수 있는 2-Dimensional Space를 생각해보자. a = (a1,a2), b = (b1,b2)가 있다고 해보자. 그렇다면 Vector Space의 정의는 Vector addition과 Scalar Multiplication에 대하여 닫혀있는 공간을 말하는 것이다. Vector a와 Vector b를 더하면 a + b = (a1+b1,a2+b2)가 된다. 지금까지 a1, a2, b1, b2에 대한 조건(가령, 0보다 크다 또는 작다 등등)은 아무것도 없는 상태이다. 그렇다면 Vector a + b는 2차원 공간 xy축의 모든 영역을 표현하게 된다.

이와 같이 모든 2차원 공간을 R2라고 하자. 마찬가지로 a = (a1,a2,a3), b = (b1,b2,b3)와 같다면 Vector Space는 R3가 되며 3-Dimensional Space가 된다. mathworld.wolfram.com에서 Vector Space의 정의를 찾아보면 아래와 같이 되어 있다.

A vector space  is a set that is closed under finite vector addition and scalar multiplication. The basic example is -dimensional Euclidean space , where every element is represented by a list of  real numbers, scalars are real numbers, addition is componentwise, and scalar multiplication is multiplication on each term separately.

Vector Space의 정의를 공부했으니 Subspace를 알아보자. Subspace는 상위 Vector Space 아래 속해있는 공간을 의미한다. 가령 R2라는 공간 안에서 x = y라는 직선을 생각해보자. 이 직선은 항상 (a,a)를 이룬다. 이 Vector는 Vector addition에 대하여 닫혀있다. 가령, (1,1) + (3,3) + (4,4) = (8,8)을 보면 (8,8) 역시 (a,a)에 속한다. 그리고 (a,a)에 어떤 숫자를 Scalar Multiplication을 해도 (a,a)를 이룬다. 따라서 (a,a)는 Subspace이다. 

Vector Space와 Subspace는 기본적으로 Vector Addition과 Scalar Multiplication에 대하여 닫혀있는지에 따라 결정된다. 한 가지 예를 더 들어보자. (0,0) Zero Vector이다. 이것은 Subspace인가? 당연하다. (0,0), (0,0,0), (0,0,0,0) ... 모든 Zero Vector들은 Subspace이다. 그렇다면 예를 들어, (1,0)과 같은 Vector는 어떨까? 이것은 Subspace가 아니다. (1,0) + (1,0) = (2,0) 단순 Vector Addition만으로도 (1,0)에 속해있지 않으니까. 그런데 (a,0)은 Subspace이다. Vector addition이나 Scalar Multiplication에 닫혀있기 때문이다.

Subspace에 대한 몇 가지 예제를 또 들어보자.

그런데 여기에서 a, b, c에 0보다 크다라는 조건을 집어넣으면 어떻게 될까?

행렬에 음수 Scalar Multiplication을 하면 다른 Space에 속하게 된다. 따라서 위의 경우는 Subspace가 아니다.

이제 Null Space에 대해서 이야기해보자. Null Space의 정의는 Ax = 0을 만족시키는 Vector Space x 이다. 가령 아래와 같다.

다른 경우를 생각해보자.

Null Space에 대한 이야기도 끝냈으니, 이제 한가지만 더 이야기해보자. Column Space이다. Column Space의 정의는 모든 Column들의 Linear Combination이다. 아래의 예를 보자.

지금까지 계속 Space에 대한 이야기를 계속했던 것은 다음 포스팅에 대한 기본지식을 알려주기 위함이었다. 다음 포스팅에서는 Ax = 0을 조금 특별하게 풀어보려고 한다. 더 나아가 같은 방법으로 Ax = b도 풀어보려고 한다.