[Linear Algebra] Ax = 0 and Ax = b, with row reduced form R

row reduced form R? 이게 뭐지 싶을 것이다. 기다려라. 다 설명할 예정이다. 이전의 포스팅에서 말했듯이, 이번에는 조금 특별한 방법으로 Ax = 0과 Ax = b를 풀어보려고 한다. 그 특별한 방법이라는 것이 row reduced form R을 이용하려는 것이다. 조금 더 정확한 표현으로 row reduced echelon Form이다. MATLAB command rref(A)로 계산할 수 있다고 한다.

우선 row reduced echelon form이 뭔지 알아보자. 

U를 만들기 위해서 우리는 row1을 2배하여 row2에서 뺐고, row1과 row2를 더한 것을 row3에서 뺐다.여기서 한 발자국 더 가보자.

row2를 row1에서 빼버리고, row2에 대하여 1/2배를 곱했다. 이 형태가 row reduced echelon form이다. (참고로 echelon은 계단식? 정도의 뜻이 되겠다.행렬이 계단식으로 되어있다는 의미에서 선택한 단어인가보다.) row2에 대하여 1/2배 한 것은 어짜피 나중에 Ax = b나 Ax = 0을 풀때 양번에 1/2배 하는 것은 문제가 안 되기 때문이다.

자, Ax = 0이었으므로 Rx = 0이겠지? 지금 이 상태에서 한번 Null Space를 구해보자.(Null Space라는 것이 결과 Rx = 0을 푸는 것과 동일한 말이라는 것을 이전 포스팅에서 설명했었다.)

여기서 Pivot Column은 Column1과 Column3이다. A행렬의 Column1과 Column3을 pivot으로 하여 수차례 Elimination 한 것이 R이라는 것을 기억하자.

그리고 Pivot Column 이외의 모든 Column은 Free Column이라고 명시한다. Free라는 단어를 쓴 이유는 어느 값이 들어와도 된다는 뜻인데 그 이유를 밑에서 확인해보자.

Pivot Column : Column1, Column3

Free Column : Column2, Column4

이제 진정한 의미의 Free variable을 설명할 수 있다. x2와 x4는 Free하다 왜냐하면 아무 값이나 들어갈 수 있기 때문이다. (1,0), (2,5), (1000,-2), ....등등 모든 값이 가능하다. 따라서 위와 같은 A일 때 우리는 ∞개의 답을 얻을 수 있다는 것이다. 조금 더 Linear Algebra 스타일로 말을 하면, Free Column의 모든 Linear Combination이 Ax = 0의 답이 된다는 것이다.

Ax = 0을 풀어봤으므로, 이제 Ax = b를 풀어보자. 물론 row reduced echelon form으로 말이다. 기본적으로 Ax = b에서 b는 Column space A의 Linear Combination이 된다. 이것을 생각해보고 아래의 풀이를 봐보자.

위에서 정한 b = (1,3)을 만족하기 위한 X는 Xp + Xn의 모든 조합이라는 말이다.

자 일단 뭔가 풀긴 풀었는데, 왜 굳이 우리는 다른 방법으로 이 Ax = b를 풀 이유가 있었을까? 일단 row reduced echelon form을 왜 필요로 하는지부터 알아보자. 내가 생각하는 이유는 아래와 같다.

1. row reduced echelon form은 pivot column이 1인데, 어짜피 계산하다보면 나중에 1로 만들게 되어있더라. 미리 해준다는 입장에서 필요한 것 아닌가?

2. free variable을 직관적으로 알 수 있게 해준다. 왜냐하면 pivot column이외의 모든 column이 free column이고 이 free column과 곱셈을 하게 될 x의 row들이 free variable이 되니까.

Ax = b를 row reduced echelon form을 이용해서 풀 때, A라는 mxn 행렬에 대하여 특정짓지 않았다. 한번 특정 지어보자. 네가지 경우가 나올 수 있다. (밑에서 r은 rank라고 하여 pivot의 개수를 의미한다.)

1) r = n = m

2) r = n < m

이 경우에는 항상 0개 또는 1개의 solution을 가지게 된다. 0개의 solution일 경우는 마지막 행에서 0 = 3과 같은 이상한 식이 나와버리면 값을 solution이 없을 것이고, 0 = 0일 경우에는 Ax = b를 만족하는 오로지 하나의 solution이 나오게 된다. (직접 해봐라! 하나밖에 안 나온다는 것을 알 수 있다.)

3) r = m< n

이럴 경우는 값이 1개 또는 ∞개의 값을 얻을 수 있다. 왜 ∞가 가능할까? F가 있기 때문이다. F는 무엇인가? Free variable이다. 아까 위에서 설명했던, 아무거나 대입해도 되는 variable이다. 따라서 실수 아무거나 집어넣으면 그것을 만족하는 Ax = b를 Linear Combination으로 찾을 수 있다는 얘기가 된다.

4) r < m, r < n

위의 식에서 Column 1과 Column 3이 I의 형태를 띈다. 그래도 I F와 같이 표현한다. 물론 결과값도 섞여있는 형태로 나오게 된다. 아무튼 이와 같은 형태는 값이 0개 또는 ∞개 얻을 수 있다. 알아서 계산해봐라. -_-

위에서 3번과 4번은 R의 형태에 Free column space가 들어가게 되고 이렇게 되면 값이 ∞개가 나올 가능성이 생기게 된다. 자 이제 우리는 A의 형태와 r의 형태만 보면 Ax = b가 가질 수 있는 값의 가능성을 알게 되었다.

매우 Quick하면서도 직관적이다. 아마 이것을 알기 위해서 MIT 강의에서 무려 3개의 강의에 걸쳐 이것을 설명한 것이 아닌가 싶다. 다음 포스팅은 뭐가 될지 아직 모르겠다. 왜냐면 아직 강의를 안 들었거등. -_- 아무튼 뭐가 되었든 금방 올라옵니다. 

빨리 Linear Algebra 끝내버려야지...