선형 시스템과 해의 조건
선형 대수학에서 선형 시스템의 행렬 방정식은 Ax = b로 표현된다
이를 벡터 방정식으로 풀어쓰면 아래처럼 된다
$$a_1x_1 + a_2x_2 + a_3x_3 = b$$
- 해가 존재할 조건
벡터 b가 행렬 A의 열벡터들이 만들어내는 Span 영역 안에 있을 때만 해가 존재
- 해의 유일성
해가 존재할 경우, 이 해가 1개인지 무수히 많은지는 열벡터들의 관계에 따라 결정
- 열벡터가 선형 독립인 경우일 때 해가 유일함
- 열벡터들이 선형 종속이라면 해는 무수히 많이 존재
1. 선형 독립(Linear independence)
선형 독립은 모든 벡터가 각자 자기만의 방향을 가지고 있어서, 서로가 서로를 대체할 수 없는 상태를 말함
- 기하학적 의미
- 어떤 벡터 집합에 있는 벡터들 중 그 어느 것도 다른 벡터들의 조합(선형 결합)으로 만들 수 없음
- ex) 3차원 공간에서 세 벡터가 선형 독립이라면, 이들은 서로 다른 방향을 가리키며 3차원 입체(Span)을 구성
- 수학적 정의
$$x_1v_1 + x_2v_2 + \dots + x_pv_p = 0$$
을 만족시키는 해가 오직
$$x_1 = 0, x_2 = 0, \dots, x_p = 0$$
뿐일 때(= trivial solution), 이 벡터들은 선형 독립임
- 선형 시스템 (Ax=b)에서의 의미
- 행렬 A의 열벡터들이 선형 독립이라면, 해가 존재할 경우 그 해는 단 1개만 존재
2. 선형 종속(Linear Dependence)
선형 종속은 반대로 벡터들 중 최소한 하나는 다른 벡터들의 조합으로 만들어낼 수 있는 상태
- 기하학적 의미
- 특정 벡터가 다른 벡터들이 이미 만들어 놓은 공간(Span) 안에 들어가있는 경우
- ex) v₃ = 2v₁ + 3v₂ 처럼 표현될 수 있다면, v₃는 새로운 영역을 개척하지 못하므로 선형 종속. 즉, 종속인 벡터가 추가되어도 전체 생성 공간(Span)은 커지지 않음
- 수학적 정의
$$x_1v_1 + x_2v_2 + \dots + x_pv_p = 0$$
을 만족시키는 해 중에서, 0이 아닌 값이 하나라도 존재한다면 선형 종속
- 선형 시스템 (Ax=b)에서의 의미
주어진 시스템의 해가 존재한다고 가정할 때, 행렬 A의 열벡터들이 선형 종속이라면 하나의 벡터를 나타내는 조합의 수가 여러개가 되므로 무수히 많은 해를 가지게 됨.
| 구분 | Span의 확장 | Ax = b의 해 | 방정식의 해 |
| 선형 독립 | 벡터 개수만큼 차원 확장 | 유일한 해 | 모두 0인 해만 존재 |
| 선형 종속 | 차원 확장에 기여 못함 | 무수히 많음 | 0이 아닌 해가 존재 |
3. 부분공간(Subspace)과 생성(Span)
- 부분 공간(Subspace)
부분공간 H는 Rⁿ의 부분집합으로, 선형 결합에 대해 닫혀있는(closed) 공간을 의미
- 닫혀있다는 것의 의미
H에 속한 임의의 두 벡터 u₁, u₂와 임의의 스칼라 c, d에 대하여, cu₁ + du₂의 결과값 역시 반드시 H 안에 존재해야 합니다.
특정 벡터들의 생성인 Span{v₁, ..., vp}은 항상 이러한 부분공간의 성질을 만족하며, 실제 모든 부분공간은 특정 벡터들의 Span으로 표현됨.
4. 기저(Basis)와 차원(Dimension)
- 기저(Basis)
부분 공간 H의 기저는 2가지 조건을 만족하는 벡터들의 집합
- 해당 부분공간 H를 옩ㄴ히 생성(Fully spans)할 수 있어야 함.
- 서로 선형 독립이어야 함.
- 기저의 비유일성
동일한 부분공간 H을 구성하는 기저 집합은 한 개가 아니라 여러 개가 존재할 수 있다
- 차원 (Dimension)
기저 자체는 여러 개일 수 있지만, 어떤 기저든 그 기저를 구성하는 벡터의 개수는 항상 고유함.
이 벡터의 개수를 부분 공간의 차원이라 부르며, dim H 로 표기함
5. 행렬의 열공간(Column Space) 과 랭크(Rank)
- 열공간(Column Space)
행렬 A의 열공간(Col A)은 A를 구성하는 열벡터들이 만들어내는 부분공간을 뜻함
- 만약 행렬에 선형 종속인 열이 있다면, 해당 열은 다른 열들의 선형 결합으로 만들어질 수 있으므로 열공간을 구할 떄는 배제됨
- 랭크(Rank)
행렬 A의 랭크는 행렬 A가 가지는 열공간의 차원(Dimension)을 의미
이를 수식으로 나타내면 rank A = dim Col A 가 됨.