Định lí cơ bản của đại số tuyến tính
Nếu chỉ học khử Gauss để giải $Ax=b$, ta mới nhìn thấy phần “tính toán” của đại số tuyến tính. Nhưng phía sau phương trình ấy là một bức tranh hình học rộng hơn nhiều. Một ma trận $A$ không chỉ tạo ra một không gian cột hay một kernel; nó đồng thời sinh ra bốn không gian con có quan hệ rất chặt với nhau.
Đó là nội dung cốt lõi của định lí cơ bản của đại số tuyến tính.
1. Bốn không gian con cần nhớ
$$ A\in\mathbb{R}^{m\times n}. $$Từ ma trận này, ta có bốn không gian con quan trọng:
1.1 Không gian cột
$$ Ax. $$Nói bằng lời:
không gian cột là tập các đích đến mà phép biến đổi thật sự chạm tới được.
1.2 Không gian nghiệm
$$ Ax=0. $$Đây chính là kernel của ánh xạ $x\mapsto Ax$.
Nói bằng lời:
không gian nghiệm là tập những hướng đầu vào bị ma trận làm biến mất hoàn toàn.
1.3 Không gian hàng
Không gian hàng, ký hiệu là $\operatorname{Row}(A)$, là không gian sinh bởi các hàng của $A$. Nó cũng chính là không gian cột của $A^T$.
Đây là một không gian con của $\mathbb{R}^n$, cùng sống ở phía “đầu vào” với $\mathcal{N}(A)$.
1.4 Không gian nghiệm trái
$$ \mathcal{N}(A^T)=\{y\in\mathbb{R}^m: A^T y=0\}. $$Đây là không gian con sống ở phía “đầu ra”, cùng với $\operatorname{Col}(A)$.
Nó đóng vai trò rất quan trọng trong bài toán bình phương tối thiểu, vì sai số tốt nhất luôn nằm trong không gian này.
2. Hai quy luật về số chiều
Giả sử hạng của ma trận $A$ là $r$. Khi đó định lí cơ bản bắt đầu bằng các đẳng thức rất quan trọng:
$$ \dim(\operatorname{Col}(A))=\dim(\operatorname{Row}(A))=r. $$$$ \dim(\mathcal{N}(A))=n-r, \qquad \dim(\mathcal{N}(A^T))=m-r. $$Nói gọn hơn:
- phía đầu vào $\mathbb{R}^n$ tách thành phần “còn nhìn thấy” và phần “bị triệt tiêu”;
- phía đầu ra $\mathbb{R}^m$ tách thành phần “thật sự đạt tới được” và phần “vuông góc với mọi đầu ra”.
Đây là cách định lí cơ bản phân chia toàn bộ bức tranh thành bốn vùng rõ ràng.
3. Hai quan hệ trực giao
Phần đẹp nhất của định lí là bốn không gian trên không xuất hiện rời rạc. Chúng ghép thành hai cặp trực giao:
$$ \mathcal{N}(A)\perp \operatorname{Row}(A), \qquad \mathcal{N}(A^T)\perp \operatorname{Col}(A). $$3.1 Vì sao $\mathcal{N}(A)$ vuông góc với $\operatorname{Row}(A)$?
Nếu $x\in\mathcal{N}(A)$ thì $Ax=0$. Điều đó có nghĩa là mỗi hàng của $A$ khi chấm với $x$ đều cho ra $0$. Vì thế $x$ vuông góc với từng hàng, và do đó vuông góc với mọi tổ hợp tuyến tính của các hàng.
$$ x\in \mathcal{N}(A) \Longrightarrow x\perp \operatorname{Row}(A). $$3.2 Vì sao $\mathcal{N}(A^T)$ vuông góc với $\operatorname{Col}(A)$?
Lập luận tương tự. Nếu $y\in\mathcal{N}(A^T)$ thì $A^T y=0$, nghĩa là $y$ vuông góc với từng cột của $A$, và do đó vuông góc với toàn bộ không gian cột.
$$ y\in \mathcal{N}(A^T) \Longrightarrow y\perp \operatorname{Col}(A). $$Hai quan hệ trực giao này là phần hình học sâu nhất của định lí.
4. Bức tranh của phương trình $Ax=b$
$$ Ax=b $$có nghiệm.
4.1 Khi nào hệ có nghiệm?
$$ b\in \operatorname{Col}(A). $$Nói bằng lời:
hệ có nghiệm khi và chỉ khi vectơ $b$ nằm trong không gian cột.
Nếu $b$ nằm ngoài không gian cột, thì không có đầu vào nào tạo ra đúng $b$.
4.2 Nếu hệ có nghiệm, nghiệm trông như thế nào?
$$ x=x_r+x_n $$$$ x_n\in\mathcal{N}(A). $$Nghĩa là:
- một phần để chạm tới đúng $b$;
- một phần nằm trong null space nên cộng thêm cũng không làm đổi đầu ra.
Đây là lý do không gian nghiệm của hệ không thuần nhất luôn là “một nghiệm riêng cộng với null space”.
5. Khi $Ax=b$ vô nghiệm: bình phương tối thiểu
Nếu $b$ không thuộc $\operatorname{Col}(A)$, hệ không có nghiệm đúng. Khi đó ta chuyển sang bài toán:
$$ p=Ax. $$$$ e=b-p $$$$ e\in \mathcal{N}(A^T). $$$$ A^T(Ax-b)=0 \quad\Longleftrightarrow\quad A^TAx=A^Tb. $$tìm $x$ sao cho $Ax$ gần $b$ nhất có thể.
Vì vậy, không gian nghiệm trái không phải là một đối tượng phụ. Nó chính là nơi “sống” của phần sai số còn lại sau khi ta chiếu $b$ lên không gian cột.
6. Nhìn cao hơn một bậc: vì sao SVD xuất hiện?
Nếu muốn chọn cơ sở đẹp nhất cho bốn không gian con trên, ta đi đến SVD.
Ý tưởng là:
- chọn một cơ sở trực chuẩn cho không gian hàng và null space;
- chọn một cơ sở trực chuẩn cho không gian cột và left null space;
- trong các cơ sở ấy, ma trận có dạng chéo theo các giá trị kỳ dị.
Đó là lý do SVD thường được xem như phiên bản “hoàn chỉnh” của định lí cơ bản: nó không chỉ nói các không gian nào xuất hiện, mà còn cho ta các cơ sở trực chuẩn tốt nhất để nhìn chúng.
Ở mức nhập môn, bạn chưa cần giữ hết kỹ thuật của SVD. Điều đáng nhớ là:
định lí cơ bản mô tả quan hệ hình học giữa bốn không gian con, còn SVD cung cấp các cơ sở trực chuẩn thích nghi với những quan hệ ấy.
7. Tóm tắt ngắn gọn
Toàn bộ định lí có thể nén thành mấy ý sau:
- ma trận $A$ sinh ra bốn không gian con: không gian cột, không gian hàng, null space và left null space;
- không gian cột và không gian hàng có cùng số chiều, bằng hạng của ma trận;
- null space vuông góc với không gian hàng;
- left null space vuông góc với không gian cột;
- hệ $Ax=b$ có nghiệm khi $b$ nằm trong không gian cột;
- nếu vô nghiệm, lời giải bình phương tối thiểu đến từ phép chiếu vuông góc lên không gian cột.
Đó là lý do định lí cơ bản của đại số tuyến tính được xem là một trong những “bản đồ lớn” nhất của môn học này.
Đọc tiếp
- Kernel, image và định lý rank-nullity: đây là phiên bản nhập môn hơn của phần kernel, image và số chiều trong định lí cơ bản.
- Phép biến đổi tuyến tính, ma trận biểu diễn và đổi cơ sở: để quay lại từ bức tranh bốn không gian con về đối tượng gốc là ánh xạ tuyến tính.