Trong bài trước, ta đã nhìn trị riêng, vector riêng và chéo hoá như một cách đọc cấu trúc của một ánh xạ tuyến tính. Nhưng bức tranh ấy vẫn chưa phải là trường hợp đẹp nhất.

Có những ma trận tuy nhìn vẫn pha trộn nhiều tọa độ, nhưng khi bóc đúng lớp của chúng ra, ta phát hiện:

• mọi trị riêng đều là số thực;
• các hướng riêng tự nhiên lại vuông góc với nhau;
• và toàn bộ ánh xạ có thể được mô tả bằng một cơ sở trực chuẩn.

Đó là thế giới của ma trận đối xứng, của chéo hoá trực giao, và cũng là nơi định lí phổ hiện ra theo cách sạch nhất.

Nếu bài trước cho ta ngôn ngữ để đọc ánh xạ qua các hướng riêng, thì bài này cho ta trường hợp mà cách đọc ấy trở nên trong suốt nhất.

1. Trực giác: các trục chính của một hình bị kéo méo

Hãy nghĩ đến một hình tròn bị biến thành một ellipse.

Khi đó có hai hướng đặc biệt:

• một hướng cho trục dài nhất;
• một hướng cho trục ngắn nhất.

Hai hướng ấy vuông góc nhau. Nếu chọn chính chúng làm hệ trục mới, thì ellipse trở nên dễ hiểu ngay: theo một trục thì bị kéo nhiều, theo trục kia thì bị kéo ít hơn.

Đó là trực giác của chéo hoá trực giao:

với một ánh xạ đối xứng, luôn tồn tại một hệ trục vuông góc đặc biệt mà trong hệ trục đó, ánh xạ chỉ còn là co giãn độc lập theo từng trục.

Ở đây, điều quan trọng không chỉ là “ma trận trở thành chéo”, mà là:

• các trục ấy là những hướng riêng của ánh xạ;
• chúng lại còn vuông góc với nhau;
• nên ta không phải đổi sang một hệ trục xiên, mà sang một hệ trục vẫn giữ nguyên hình học Euclid.

2. Ma trận đối xứng là gì, và vì sao nó đáng quan tâm?

$$ A^T=A. $$$$ \begin{bmatrix} 2 & 1\\ 1 & 2 \end{bmatrix} $$$$ \begin{bmatrix} 1 & 1\\ 0 & 1 \end{bmatrix} $$

thì không.

Ma trận đối xứng xuất hiện ở rất nhiều nơi:

• trong các dạng toàn phương;
• trong hình học của ellipse và ellipsoid;
• trong các bài toán cơ học;
• trong ma trận hiệp phương sai của dữ liệu;
• trong nhiều bài toán tối ưu.

Nếu nói bằng trực giác, ma trận đối xứng là lớp ma trận mà phần “co giãn theo các phương” lộ ra rõ hơn phần “xoắn” hay “nghiêng”. Chính vì vậy, chúng là bối cảnh tự nhiên nhất để làm phân tích phổ.

3. Các tính chất phổ của ánh xạ đối xứng

Với ma trận đối xứng thực, định lý phổ cho ba tính chất:

1. mọi trị riêng đều là số thực;
2. các vector riêng ứng với các trị riêng khác nhau luôn trực giao;
3. từ đó, ta có thể chọn một cơ sở trực chuẩn gồm toàn vector riêng.

Ba mệnh đề này là lõi của câu chuyện. Chúng nói rằng:

• ánh xạ không chỉ có các hướng riêng;
• mà các hướng riêng ấy còn sắp xếp với nhau rất gọn;
• vì thế ta có thể biểu diễn ánh xạ trong một hệ trục trực chuẩn.

Đây là điểm mà chéo hoá trực giao mạnh hơn chéo hoá thông thường.

4. Định lí phổ: phát biểu và ý nghĩa

Phiên bản quen thuộc nhất của định lí phổ là:

$$ > A=QDQ^T. > $$

$$ Q^{-1}=Q^T. $$

Đây không chỉ là một công thức đẹp. Nó nói rằng:

• các cột của $Q$ là một cơ sở trực chuẩn gồm các vector riêng;
• ma trận chéo $D$ ghi lại các trị riêng tương ứng;
• và toàn bộ ánh xạ được đọc bằng cách “chiếu lên các trục riêng rồi co giãn theo từng trục”.

$$ A=\lambda_1 q_1 q_1^T+\cdots+\lambda_n q_n q_n^T. $$

Đây là một dạng phân tích phổ rất quan trọng. Nó cho thấy ánh xạ được tách thành các thành phần riêng rẽ, mỗi thành phần:

• chọn lấy phần của vector nằm theo hướng $q_i$;
• rồi nhân phần ấy với $\lambda_i$.

$$ Ax=\lambda_1\langle x,q_1\rangle q_1+\cdots+\lambda_n\langle x,q_n\rangle q_n. $$

Ý nghĩa của phân tích phổ là ánh xạ được phân rã thành các mode hành vi vuông góc với nhau.

5. Một ví dụ đầy đủ

$$ A= \begin{bmatrix} 2 & 1\\ 1 & 2 \end{bmatrix}. $$

Ta sẽ không chỉ chéo hoá trực giao ma trận này, mà còn dùng nó để hiểu ánh xạ đang làm gì.

5.1 Tìm trị riêng

$$ \det(A-\lambda I)=0. $$$$ \det\begin{bmatrix} 2-\lambda & 1\\ 1 & 2-\lambda \end{bmatrix} =(2-\lambda)^2-1. $$$$ (2-\lambda)^2-1=0 \quad\Longrightarrow\quad \lambda_1=3,\qquad \lambda_2=1. $$

5.2 Tìm các vector riêng

$$ (A-3I)x=0 \quad\Longrightarrow\quad y=x. $$$$ v_1= \begin{bmatrix} 1\\ 1 \end{bmatrix}. $$$$ (A-I)x=0 \quad\Longrightarrow\quad y=-x. $$$$ v_2= \begin{bmatrix} 1\\ -1 \end{bmatrix}. $$$$ \left\langle \begin{bmatrix} 1\\ 1 \end{bmatrix}, \begin{bmatrix} 1\\ -1 \end{bmatrix} \right\rangle =0. $$

5.3 Chuẩn hoá để có cơ sở trực chuẩn

$$ q_1=\frac{1}{\sqrt2} \begin{bmatrix} 1\\ 1 \end{bmatrix}, \qquad q_2=\frac{1}{\sqrt2} \begin{bmatrix} 1\\ -1 \end{bmatrix}. $$$$ Q= \begin{bmatrix} \frac{1}{\sqrt2} & \frac{1}{\sqrt2}\\ \frac{1}{\sqrt2} & -\frac{1}{\sqrt2} \end{bmatrix}, \qquad D= \begin{bmatrix} 3 & 0\\ 0 & 1 \end{bmatrix}. $$$$ A=QDQ^T. $$

5.4 Đọc ý nghĩa hình học

Điều đáng quan tâm hơn là:

• theo hướng $q_1=\frac{1}{\sqrt2}(1,1)$, ánh xạ nhân độ lớn lên $3$ lần;
• theo hướng $q_2=\frac{1}{\sqrt2}(1,-1)$, ánh xạ giữ nguyên độ lớn vì trị riêng bằng $1$.

$$ x=\alpha q_1+\beta q_2, $$$$ Ax=3\alpha q_1+\beta q_2. $$

Toàn bộ ánh xạ bây giờ đã lộ cấu trúc:

• có một mode “đồng pha” theo hướng $(1,1)$ được khuếch đại mạnh;
• có một mode “đối pha” theo hướng $(1,-1)$ được giữ nguyên;
• hai mode này vuông góc với nhau nên không làm nhiễu nhau.

Đây chính là điều người ta muốn khi nói “hiểu” một ánh xạ bằng phân tích phổ.

6. Viết lại ví dụ trên dưới dạng phân tích phổ

$$ A=3q_1q_1^T+1\cdot q_2q_2^T. $$$$ q_1q_1^T =\frac12 \begin{bmatrix} 1 & 1\\ 1 & 1 \end{bmatrix}, \qquad q_2q_2^T =\frac12 \begin{bmatrix} 1 & -1\\ -1 & 1 \end{bmatrix}. $$

Do đó $$ A =\frac32 \begin{bmatrix} 1 & 1\ 1 & 1 \end{bmatrix} +\frac12 \begin{bmatrix} 1 & -1\ -1 & 1 \end{bmatrix}

\begin{bmatrix} 2 & 1\ 1 & 2 \end{bmatrix}. $$

Cách viết này rất hay vì nó cho ta một cách hiểu khác:

• $q_1q_1^T$ là phép chiếu trực giao lên hướng $q_1$;
• $q_2q_2^T$ là phép chiếu trực giao lên hướng $q_2$;
• ma trận $A$ là tổ hợp có trọng số của hai phép chiếu ấy.

Tức là ánh xạ không chỉ “có” hai hướng riêng. Nó được tạo nên từ chính hai hướng riêng đó.

7. Vì sao chéo hoá trực giao đẹp hơn chéo hoá thường?

7.1 Đổi cơ sở mà không làm méo hình học

Trong chéo hoá thông thường, ta đổi sang một cơ sở có thể rất xiên. Khi đó ma trận mới đơn giản hơn, nhưng bản thân hệ trục mới lại có thể làm trực giác hình học kém đi.

Trong chéo hoá trực giao thì khác:

• cơ sở mới vẫn là một cơ sở trực chuẩn;
• góc và độ dài vẫn được giữ theo đúng chuẩn Euclid;
• ta chỉ đơn giản là quay hệ trục sang một hướng hợp lý hơn.

Vì thế, $Q$ không chỉ là một ma trận đổi cơ sở. Nó là một cách nhìn lại không gian mà không làm biến dạng thước đo của ta.

7.2 Các toạ độ mới chính là các thành phần chiếu

$$ \langle x,q_1\rangle,\dots,\langle x,q_n\rangle. $$

Nhờ tính trực chuẩn, ta không cần giải một hệ tuyến tính tổng quát để tìm toạ độ; mỗi toạ độ được tính bằng phép chiếu lên trục riêng tương ứng.

Chính vì vậy, chéo hoá trực giao không chỉ đẹp về lý thuyết, mà còn rất tự nhiên trong tính toán và diễn giải.

8. Vì sao lớp ma trận đối xứng lại là đích đến đẹp nhất của nhánh eigen?

Bài trước cho ta thấy:

• có ma trận không đủ nhiều vector riêng;
• có ma trận không có vector riêng thực nào;
• có ma trận chéo hoá được nhưng cơ sở riêng lại không trực giao.

Ma trận đối xứng là nơi mọi thứ đẹp lên cùng lúc:

• không gian vẫn là không gian thực;
• các mode riêng tách nhau ra rõ ràng;
• và ta không phải trả giá bằng một hệ trục xiên.

Đó là lý do tại sao trong rất nhiều ứng dụng, người ta đặc biệt thích ma trận đối xứng: vì phổ của nó mang ý nghĩa hình học sạch và dễ diễn giải.

9. Chéo hoá trực giao giúp hiểu ánh xạ đối xứng theo những câu hỏi nào?

Khi đứng trước một ma trận đối xứng, bạn có thể hỏi:

1. Các trục chính của ánh xạ là những hướng nào?
2. Trên mỗi trục ấy, ánh xạ đang khuếch đại hay co lại bao nhiêu?
3. Có trục nào bị đổi chiều do trị riêng âm không?
4. Ánh xạ này có đang ưu tiên một vài mode hơn hẳn các mode còn lại không?
5. Nếu đây là ma trận hiệp phương sai hay một dạng toàn phương, thì những hướng nào là hướng quan trọng nhất?

Những câu hỏi đó chính là cách đọc một ánh xạ đối xứng bằng phân tích phổ.

10. Kết luận

Điều nên giữ lại sau bài này là:

• với ma trận đối xứng, phân tích trị riêng đạt đến dạng đẹp nhất;
• các vector riêng không chỉ tồn tại mà còn trực giao với nhau;
• chéo hoá trực giao cho ta công thức $$ A=QDQ^T, $$ còn phân tích phổ cho ta cách nhìn sâu hơn $$ A=\sum_i \lambda_i q_i q_i^T; $$
• nhờ đó, ta hiểu ánh xạ như một tổng của các mode riêng vuông góc, mỗi mode có cường độ riêng của nó.

Nếu bài trước trả lời câu hỏi “ánh xạ có những hướng riêng nào?”, thì bài này trả lời câu hỏi đẹp hơn:

khi ánh xạ là đối xứng, liệu ta có thể hiểu toàn bộ nó chỉ bằng những trục chính vuông góc hay không?

Và câu trả lời là: có.

Đọc tiếp

• Trị riêng, vector riêng và chéo hoá: đọc cấu trúc của một ánh xạ tuyến tính: bài nền để thấy chéo hoá trực giao là trường hợp đẹp nhất của phân tích ánh xạ bằng các hướng riêng.
• Trực giao và trực chuẩn hoá Gram-Schmidt: vì toàn bộ bài này sống trong thế giới của các cơ sở trực chuẩn.
• Phân tích QR: tách ma trận thành hướng vuông góc và hệ số pha trộn: QR là một nhánh khác của cùng một tinh thần, thay hệ trục xiên bằng hệ trục trực chuẩn.