“Tản mạn ghi chú về các định lý xác suất”

1. Tại sao người ta thích Định lý Giới hạn Trung tâm (CLT) đến vậy?

Trong thực tế, mỗi loại dữ liệu có thể theo một phân phối khác nhau, khiến việc xây dựng kiểm định hay ước lượng trở nên phức tạp. Vậy làm sao ước lượng và ra quyết định khi không biết rõ phân phối thật sự của dữ liệu?

Trong trường hợp i.i.d. với kỳ vọng và phương sai hữu hạn, CLT cho biết phân phối của trung bình mẫu đã chuẩn hóa hội tụ về phân phối chuẩn. Cỡ mẫu cần thiết để xấp xỉ tốt phụ thuộc vào phân phối gốc; điều kiện “$n$ đủ lớn” không có một ngưỡng chung cho mọi phân phối.

Kết quả này là cơ sở cho nhiều phép xấp xỉ chuẩn trong suy luận thống kê, với điều kiện phải kiểm tra các giả thiết và chất lượng xấp xỉ ở cỡ mẫu đang có.

2. Ba định lý quan trọng trong xác suất

Giả sử ta phân công nhiều đội cùng khảo sát chất lượng nước trong một hồ, mỗi đội đều có cỡ mẫu đủ lớn.

2.1. Luật Số lớn Yếu (WLLN)

(Đọc bài viết phân tích chi tiết: Luật số lớn (Law of Large Numbers))

Cho $X_1, X_2, \dots \overset{\mathrm{i.i.d.}}{\sim} \mathcal{D}$, $\mathbb{E}[\mathcal{D}] = \mu$, $\mathrm{Var}(\mathcal{D}) = \sigma^2 < \infty$.

Ký hiệu trung bình mẫu là $\bar{X}n := \frac{1}{n} \sum{i=1}^n X_i.$ Khi đó,

$$\bar{X}_n \xrightarrow{p} \mu, \text{khi } n \to \infty.$$$$\lim_{n \to \infty} P(|\bar{X}_n - \mu| > \epsilon) = 0, \quad \forall \epsilon > 0.$$

Hiểu: Khi cỡ mẫu lớn, đa số kết quả của các đội sẽ gần nhau và gần giá trị thật $\mu$.

2.2. Luật Số lớn Mạnh (SLLN)

Cho $X_1, X_2, \ldots \overset{\mathrm{i.i.d.}}{\sim} \mathcal{D}$, $\mathbb{E}[\mathcal{D}] = \mu$, $\mathbb{E}[|\mathcal{D}|] < \infty$.

$$\mathbb{P}!\left(\lim_{n\to\infty}\bar{X}_n=\mu\right)=1.$$

Ghi chú: Điều kiện $\mathbb{E}|X_1|<\infty$ là đủ trong trường hợp i.i.d.; không cần giả thiết phương sai hữu hạn. SLLN $\Rightarrow$ WLLN.

Hiểu: Trên gần mọi dãy quan sát vô hạn do mô hình sinh ra, trung bình của $n$ quan sát đầu hội tụ về $\mu$ khi $n\to\infty$. “Gần như chắc chắn” là phát biểu về giới hạn của cả dãy, không bảo đảm sai số nhỏ tại một cỡ mẫu hữu hạn cụ thể.

2.3. Định lý Giới hạn Trung tâm (CLT)

Cho $X_1, X_2, \dots \overset{\mathrm{i.i.d.}}{\sim} \mathcal{D}$, $\mathbb{E}[\mathcal{D}] = \mu$, $\mathrm{Var}(\mathcal{D}) = \sigma^2 < \infty$.

Đặt $T_n := \frac{\bar{X}_n - \mu}{\sigma / \sqrt{n}}$.

$$T_n \xrightarrow{d} \mathcal{N}(0,1),$$$$\lim_{n \to \infty} F_{T_n}(x) = \Phi(x), \quad \forall x \in \mathbb{R},$$

tại các điểm liên tục của $\Phi$.

Hiểu: CLT cho biết hình dạng phân phối của sai số: trung bình mẫu chuẩn hoá sẽ tiệm cận phân phối chuẩn chuẩn hoá $\mathcal{N}(0,1)$ khi cỡ mẫu đủ lớn, dù phân phối gốc không chuẩn.

Điều này cho phép, dưới dạng xấp xỉ khi $n$ đủ lớn:

• Ước lượng độ biến thiên của kết quả giữa các đội: trung bình mẫu đã chuẩn hóa có phân phối gần chuẩn, với sai số chuẩn $\sigma/\sqrt{n}$ khi $\sigma$ đã biết hoặc được ước lượng thích hợp.
• Xây dựng khoảng tin cậy và kiểm định giả thiết với các điều kiện bổ sung tương ứng.
• Định lượng xem sự khác biệt giữa hai đội có đáng kể về mặt thống kê hay chỉ là dao động ngẫu nhiên.

Nếu sự khác biệt có ý nghĩa thống kê theo một mô hình đã chọn, dữ liệu không phù hợp với giả thiết hai đội có cùng cơ chế sinh quan sát. Nguyên nhân có thể là sai khác thật giữa vị trí hoặc thời điểm lấy mẫu, vi phạm giả thiết độc lập, sai số đo hay vấn đề quy trình; kiểm định tự nó không xác định nguyên nhân.