Decision-Tree - Nhãn - NZQIRC https://nzqirc.xyz/tags/decision-tree/ Decision-Tree - Nhãn - NZQIRC Hugo -- gohugo.ioviThis work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License.Sun, 30 Aug 2026 16:00:00 +0700 Chỉ số Gini (Gini Impurity): Đo độ hỗn tạp từ một trò chơi xác suất https://nzqirc.xyz/posts/math/stats/gini-impurity/ Sun, 30 Aug 2026 16:00:00 +0700 Du Mã https://nzqirc.xyz/posts/math/stats/gini-impurity/ Khi thuật toán cây phân loại CART (Classification and Regression Trees) đứng trước một tập dữ liệu, nhiệm vụ cốt lõi của nó là tìm ra một câu hỏi dạng $x_j \le s$ để tách các quan sát thành hai nhánh sao cho dữ liệu ở mỗi nhánh trở nên “ngăn nắp” hơn nút ban đầu.

Để máy tính tự động chọn được đặc trưng $x_j$ và ngưỡng chia $s$ tối ưu, ta cần một con số cụ thể trả lời câu hỏi: Nút này đang thuần khiết hay đang hỗn loạn, xáo trộn?

]]> Random Forest: Khi nhiều cây quyết định cùng bỏ phiếu https://nzqirc.xyz/posts/math/stats/random-forest/ Sun, 30 Aug 2026 14:00:00 +0700 Du Mã https://nzqirc.xyz/posts/math/stats/random-forest/ Một cây quyết định (Decision Tree) có cách suy luận dễ theo dõi: đặt một câu hỏi về dữ liệu, chia các quan sát thành hai nhóm, rồi lặp lại. Tuy nhiên, cây có thể khá nhạy với dữ liệu huấn luyện. Chỉ vài quan sát thay đổi cũng có thể làm phép chia gần gốc đổi chỗ, kéo theo một cấu trúc cây khác.

Rừng ngẫu nhiên (Random Forest) xử lý điểm yếu ấy bằng một ý tưởng đơn giản: tạo nhiều cây hơi khác nhau rồi gộp dự đoán của chúng. Mỗi cây được huấn luyện trên một mẫu bootstrap, đồng thời chỉ được xét một tập con ngẫu nhiên của các đặc trưng tại mỗi nút. Với bài toán phân loại, các cây bỏ phiếu; với bài toán hồi quy, ta lấy trung bình các dự đoán.

]]> Cây quyết định (Decision Tree): Một câu hỏi chia đôi dữ liệu https://nzqirc.xyz/posts/math/stats/decision-tree/ Sun, 30 Aug 2026 13:00:00 +0700 Du Mã https://nzqirc.xyz/posts/math/stats/decision-tree/ Một cây quyết định học bằng cách đặt liên tiếp những câu hỏi đơn giản. Chẳng hạn, với một hồ sơ tín dụng, cây có thể hỏi “tỷ lệ nợ có vượt 40% không?”, rồi ở mỗi nhánh lại hỏi thêm về thu nhập hoặc lịch sử trả nợ. Đi hết một đường từ gốc tới lá, ta nhận được một dự đoán.

Sự đơn giản này dễ tạo cảm giác rằng cây chỉ là một sơ đồ if–else được viết bằng tay. Điểm khác biệt nằm ở chỗ dữ liệu quyết định câu hỏi nào được đặt, đặt ở đâu và khi nào dừng lại. Bài viết sẽ đi từ một phép chia duy nhất tới toàn bộ cây, sau đó chỉ ra vì sao một cây đơn thường được dùng làm viên gạch cơ sở cho Random Forest.

]]>