Cách ôn thi môn học máy: lịch 4 tuần cho sinh viên kinh tế

Giả sử bạn có 1.000 hồ sơ vay tiêu dùng, trong đó 50 hồ sơ sau này thành nợ xấu. Mô hình lười nhất có thể làm là trả lời "không ai nợ xấu" cho cả 1.000 người. Độ chính xác: 95%. Nghe ổn đúng không? Nhưng nó bắt được đúng 0 trong 50 người cần bắt.

Giờ lấy một mô hình thứ hai. Nó bắt được 35 trong 50 hồ sơ xấu, đổi lại báo nhầm 60 hồ sơ tốt. Độ chính xác của nó là (35 + 890) / 1.000 = 92,5%. Trên giấy, nó "kém hơn" mô hình lười. Ngoài đời, nó là mô hình duy nhất có ích.

Tình huống kiểu này là chỗ phân biệt người hiểu với người chỉ thuộc công thức. Và nó cũng là điểm xuất phát tốt nhất cho bài này, vì cách ôn thi môn học máy hiệu quả không bắt đầu từ thuật toán nào cả. Nó bắt đầu từ việc biết mình đang đo cái gì.

Môn học máy khó ở đâu với sinh viên kinh tế, tài chính

Phần lớn sinh viên khối kinh tế học môn này sau khi đã qua xác suất thống kê và kinh tế lượng. Đó vừa là lợi thế vừa là cái bẫy. Lợi thế: hồi quy tuyến tính bạn đã quen, chương 3 đọc lướt cũng hiểu. Cái bẫy: kinh tế lượng dạy bạn hỏi "hệ số này có ý nghĩa thống kê không", còn học máy hỏi "mô hình này dự báo dữ liệu mới tốt đến đâu". Hai câu hỏi khác nhau, và dùng tư duy của câu này để trả lời câu kia là cách mất điểm phổ biến nhất.

Cái khó thứ hai là môn học vừa có toán, vừa có code, vừa có diễn giải. Một câu tự luận có thể yêu cầu bạn giải thích vì sao Lasso loại được biến, rồi ngay câu sau đưa một đoạn Python và hỏi kết quả in ra nghĩa là gì. Ôn thiếu một trong ba mảng là hụt ngay.

Cái khó thứ ba, và khó chịu nhất: tài liệu gốc thường bằng tiếng Anh. Thầy cô giảng tiếng Việt, slide nửa Việt nửa Anh, đề thi lại ra bằng tiếng Việt. Bạn đọc "overfitting", "bias-variance trade-off", "regularization" mà không chắc tiếng Việt gọi là gì thì gần như chắc chắn sẽ viết lủng củng trong bài tự luận.

Ba lỗi làm rớt điểm nhiều nhất khi học máy

Đo độ chính xác trên chính dữ liệu đã dùng để huấn luyện

Lỗi này nghe sơ đẳng, nhưng vẫn lọt vào bài thi của rất nhiều người, nhất là khi đề không nói thẳng. Đề cho một bảng: sai số trên tập huấn luyện của ba mô hình là 4,2, 2,9 và 0,8. Hỏi chọn mô hình nào. Người vội chọn 0,8. Mô hình đó có thể đang học thuộc nhiễu của dữ liệu, và sai số trên dữ liệu mới có thể là 19.

Muốn tránh, hãy tập một phản xạ: gặp con số sai số nào cũng hỏi "trên tập nào?". Huấn luyện, kiểm định hay kiểm tra. Nếu đề không nói, đó thường là chỗ đề cố tình để hở.

Rò rỉ dữ liệu: làm đúng thuật toán nhưng sai thứ tự

Đây là lỗi tinh vi hơn. Ví dụ bạn có 200 quan sát và 5.000 biến. Bạn chọn 20 biến tương quan mạnh nhất với biến mục tiêu, rồi mới chạy kiểm định chéo 5 phần trên 20 biến đó. Kết quả đẹp. Nhưng sai, vì bước chọn biến đã "nhìn thấy" nhãn của cả dữ liệu, kể cả phần lẽ ra phải giấu đi. Sai số kiểm định chéo lúc này lạc quan hơn thực tế, đôi khi lạc quan rất nhiều.

Quy tắc ngắn gọn: mọi bước dùng đến nhãn, kể cả chọn biến, chuẩn hóa, chọn tham số, đều phải nằm bên trong vòng lặp kiểm định chéo, không đứng trước nó. Đây là ví dụ kinh điển khi học phương pháp lấy mẫu lại, và nó đáng để bạn tự làm lại bằng tay một lần.

Nhầm Lasso với hồi quy ridge, và nhầm cả lý do

Cả hai đều thêm một khoản phạt vào hàm mục tiêu để ép hệ số nhỏ lại. Khác biệt nằm ở dạng của khoản phạt: ridge phạt tổng bình phương hệ số, Lasso phạt tổng giá trị tuyệt đối. Hệ quả là ridge co hệ số về gần 0 nhưng hiếm khi bằng 0, còn Lasso có thể đưa hẳn một số hệ số về đúng 0, nghĩa là nó vừa co vừa chọn biến.

Câu tự luận thường chấm ở chỗ bạn giải thích được hệ quả đó, không phải ở chỗ bạn viết lại được công thức. Một dàn ý ngắn cho câu này: nêu hai hàm phạt, nêu hệ quả với hệ số, nêu khi nào ưu tiên cái nào (nhiều biến yếu cùng có ích thì ridge; nghi ngờ chỉ ít biến thật sự quan trọng thì Lasso), rồi chốt bằng việc cả hai đều cần chọn tham số λ bằng kiểm định chéo.

Chạy tay một ví dụ: kiểm định chéo và Lasso có số

Không có cách nào hiểu kiểm định chéo nhanh hơn việc tự cộng vài con số. Giả sử có 500 quan sát, chia 5 phần, mỗi phần 100 quan sát. Mỗi lần, bạn huấn luyện trên 400 quan sát và đo sai số bình phương trung bình (MSE) trên 100 quan sát bị giấu. Năm lần cho ra: 12,1; 14,3; 11,8; 13,6; 13,2. Trung bình là 65,0 / 5 = 13,0. Đó là ước lượng MSE kiểm định chéo của bạn.

Rồi áp vào Lasso. Giả sử có 30 biến đầu vào và bạn thử bốn giá trị λ:

Nhìn cột 3, MSE huấn luyện chỉ tăng khi λ tăng, vì mô hình càng bị kìm thì càng khớp dữ liệu cũ kém đi. Nhìn cột 4, MSE kiểm định chéo giảm rồi tăng lại, đáy nằm ở λ = 0,1. Đó là mô hình bạn chọn: 11 biến, MSE 13,0. Mô hình 30 biến khớp dữ liệu cũ tốt nhất (7,9) nhưng dự báo dữ liệu mới tệ nhất trong bốn (15,8).

Bảng này là một câu hỏi thi rất điển hình, chỉ cần đổi số. Và cái đáng giá là bạn nhìn ra hình chữ U của cột cuối. Đó chính là đánh đổi giữa độ chệch và phương sai, thứ mà sách nào cũng vẽ thành hình nhưng ít người tự thấy trong số liệu.

Cách ôn thi môn học máy trong 4 tuần

Giả sử còn bốn tuần đến kỳ thi và bạn đã nghe giảng ít nhiều. Chia thời gian như sau là hợp lý, dù bạn có thể xê dịch theo đề cương môn của trường:

Tổng khoảng 37 giờ. Con số không lớn, nhưng chỉ đủ nếu mỗi buổi bạn thật sự làm bài, không chỉ đọc. Đọc lại ghi chú cảm giác như đang ôn, nhưng thường chỉ là đang quen mặt chữ.

Trong mỗi buổi, thử chia ba phần: khoảng 20 phút đọc lý thuyết, 40 phút làm bài tập, 10 phút ghi lại một câu "mình hay sai ở đâu". Sau hai tuần, cuốn sổ lỗi này quý hơn mọi bản tóm tắt. Nó cho bạn biết lỗi lặp lại của chính mình, mà bạn thì thường không tự nhớ nổi nếu không viết ra.

Một điều chỉnh khác: đừng để học không giám sát vào hôm cuối. Tuần 4 vẫn dành cho chương 10, nhưng hãy lướt qua ngay từ tuần 2 để bớt lạ. Lấy ví dụ PCA. Giả sử bạn có hai biến cho mỗi cổ phiếu: lợi suất tính bằng phần trăm với độ lệch chuẩn 2, và vốn hóa tính bằng tỷ đồng với độ lệch chuẩn 500. Phương sai lần lượt là 4 và 250.000. Nếu không chuẩn hóa, thành phần chính thứ nhất gần như chỉ phản ánh vốn hóa, chiếm khoảng 250.000 / 250.004 ≈ 99,998% tổng phương sai. Kết quả đúng về toán, vô nghĩa về kinh tế. Nhớ chuẩn hóa biến trước khi chạy PCA là loại điểm dễ lấy nhất của chương này.

Đọc code Python thế nào cho khỏi mù

Với sinh viên kinh tế, code thường là phần gây áp lực nhất. Cách đỡ đau nhất mình biết: đừng đọc code từ trên xuống như đọc truyện. Chạy nó trước, rồi hỏi từng dòng "dòng này trả ra cái gì".

Cụ thể, lấy một đoạn kiểm định chéo có sẵn, chạy được. Sau đó đổi đúng một thứ, ví dụ số phần từ 5 thành 10, và nhìn xem sai số trung bình dịch chuyển bao nhiêu. Rồi đổi λ. Rồi cố tình đưa bước chuẩn hóa ra ngoài vòng lặp và xem điểm số đẹp lên một cách đáng ngờ như thế nào. Làm vậy bốn, năm lần bạn sẽ hiểu cái gì quan trọng hơn bất kỳ lời giải thích nào.

Chỉ có điều: code chạy thật mới dạy được kiểu học này. Đoạn code bị lỗi thư viện, thiếu dữ liệu, hoặc chỉ là mô tả bằng chữ thì không. Khi chọn tài liệu, hãy kiểm tra xem code có chạy lại được hay không.

Nếu bạn cân nhắc tài liệu ôn 382 trang

Phần này nói về tài liệu mình đang giới thiệu cho bạn, với cả những chỗ nó không làm được.

Đề cương ôn tập Học máy bản Việt/Anh là file PDF 382 trang, viết song ngữ, dành cho sinh viên đại học khối kinh tế, tài chính, công nghệ tài chính cần ôn thi học phần. Mười chương đi từ học máy là gì và quy trình làm việc, qua đánh giá độ chính xác, hồi quy tuyến tính, phân lớp, lấy mẫu lại, chọn mô hình và chính quy hóa, phần vượt ra ngoài tuyến tính, cây quyết định và phương pháp tổ hợp, máy vectơ hỗ trợ, rồi kết thúc ở học không giám sát. Nội dung có kiểm định chéo, Lasso, rừng ngẫu nhiên, PCA, phân cụm và các ứng dụng tài chính.

Mỗi phần có bài tập kèm lời giải, câu tự luận có dàn ý, câu trắc nghiệm có đáp án và mã Python chạy thật. Bản song ngữ giúp bạn đối chiếu thuật ngữ: đọc khái niệm bằng tiếng Việt cho thoải mái, rồi đối chiếu thuật ngữ tiếng Anh để quen với cách các giáo trình và bài báo quốc tế gọi tên.

Còn đây là những việc nó không làm thay bạn được. Đây không thay được giáo trình hay bài giảng của trường bạn. Mỗi trường, mỗi thầy cô nhấn mạnh một chỗ khác nhau, và nếu thầy cô bảo "phần SVM chỉ cần biết ý tưởng" thì bạn nên nghe thầy cô trước. Tài liệu cũng không có video bài giảng: nó là PDF, bạn đọc và làm bài, không ai ngồi giảng cho bạn. Và 382 trang không phải thứ đọc hết trong một đêm. Nếu bạn còn ba ngày đến kỳ thi và chưa học gì, chọn chương theo đề cương của trường rồi làm bài tập của chương đó, đừng cố đi từ trang đầu.

Về giá: 134.000đ cho cả 382 trang, tính ra khoảng 350 đồng một trang. Thanh toán bằng chuyển khoản trong nước, và file được gửi trong vòng 24 giờ. Trước khi quyết định, bạn có 5 trang xem trước miễn phí. Hãy dùng 5 trang đó đúng cách: đừng chỉ liếc bố cục. Xem lời giải có đi từng bước không, dàn ý tự luận có đủ ý để bạn viết lại bằng lời mình không, và mã Python có khớp với cách bạn đang học trên lớp không. Nếu không khớp, bỏ qua cũng không sao.

Nếu muốn xem thử, trang tài liệu nằm ở đây: Đề cương ôn tập Học máy — Việt/Anh. Mở 5 trang xem trước, so với đề cương môn của bạn, rồi quyết định.