Black-box AI Trading và khả năng giải thích #27

Nội dung này phục vụ mục đích giáo dục, không phải lời khuyên đầu tư hoặc tín hiệu giao dịch.

Trả lời ngắn: Black-box AI là model tạo kết quả nhưng con người khó nhìn trực tiếp cách từng đầu vào dẫn tới kết quả đó. Khả năng giải thích giúp mô tả lý do hoặc cơ chế, nhưng không tự chứng minh model đúng. Trong trading, phải giải thích riêng dự đoán, quy tắc tạo tín hiệu và điều kiện đặt lệnh.

Đọc xong, bạn sẽ hiểu:

• Black-box nằm ở đâu trong một hệ thống AI Trading.
• Global explanation khác local explanation thế nào.
• Cách kiểm tra một lời giải thích trước khi cho hệ thống tự động hành động.

1. Black-box nằm ở đâu trong chuỗi AI Trading?

a. Khó nhìn không đồng nghĩa với vô dụng

Một model tuyến tính nhỏ có vài hệ số thường dễ đọc. Ngược lại, một ensemble gồm nhiều cây hoặc neural network có thể chứa quá nhiều quan hệ để con người theo dõi bằng mắt. Ta gọi nó là black-box vì đường đi từ input tới output khó quan sát trực tiếp, không phải vì bên trong hoàn toàn bí ẩn.

Hãy tưởng tượng hóa đơn chỉ in tổng cộng 580.000 đồng. Người trả tiền vẫn cần từng món và đơn giá để kiểm tra. Lời giải thích của model giống phần chi tiết đó: giúp hỏi đúng chỗ nhưng không thay việc đối chiếu.

Interpretability là mức con người hiểu hành vi model từ chính cấu trúc. Explainability là khả năng cung cấp lý do dễ hiểu về output hoặc quy trình.

b. Một hệ thống có ba câu hỏi khác nhau

Trong AI Trading, prediction là kết quả dự đoán, chẳng hạn xác suất giá tăng trong 15 phút là 58%. Signal là quyết định chiến lược tạo từ prediction, ví dụ chỉ coi là tín hiệu khi xác suất vượt ngưỡng. Order là yêu cầu gửi tới sàn, gồm khối lượng, loại lệnh và giới hạn rủi ro.

Model có thể giải thích prediction bằng momentum và spread, còn risk rule chặn order vì spread cao. Gom cả ba thành “AI quyết định” dễ khiến đội vận hành sửa nhầm model.

NIST xem explanation có thể liên quan tới cả output lẫn process. NIST cũng nêu bốn nguyên tắc: hệ thống phải có lý do, lý do có ý nghĩa với người nhận, phản ánh đúng quá trình và biết giới hạn hiểu biết của mình (NISTIR 8312).

Hình 1 — Ba cửa sổ kiểm toán phải tách prediction, signal và order; giải thích một lớp không đại diện cho toàn hệ thống.

2. Global và local explanation hoạt động thế nào?

a. Global explanation: nhìn hành vi chung

Global explanation mô tả model thường hành xử ra sao trên một tập dữ liệu: feature nào thường quan trọng, ngưỡng nào làm output đổi mạnh, hai feature nào hay tương tác. Nó giống bản đồ cả thành phố. Bản đồ cho biết đường lớn và khu vực, nhưng chưa chỉ đường cho chuyến đi cụ thể lúc 8 giờ sáng.

Ví dụ, 10.000 mẫu giả lập cho thấy volatility, momentum và spread thường ảnh hưởng lớn. Kết quả giúp review thiết kế nhưng không giải thích chính xác mẫu lúc 10:15 hôm nay.

b. Local explanation: nhìn một kết quả

Local explanation mô tả điều gì tác động tới một prediction cụ thể. Với mẫu giả lập BTC/15 phút, baseline của model là 50%; momentum đẩy lên 9 điểm phần trăm, spread kéo xuống 3 điểm và các yếu tố khác cộng 2 điểm, thành 58%.

Feature attribution là cách phân bổ đóng góp của từng feature vào output. SHAP là một phương pháp thuộc nhóm này; paper gốc mô tả SHAP như khung gán giá trị quan trọng cho từng feature của một prediction (NeurIPS 2017 — SHAP). Attribution trả lời “model đã dựa vào gì”, không trả lời “điều gì thực sự làm giá tăng”.

Hình 2 — Global explanation cho bản đồ hành vi chung; local explanation chỉ soi một mẫu và không được đại diện cho cả model.

c. Chọn lời giải thích theo người nhận

Data scientist cần distribution và test độ trung thực. Risk manager cần ngoại lệ và mức thiệt hại. Operator cần biết cho order đi tiếp hay chuyển human review.

NIST yêu cầu lời giải thích có ý nghĩa với người nhận. Một màn hình 40 feature có thể đúng số học nhưng vô dụng với operator đang xử lý sự cố trong 30 giây.

3. Vì sao lời giải thích có thể đánh lừa?

a. Nghe hợp lý nhưng không bám model

Fidelity là mức lời giải thích phản ánh đúng cơ chế tạo output. Công cụ hậu kiểm có thể dựng mô hình đơn giản quanh một điểm; nếu chỉ gần đúng, câu chuyện gọn vẫn có thể bỏ mất quan hệ quan trọng.

Đây là chỗ dễ mắc sai lầm thứ nhất: thấy lý do hợp lý rồi suy ra model đáng tin. “Momentum cao nên xác suất tăng” nghe thuận tai, nhưng model có thể đang dùng một proxy rò rỉ dữ liệu. Explanation là đầu mối để kiểm tra, không phải giấy chứng nhận.

b. Thay đổi nhỏ, lời giải thích đổi lớn

Stability là mức lời giải thích nhất quán khi input đổi rất nhỏ. Nếu spread từ 0,08% thành 0,081% mà top feature đảo hết, explanation chưa đủ ổn để vận hành.

Sai lầm thứ hai là lấy một local explanation kết luận về cả model, giống xem một cây rồi phán cả khu rừng. Phải lấy nhiều mẫu theo regime, asset và thời gian.

c. Tương quan không phải nguyên nhân

Causality là quan hệ nguyên nhân–kết quả. Feature attribution thường mô tả đóng góp theo model, không chứng minh quan hệ nhân quả ngoài thị trường. Người cầm ô và mặt đường ướt cùng xuất hiện khi mưa; cái ô không làm đường ướt.

Các correlated features, tức feature biến động gần nhau, làm attribution khó đọc. Volume và số giao dịch đi cùng nhau có thể chia đóng góp hoặc đổi thứ hạng theo baseline. “Top feature” vì vậy không phải kết luận chắc chắn.

Giới hạn lớn nhất: một model giải thích tốt vẫn có thể dự đoán sai, bị drift hoặc gặp tình huống ngoài dữ liệu train. NIST tách explanation accuracy khỏi output accuracy: hệ thống có thể giải thích trung thực một quá trình vẫn tạo kết quả sai. Hai bài kiểm tra này phải chạy riêng.

4. Checklist kiểm toán một lời giải thích

Đừng bắt đầu bằng câu “model nói gì?”. Hãy đi theo thứ tự dưới đây:

1. Chốt đối tượng: đang giải thích prediction, signal hay order?
2. Chốt người nhận: data scientist, risk manager hay operator cần quyết định gì?
3. Ghi bối cảnh: model version, data version, asset, timeframe, timestamp và regime.
4. So với baseline: output bắt đầu từ đâu, feature nào đẩy lên hoặc kéo xuống?
5. Kiểm tra fidelity: explanation có tái hiện gần đúng output ở vùng đang xét không?
6. Thử stability: thay đổi nhẹ input hợp lý; xem output và thứ hạng feature có nhảy bất thường không.
7. Đối chiếu global: local explanation có nằm trong hành vi chung hay là ngoại lệ?
8. Ghi giới hạn: feature tương quan, dữ liệu thiếu, news chưa kiểm, mẫu ngoài phân phối.
9. Gắn hành động: monitor, human review, giảm tự động hóa hoặc dừng; không tự suy ra mua/bán.

Perturbation test là thử thay đổi nhẹ input để xem output và explanation phản ứng ra sao. Không tạo volume âm hoặc giá phi thực tế rồi phán model thiếu ổn định.

Phải đứng ngoài hoặc chuyển human review khi không truy được model/data version, explanation không ổn định, input nằm ngoài phạm vi train, risk rule mâu thuẫn với prediction, hoặc không ai sở hữu quyết định cuối. NIST AI RMF Measure 2.9 cũng đặt explanation cạnh validation, documentation và diễn giải output trong đúng bối cảnh; không coi explanation là bước độc lập (NIST AI RMF Core).

Nếu đội ngũ không nói được lời giải thích phục vụ quyết định nào, đừng tự động hóa thêm. Chart đẹp mà không đổi hành động kiểm soát chỉ là đồ trang trí.

5. Bài tập 15 phút: lập Thẻ giải thích

Dùng Google Sheets miễn phí hoặc một tờ giấy. Tạo sáu dòng: bối cảnh, prediction, yếu tố chính, độ ổn định, giới hạn và người quyết định. Dùng dữ liệu giả dưới đây; tuyệt đối chưa dùng tiền thật.

Mẫu giả lập: BTC, 15 phút, model v2.3, xác suất tăng 58%; momentum dương, spread âm, news chưa kiểm. Tăng nhẹ spread làm prediction còn 56%.

Mẫu đối chiếu đã điền

Hình 3 — Thẻ giải thích buộc người review ghi cả bối cảnh, độ ổn định, giới hạn và chủ quyết định.

Cuối cùng, sửa câu đoán chắc “Momentum làm giá sắp tăng” thành: “Trong model v2.3 và mẫu này, momentum làm prediction tăng; điều đó không chứng minh momentum gây biến động giá.” Chưa viết được giới hạn thì kết quả đúng là chưa đủ thông tin.

6. Tổng kết

a. Năm ý chính

• Black-box là vấn đề khó quan sát đường đi từ input tới output, không đồng nghĩa model vô dụng.
• Prediction, signal và order là ba lớp khác nhau, cần lời giải thích riêng.
• Global explanation mô tả hành vi chung; local explanation chỉ mô tả một mẫu.
• Feature attribution phản ánh model dựa vào gì, không tự chứng minh quan hệ nhân quả.
• Explanation chỉ hữu ích khi có fidelity, stability, bối cảnh, giới hạn và người chịu trách nhiệm.

b. Câu hỏi tự kiểm tra

• Vì sao giải thích prediction chưa đủ giải thích order?
• Global explanation khác local explanation ở phạm vi nào?
• Feature attribution có chứng minh nguyên nhân làm giá đổi không?
• Khi nào nên chuyển human review?

c. Gợi ý đáp án

Xem gợi ý câu 1

Order còn phụ thuộc signal rule, risk control và execution; model chỉ tạo prediction. → xem mục 1.

Xem gợi ý câu 2

Global mô tả hành vi trên nhiều mẫu; local chỉ soi một prediction cụ thể. → xem mục 2.

Xem gợi ý câu 3

Không. Attribution mô tả đóng góp theo model, không chứng minh causality ngoài thị trường. → xem mục 3.

Xem gợi ý câu 4

Khi thiếu version, input ngoài phạm vi, explanation bất ổn hoặc không rõ người chịu trách nhiệm. → xem mục 4.

d. Thuật ngữ cần nhớ

e. Nguồn tham khảo

• NISTIR 8312 — Four Principles of Explainable Artificial Intelligence
• NIST AI Risk Management Framework Core
• NeurIPS 2017 — A Unified Approach to Interpreting Model Predictions

Bài tiếp theo: Rủi ro API, sàn và lỗi thực thi #28

Chọn đúng bài trong lộ trình

Bài này tập trung vào black box AI Trading — khả năng giải thích và giới hạn của giải thích hậu nghiệm. Nếu bạn cần bức tranh chung trước khi đi sâu, hãy bắt đầu từ AI Trading là gì? Hướng dẫn từ nền tảng đến kiểm định. Các bước liên quan trực tiếp là Model Drift là gì trong AI Trading, Human-in-the-loop và Kill Switch và Cách đánh giá một nền tảng AI Trading.

Nội dung này phục vụ mục đích giáo dục, không phải lời khuyên đầu tư hoặc tín hiệu giao dịch. Mọi thị trường đều có rủi ro mất vốn.