Deep Learning trong Trading #14

Chọn đúng bài trong lộ trình

Bài này tập trung vào deep learning trong trading — khi nào mạng sâu phù hợp và giới hạn live. Nếu bạn cần bức tranh chung trước khi đi sâu, hãy bắt đầu từ AI Trading là gì? Hướng dẫn từ nền tảng đến kiểm định. Các bước liên quan trực tiếp là Machine Learning trong Trading, NLP đọc tin tức và cảm xúc thị trường và Overfitting trong Trading.

Nội dung này phục vụ mục đích giáo dục, không phải lời khuyên đầu tư hoặc tín hiệu giao dịch.

Trả lời ngắn: Deep Learning trong Trading là một nhánh Machine Learning dùng mạng neural nhiều lớp để học cách biểu diễn dữ liệu giá, khối lượng hoặc dữ liệu khác cho một nhiệm vụ đã định nghĩa. Mạng sâu có thể học quan hệ phức tạp, nhưng model output vẫn chưa phải signal, lệnh hay bằng chứng chắc chắn có lợi nhuận.

Đọc xong, bạn sẽ hiểu:

• Deep Learning khác Machine Learning nói chung ở điểm nào.
• Mạng neural học từ một cửa sổ dữ liệu theo trực giác ra sao.
• Khi nào nên thử mạng sâu và khi nào nên giữ baseline đơn giản.

1. Deep Learning là mạng nhiều lớp, không phải bot tự giao dịch

a. Deep Learning nằm bên trong Machine Learning

Deep Learning (DL), hay học sâu, là một nhánh của Machine Learning trong Trading. Nó thường dùng neural network, tức model gồm nhiều điểm tính toán nối với nhau qua các lớp.

Mọi DL đều là ML, nhưng không phải model ML nào cũng là mạng sâu. Logistic regression, decision tree hoặc random forest vẫn là ML.

Tên “neural” không có nghĩa model là bộ não thu nhỏ. Một node nhận vài con số, tính toán rồi chuyển kết quả. Một layer là nhóm node ở cùng một chặng. Weight là độ mạnh của kết nối được học.

b. Nhiều lớp học biểu diễn trung gian

Điểm đáng chú ý không chỉ là “nhiều lớp”, mà là khả năng học representation — cách mã hóa dữ liệu thành đặc trưng trung gian hữu ích cho nhiệm vụ. Activation là phép biến đổi phi tuyến đặt sau phép tính của node; nhờ đó mạng có thể học quan hệ không nằm trên một đường thẳng đơn giản.

Ví dụ giả định, input là 60 nến. Lớp đầu phản ứng với thay đổi ngắn; lớp sau kết hợp chúng; lớp cuối tạo dự báo biến động. Đây chỉ là trực giác, không phải ý nghĩa cố định của từng node.

Google mô tả neural network là kiến trúc có node, hidden layer và activation để học các mẫu phi tuyến; quá trình training dùng backpropagation để giảm loss (Google — Neural Networks).

Hình 1 — Mỗi lớp học một biểu diễn trung gian; đầu ra vẫn phải qua Signal và Risk.

c. Output vẫn chưa phải hành động

Deep model thuộc lớp Model trong năm lớp của hệ thống AI Trading. Chuỗi đầy đủ vẫn là Data → DL Model → Model Output → Signal → Risk Gate → Execution.

Nếu model trả score giả định 0,58 cho trạng thái biến động cao, đó mới là output. Signal trong AI Trading còn kiểm tra ngưỡng, độ mới, dữ liệu và bối cảnh. Risk Gate vẫn có thể từ chối.

2. Mạng sâu học một cửa sổ dữ liệu như thế nào

a. Biến lịch sử thành input có hình dạng rõ

Window là đoạn lịch sử liên tiếp dùng làm một input. Giả sử mỗi nến có năm feature: open, high, low, close và volume. Sáu mươi nến tạo ma trận 60 × 5. Label có thể là biến động trong 30 phút kế tiếp.

Window chỉ được chứa thông tin đã tồn tại. Model chạy lúc 10:00 không được chứa giá 10:01. Window gần nhau còn có thể chồng lấn mạnh; 100.000 hàng không đương nhiên là 100.000 ví dụ độc lập.

TensorFlow trình bày time-series forecasting bằng input window, label window và khoảng dịch thời gian; cùng cách đóng khung đó có thể dùng cho DNN, CNN và RNN (TensorFlow — Time Series Forecasting).

b. Forward pass, loss và backpropagation

Forward pass là lượt đưa input qua các layer để tạo output. Loss là con số đo output sai bao nhiêu so với label theo tiêu chí đã chọn. Loss nhỏ hơn trong tập training chỉ nói model khớp bài tập training tốt hơn; chưa chứng minh model sống khỏe ngoài mẫu.

Backpropagation là cách truyền phần sai số ngược qua mạng để biết weight nào cần điều chỉnh. Bộ tối ưu cập nhật weight một chút, rồi model lặp lại. Epoch là một lượt model đi qua tập training.

Giống học lái trong sân tập: forward pass là chạy một vòng, loss là mức lệch, backpropagation là xem lỗi rồi chỉnh. Thuộc sân tập không đảm bảo đi đường mới tốt.

c. Training khác inference

Training là giai đoạn model học weight từ dữ liệu có label. Inference là giai đoạn dùng weight đã học để tạo output trên dữ liệu mới. Khi inference lúc 10:00, model không được nhìn label 30 phút sau.

Chuẩn hóa, chọn feature và tạo window đều phải tôn trọng thời gian. Nếu một bước dùng tương lai, mạng sâu chỉ học lỗi đó tinh vi hơn.

3. Bốn họ kiến trúc thường được nhắc tới

a. DNN và CNN

DNN thường chỉ mạng nhiều lớp kết nối dày, nhận vector feature đã sắp sẵn. Nó không tự hiểu thời gian nếu input không thể hiện thứ tự.

CNN dùng bộ lọc trượt để tìm quan hệ cục bộ. Convolution một chiều có thể chạy trên chuỗi thời gian, nhưng hình chart đẹp không tự động chứa lợi thế giao dịch.

b. RNN, LSTM và Transformer

RNN đọc chuỗi từng bước và cập nhật trạng thái tóm tắt. LSTM là dạng RNN giúp giữ hoặc bỏ thông tin qua nhiều bước; chúng có thể chậm khi chuỗi dài.

Transformer dùng attention để cân nhắc quan hệ giữa nhiều vị trí input. Nó không mặc định tốt hơn LSTM, CNN hoặc baseline trên mọi bộ dữ liệu.

Khảo sát của Lim và Zohren nhóm kiến trúc time series theo CNN, RNN và attention, đồng thời nhấn mạnh lựa chọn encoder quyết định loại quan hệ thời gian model có thể học (Time Series Forecasting With Deep Learning).

Hình 2 — Chọn kiến trúc theo cấu trúc input và nhiệm vụ, không theo tên đang thịnh hành.

c. Chọn theo data shape và giới hạn vận hành

Dữ liệu bảng có thể bắt đầu bằng model cây hoặc DNN; mẫu cục bộ thử CNN; trạng thái tuần tự thử RNN/LSTM; input dài có thể khiến attention đáng kiểm tra.

Mọi kiến trúc phải dùng cùng task, time split, chi phí và metric để so công bằng.

4. Vì sao deep model đẹp trong lab nhưng yếu khi live

a. Capacity lớn học cả nhiễu

Capacity là mức linh hoạt để học nhiều kiểu quan hệ. Capacity cao vừa fit mẫu phức tạp, vừa dễ thuộc nhiễu, leakage và sai lệch cũ.

Sáu rủi ro cần chặn:

1. Dữ liệu ít hoặc các window chồng lấn quá nhiều.
2. Future data lọt vào feature, normalization hoặc label.
3. Thử quá nhiều architecture và chỉ giữ kết quả đẹp nhất.
4. Regime, thanh khoản hoặc cấu trúc thị trường đổi.
5. Phí, spread, slippage và turnover ăn hết cải thiện nhỏ.
6. Model khó giải thích, khó stress test hoặc khó giám sát drift.

Khảo sát time series lưu ý deep model có nguy cơ overfitting cao hơn khi dataset nhỏ; hybrid model là một hướng kết hợp cấu trúc định lượng với mạng neural thay vì buộc deep model làm mọi việc (Lim & Zohren).

b. Latency và explainability cũng là chi phí

Latency là thời gian từ input tới output. Model chậm có thể tạo signal đã cũ; training còn tốn compute, bộ nhớ và thời gian.

Explainability là khả năng giải thích yếu tố góp phần vào output. Đội vận hành phải biết input nào được dùng, model hỏng khi nào và lúc nào cần dừng.

FINRA nêu explainability, data integrity và privacy trong model-risk management; đồng thời khuyến nghị validation, kiểm thử kịch bản stress, dữ liệu mới và monitoring liên tục (FINRA — AI in the Securities Industry).

c. Baseline là cửa kiểm tra, không phải đối thủ yếu

Baseline là phương pháp đơn giản dùng làm mốc. Ví dụ giả định, logistic regression đạt metric 0,54; deep model đạt 0,55 trước chi phí nhưng inference chậm hơn nhiều. Chênh lệch đó chưa đủ chứng minh nên thay baseline.

Cần hỏi: model có hơn baseline ngoài mẫu, sau phí và độ trễ, qua nhiều regime không? Nếu chưa, thêm layer chỉ là thêm hóa đơn.

5. Bài tập 15 phút: điền DL Suitability Card

a. Tạo thẻ bằng Google Sheets hoặc giấy

Không cần Python. Tạo chín dòng: task, data shape, window, sample independence, baseline, compute/latency, explainability, time split và success/stop rule.

Hình 3 — Nếu baseline, độ trễ hoặc cách chia thời gian còn mơ hồ, chưa nên tăng độ phức tạp.

b. Mẫu đối chiếu đã điền

Kết luận mẫu: chưa dùng DL, dựng baseline và đo dữ liệu trước. Đây là một kết quả tốt vì thẻ đã chặn việc chọn model theo trào lưu. Bài tập dùng dữ liệu giả, chưa gọi API, chưa code, chưa kết nối tài khoản và chưa dùng tiền thật.

6. Tổng kết và đường học tiếp

a. Năm ý chính

• Deep Learning là một nhánh Machine Learning dùng neural network nhiều lớp.
• Các layer học representation trung gian; nhiều layer không đồng nghĩa nhiều lợi nhuận.
• DNN, CNN, RNN/LSTM và Transformer phù hợp với data shape khác nhau.
• Training, time split, baseline, chi phí và monitoring quan trọng hơn tên architecture.
• DL output vẫn phải qua Signal, Risk Gate và Execution trước khi có lệnh.

b. Câu hỏi tự kiểm tra

• Deep Learning khác Machine Learning nói chung ở điểm nào?
• Backpropagation làm việc gì trong lúc training?
• Vì sao Transformer không mặc định tốt hơn LSTM hoặc CNN?
• DL Suitability Card có thể dẫn tới quyết định hợp lý nào?

c. Gợi ý đáp án

Xem gợi ý câu 1

Deep Learning là một nhánh ML dùng neural network nhiều lớp để học representation; ML còn nhiều họ model khác. → xem mục 1.

Xem gợi ý câu 2

Backpropagation truyền phần sai số ngược để xác định cách cập nhật weight nhằm giảm loss. → xem mục 2.

Xem gợi ý câu 3

Hiệu quả phụ thuộc task, data shape, split và giới hạn vận hành; tên kiến trúc không quyết định người thắng. → xem mục 3.

Xem gợi ý câu 4

Thẻ có thể kết luận chưa dùng DL khi baseline, dữ liệu, latency hoặc cách giám sát còn mơ hồ. → xem mục 5.

d. Thuật ngữ cần nhớ

e. Nguồn tham khảo

• Google — Neural Networks
• TensorFlow — Time Series Forecasting
• Lim & Zohren — Time Series Forecasting With Deep Learning
• FINRA — Report on Artificial Intelligence in the Securities Industry
• CFA Institute RPC — Deep Learning

Quay về AI Trading là gì?, đọc lại Machine Learning trong Trading, rồi học tiếp NLP trong AI Trading để hiểu cách biến tin tức thành text feature có thể kiểm tra.

Đây là tài liệu giáo dục. Mọi model đều có thể sai; không dùng nội dung này làm khuyến nghị mua, bán hoặc cam kết lợi nhuận.