Trả lời ngắn: Framework Agentic Loop là hợp đồng vận hành biến mục tiêu thành chuỗi state transition có kiểm soát. Mỗi vòng load state, chọn action, kiểm quyền, thực thi, chuẩn hóa observation thành evidence, verify rồi checkpoint. Loop chỉ chạy tiếp khi còn việc hợp lệ; nếu đủ điều kiện, lỗi, hết budget hoặc vượt quyền thì dừng hay chuyển người.

Đọc xong, bạn sẽ hiểu:

  • Vì sao Think → Act → Observe chưa đủ để chạy production.
  • Loop Contract cần những trường nào.
  • Observation khác verified evidence ra sao.
  • Khi nào continue, retry, stop hoặc escalate.

Lưu ý giáo dục: Bài dùng workflow research giả, chỉ đọc nguồn công khai và ghi note local. Không publish, gửi dữ liệu, gọi API trả phí hay sửa production. Agentic Loop không tự tạo ra quyền; mọi action vẫn phải nằm trong access control, policy và scope đã cấp.

1. Framework Agentic Loop là gì?

a. Vòng lặp không phải cái máy quay mãi

Ta đã học từng mảnh: planning chọn đường đi, decomposition chia việc, tool calling tạo action, reflection tìm lệch, self-correction sửa lỗi, checkpoint giúp resume và Human in the Loop giữ quyền quyết định. Bài này ráp chúng thành một runtime duy nhất.

Sai lầm dễ gặp là viết:

while not done:
  think
  act
  observe

done ở đây là gì? Observation có đáng tin không? Action có quyền thực hiện không? Tool timeout thì retry mấy lần? Nếu không trả lời được, ta chỉ có vòng lặp, chưa có framework.

Mỗi vòng ghi trạng thái trước, hành động được phép, kết quả mới và trạng thái sau. Quy tắc an toàn chặn sai; bộ kiểm tra đánh giá; điều kiện kết thúc quyết định tiếp tục hay dừng. Nghiên cứu ReAct cho thấy việc suy luận xen kẽ hành động giúp hệ lấy thông tin mới rồi cập nhật kế hoạch. (ReAct paper)

Hình 1 — Một vòng chỉ khép lại sau verify và checkpoint; checkpoint mới quyết định continue, stop hay escalate.

b. Hai lớp phải tách

  • Lớp quyết định: đọc goal/state/evidence rồi đề xuất next action.
  • Lớp thực thi: kiểm quyền, gọi tool, bắt lỗi, chuẩn hóa output và ghi state.

Model có thể đề xuất “đăng bài”, nhưng executor phải từ chối nếu scope chỉ cho đọc. OpenAI cũng nhấn mạnh guardrail phải đi cùng authentication, authorization và access control (OpenAI practical guide).

c. Khi nào không cần agentic loop?

Quy trình cố định, schema ổn và từng bước rõ thì workflow deterministic thường rẻ, dễ test hơn. Agentic Loop chỉ đáng dùng khi đường đi phụ thuộc observation mới nhưng kết quả vẫn đo được.

2. Loop Contract gồm những trường nào?

a. Tám trường tối thiểu

Trường Câu hỏi phải trả lời
Goal + done condition Đầu ra là gì, test nào chứng minh đã xong?
State snapshot Đã biết gì, giả định gì, còn thiếu gì, checkpoint nào gần nhất?
Decision policy Chọn next action nhỏ nhất có ích bằng cách nào?
Authority gate Action, target và scope có nằm trong quyền hiện tại không?
Action contract Tool/input/output mong đợi, timeout và idempotency là gì?
Observation adapter Raw output được đổi thành evidence/error/state delta ra sao?
Evaluator Kiểm acceptance, mâu thuẫn và loại lỗi thế nào?
Budget + terminal policy Giới hạn và điều kiện continue/retry/stop/escalate là gì?

Hình 2 — Loop Contract giữ các quyết định vận hành ở dạng có thể đọc, test và bàn giao.

b. State không phải toàn bộ lịch sử chat

State tốt là bản chụp gọn gồm verified_facts, open_items, last_error, budget_left và checkpoint_id. Lịch sử dài không đảm bảo model biết đâu là nguồn sự thật. “Đã đủ nguồn” mà thiếu URL/claim vẫn chưa có evidence; còn HTML thô nên nằm ở storage riêng.

c. Observation chưa phải evidence

HTTP 200 chỉ chứng minh request thành công, không chứng minh claim đúng. Observation adapter phải validate schema, nguồn, thời điểm và liên hệ với action trước khi tạo state delta.

NIST AI RMF đặt việc govern, map, measure và manage trong một vòng quản trị rủi ro; vai trò human–AI và cách đo/monitor phải được định nghĩa, không thể suy ra từ một câu trả lời trông tự tin (NIST AI RMF Core).

3. Một vòng chạy từ state đến checkpoint ra sao?

a. Bài toán giả

Goal: “Tóm tắt ba nguồn chính thống về retry trong agent.” Done condition: có ba claim, mỗi claim trỏ đúng URL, không mâu thuẫn và ghi rõ khi nào không retry. Budget: tối đa năm action, hai retry, mười phút. Authority: chỉ đọc web công khai và ghi note local.

b. Trace ba vòng

Vòng 1 — tìm nền tảng. Decision mở hướng dẫn chính thống. Authority cho phép read-only. Adapter lưu URL, tiêu đề và claim có đoạn hỗ trợ. Checkpoint cp-01: 1/3 nguồn verified, còn thiếu retry classification.

Vòng 2 — bổ sung cách đánh giá. Từ cp-01, agent mở tài liệu eval của Anthropic. Adapter chỉ giữ đoạn liên quan đến nhiều turn, tool và state. Checkpoint cp-02: 2/3 nguồn, chưa có policy phân loại lỗi.

Vòng 3 — gặp mâu thuẫn. Nguồn mới chỉ cho retry lỗi tạm thời, còn note cũ ghi “tool fail thì retry ba lần”. Evaluator ghi contradiction và sửa policy: timeout/5xx retry có cap; 401, policy denial hay input invalid thì stop/escalate. Acceptance test đạt nên terminal decision là stop_success.

c. Decision record gọn, không cần private chain-of-thought

Một record vận hành có thể là:

  • state: cp-02
  • next_action: open_source_3
  • reason: missing error class
  • authority: read_only
  • evidence_added: 1
  • state_delta: retry policy corrected
  • exit: stop_success

Ta cần decision summary, evidence và state delta để audit; không cần ép model lộ độc thoại nội bộ. Eval agent nên nhìn nhiều turn, tool calls, state changes và outcome, không chỉ câu trả lời cuối (Anthropic agent evals).

4. Lỗi phổ biến, budget và bốn cửa thoát

a. Bốn lỗi làm loop chạy mù

Một là done condition cảm tính. “Làm cho tốt” không test được. Hãy đổi thành số claim, nguồn, schema hoặc acceptance cụ thể.

Hai là tin raw observation. Tool trả dữ liệu không đồng nghĩa dữ liệu hợp lệ. Thiếu provenance hoặc schema fail thì chưa được cập nhật fact.

Ba là retry mọi lỗi. Retry 401 không tạo thêm quyền; retry input sai không làm input đúng. Chỉ retry lỗi tạm thời, có backoff và cap.

Bốn là checkpoint trước verify. Nếu lưu “hoàn tất bước nguồn” trước khi kiểm link, phiên resume sẽ xây tiếp trên state sai.

b. Bốn cửa thoát

Bốn quyết định sau mỗi vòng: continue và retry giữ run hoạt động; stop và escalate kết thúc hoặc bàn giao quyền xử lý hiện tại.

Hình 3 — Terminal policy biến “chạy tiếp hay không” thành quyết định có điều kiện rõ.

  • Continue: action thành công, evidence hợp lệ, goal chưa đạt và còn budget.
  • Retry: lỗi tạm thời đã phân loại, retry còn lượt và action vẫn có ích.
  • Stop: done condition đạt, hoặc task không còn giá trị; stop_success khác stop_failed.
  • Escalate: vượt authority, evidence mâu thuẫn không tự giải được, side effect không rõ trạng thái hoặc hết budget khi goal chưa đạt.

Ví dụ chắc chắn: “Nếu ba claim đều có nguồn và pass contradiction check, loop dừng thành công.” Ví dụ có điều kiện: “Nếu request timeout, loop có thể retry khi policy cho phép và còn budget.” Nếu tôi từng đoán “timeout luôn an toàn để retry”, record phải nhận sai vì action có side effect có thể đã xảy ra.

c. Budget là phanh, không phải bằng chứng hoàn tất

Đặt action, retry, time và cost cap. Hết năm action chỉ nghĩa hết quyền tự chạy, không chứng minh research đúng. State phải ghi budget_exhausted, phần verified và open items để người quyết định tiếp tục, thu hẹp goal hay dừng.

5. Bài tập 15 phút: chạy Agent Loop Canvas

a. Bắt đầu từ đâu

Dùng giấy, Markdown hoặc Google Docs miễn phí. Chọn bài toán giả ở mục 3; không cần code, API key hay tiền thật.

  1. Phút 0–3: viết goal, done condition và bốn budget.
  2. Phút 3–6: điền state ban đầu, authority và một next action.
  3. Phút 6–11: mô phỏng ba observation; một observation hợp lệ, một thiếu provenance, một timeout.
  4. Phút 11–13: chuyển từng observation thành evidence/error/state delta.
  5. Phút 13–15: chọn continue/retry/stop/escalate và ghi một câu lý do.

b. Mẫu đã điền để đối chiếu

Trường Mẫu
Goal Tóm tắt 3 nguồn chính thống về retry
Done 3 claim có URL, không mâu thuẫn, có trường hợp không retry
State 2/3 nguồn verified; thiếu error classification
Next action Mở nguồn chính thống thứ ba
Authority Read-only web; không publish hay gửi dữ liệu
Evidence URL + tiêu đề + đoạn hỗ trợ claim
Budget 5 action, 2 retry, 10 phút
Exit Stop nếu đủ; retry lỗi tạm; escalate nếu mâu thuẫn chưa giải được

Kết quả mong đợi là một Canvas mà người khác đọc được và đoán đúng bước tiếp theo. Nếu bạn chỉ viết “AI tự suy nghĩ rồi làm”, hãy quay lại điền state, authority, evidence và exit.

6. Tổng kết: loop tốt luôn biết vì sao chạy và vì sao dừng

a. Năm ý chính

  • Agentic Loop là runtime contract của state transition, không phải vòng lặp vô hạn.
  • Action phải qua authority gate; model đề xuất không đồng nghĩa được phép thực thi.
  • Raw observation chỉ thành evidence sau validate và gắn provenance.
  • Checkpoint được ghi sau verify, kèm state delta và budget còn lại.
  • Mỗi vòng phải chọn rõ continue, retry, stop hoặc escalate.

b. Câu hỏi tự kiểm tra

  • Vì sao HTTP 200 chưa đủ để cập nhật fact?
  • Lỗi 401 nên retry hay đi cửa nào?
  • Khi nào checkpoint được ghi?
  • Hết budget nhưng done condition chưa đạt thì trạng thái nào hợp lý?

c. Gợi ý đáp án

Xem gợi ý câu 1HTTP 200 chỉ là observation về request; còn phải kiểm nội dung, schema, provenance và claim liên quan. → Xem mục 2.
Xem gợi ý câu 2401 thường là lỗi quyền, retry y nguyên không tạo thêm quyền; nên stop hoặc escalate. → Xem mục 4.
Xem gợi ý câu 3Sau khi evaluator xác nhận evidence và acceptance tương ứng; không checkpoint thành công trước verify. → Xem mục 3.
Xem gợi ý câu 4Ghi `budget_exhausted`, giữ phần verified/open items và escalate hoặc stop_failed; không tự đánh dấu done. → Xem mục 4.

d. Thuật ngữ cần nhớ

Thuật ngữ Giải thích ngắn
Agentic Loop Chu kỳ agent quyết định, hành động, quan sát và cập nhật state.
Loop Contract Schema quy định state, action, evidence, budget và exit.
State Snapshot Bản chụp gọn của sự thật cần cho bước kế tiếp.
Authority Gate Kiểm action có nằm trong quyền được cấp không.
Action Contract Mô tả tool, input, output mong đợi và timeout.
Observation Dữ liệu thô trả về từ tool hoặc môi trường.
Evidence Observation đã validate và gắn provenance.
State Delta Phần thay đổi state sau một vòng đã verify.
Checkpoint Mốc state đã kiểm để resume an toàn.
Terminal Policy Quy tắc chọn continue, retry, stop hoặc escalate.

e. Nguồn tham khảo

f. Học tiếp gì?

Xem lại Human in the Loop #39 nếu chưa rõ authority và escalation. Bài tiếp theo là Workflow Automation #41: khi nào đóng khung các bước thành workflow deterministic, khi nào giữ nhánh quyết định cho agent.

Nhắc lại giáo dục: Agentic Loop đáng tin không nhờ chạy nhiều vòng hơn, mà nhờ state đúng, evidence có nguồn, quyền rõ và cửa dừng có điều kiện. Khi action vượt scope, side effect không rõ hoặc evidence mâu thuẫn, hãy stop hay escalate thay vì cố chạy cho đủ vòng.