Nhiều người bắt đầu xây kiến trúc AI Agent bằng cách tập trung gần như hoàn toàn vào model và prompt. Khi kết quả chưa tốt, phản xạ thường là đổi model mạnh hơn, viết prompt dài hơn hoặc thêm một agent mới.
Nhưng khi AI bắt đầu đọc file, gọi API, xử lý dữ liệu khách hàng hoặc phối hợp nhiều công việc, chất lượng của model chỉ còn là một phần của hệ thống. Phần còn lại nằm ở cách chúng ta thiết kế môi trường làm việc, vòng phản hồi và luồng thực thi cho AI.
Ba khái niệm giúp nhìn rõ vấn đề này là Agent Harness Engineering, Loop Engineering và Graph Engineering. Chúng liên quan chặt chẽ nhưng không phải ba tên gọi cho cùng một thứ.
Cách nhớ ngắn nhất: Harness tạo môi trường, Loop tạo phản hồi, Graph kiểm soát luồng đi.
Vì sao một prompt tốt vẫn chưa đủ?
Một model ngôn ngữ tự nó không thể mở trình duyệt, chạy test, nhớ tiến độ qua nhiều phiên, kiểm soát quyền truy cập hay khôi phục công việc sau khi bị gián đoạn. Những khả năng đó đến từ hệ thống được xây xung quanh model.
Vì vậy, hai người dùng cùng một model có thể nhận kết quả rất khác nhau. Một bên cho AI công cụ rõ ràng, dữ liệu sạch, quyền truy cập vừa đủ và tiêu chuẩn hoàn thành cụ thể. Bên còn lại chỉ đưa một prompt chung chung rồi hy vọng AI tự hiểu mọi thứ.
Khi một AI Agent làm việc không ổn định, câu hỏi đúng không phải lúc nào cũng là “model có đủ thông minh không?”. Câu hỏi hữu ích hơn là: lỗi đang nằm ở môi trường, vòng phản hồi hay luồng phối hợp?
1. Agent Harness Engineering: xây môi trường làm việc cho AI
Agent harness là toàn bộ phần nằm xung quanh model và giúp model có thể làm việc trong thế giới thật. Nếu tạm xóa model khỏi sơ đồ hệ thống, phần còn lại — công cụ, dữ liệu, bộ nhớ, quyền hạn, sandbox, log và cơ chế kiểm tra — phần lớn chính là harness.
Một harness thực tế thường có:
- Ngữ cảnh: hướng dẫn, dữ liệu liên quan, lịch sử hội thoại, chính sách và skill.
- Công cụ: trình duyệt, API, terminal, cơ sở dữ liệu, ứng dụng và hệ thống file.
- Trạng thái: checkpoint, file tiến độ, phiên làm việc, lịch sử thay đổi và bộ nhớ dài hạn.
- Kiểm soát thực thi: timeout, retry, ngân sách, lựa chọn model và bước xin phê duyệt.
- An toàn: phân quyền tối thiểu, bảo vệ secret, sandbox và danh sách hành động được phép.
- Quan sát: log, trace, chi phí, thời gian chạy và kết quả đánh giá.
Ví dụ, bạn giao AI quản lý nội dung website. Nếu AI không truy cập được WordPress, đó là vấn đề harness. Nếu AI có quyền xóa mọi bài viết khi chỉ cần tạo bản nháp, đó cũng là vấn đề harness. Nếu công việc kéo dài nhiều ngày nhưng AI không biết phiên trước đã làm gì, bạn cần checkpoint hoặc file bàn giao — không phải một prompt hoa mỹ hơn.
Nghiên cứu của Anthropic về agent làm việc dài hạn cũng cho thấy chỉ nén ngữ cảnh là chưa đủ. Họ sử dụng agent khởi tạo, file tiến độ và cách làm việc tăng dần để phiên sau có thể tiếp tục từ phiên trước. Đây là ví dụ điển hình về việc cải thiện điều kiện làm việc của agent thay vì chỉ sửa câu lệnh.
2. Loop Engineering: biến một lần trả lời thành quá trình có kiểm chứng
Mỗi agent dùng công cụ đều có một vòng lặp nhỏ: model suy nghĩ, gọi công cụ, nhận kết quả rồi tiếp tục cho đến khi trả lời cuối cùng. Loop engineering bắt đầu khi chúng ta chủ động thiết kế thêm các chu kỳ làm việc và phản hồi xung quanh vòng lặp đó.
Ví dụ, một AI viết landing page có thể hoạt động theo vòng sau:
- Tạo bản nháp.
- Kiểm tra liên kết, form, giao diện mobile và nội dung bắt buộc.
- Nhận danh sách lỗi cụ thể.
- Sửa lỗi quan trọng nhất.
- Chạy lại kiểm tra và chỉ dừng khi đạt tiêu chuẩn hoặc hết số lần thử.
Một loop tốt cần bảy thành phần: trigger, mục tiêu, trạng thái, quyền hành động, bằng chứng, phản hồi và điều kiện dừng. Trong đó, phần dễ bị bỏ qua nhất là bằng chứng.
Đừng cho AI lặp lại dựa trên sự tự tin. Hãy cho AI lặp lại dựa trên bằng chứng.
“AI nói đã hoàn thành” không phải bằng chứng. “Test đã pass, schema hợp lệ, các liên kết hoạt động và người phụ trách đã duyệt” mới là điều kiện hoàn thành có thể kiểm tra.
Loop cũng phải có giới hạn. Một yêu cầu kiểu “cứ thử cho đến khi tốt” có thể tạo ra vòng lặp tốn tiền nhưng không tiến bộ. Hãy đặt số lần thử tối đa, giới hạn thời gian hoặc chi phí, cùng một cách báo lại rõ ràng nếu AI không thể tự giải quyết.
Nếu muốn tìm hiểu sâu hơn về cách thiết kế vòng lặp, bạn có thể đọc bài Loop AI là gì? Cách dùng AI tự làm việc hiệu quả hơn.
3. Graph Engineering: làm rõ ai được chạy tiếp theo
Nếu loop trả lời câu hỏi “AI sẽ làm và kiểm tra lại thế nào?”, thì graph engineering trả lời câu hỏi khác: sau bước này, thành phần nào được phép chạy tiếp?
Trong một workflow dạng graph:
- Node có thể là một hàm cố định, một lần gọi model, một agent chuyên môn hoặc một bước con người phê duyệt.
- Edge quy định đường đi được phép giữa các node.
- State mang dữ liệu đi qua workflow.
- Điều kiện routing quyết định đi tiếp, quay lại, chạy song song hay chuyển cho con người.
Giả sử bạn xây hệ thống nghiên cứu và xuất bản nội dung. Agent nghiên cứu thu thập nguồn, agent viết tạo bản nháp, agent kiểm chứng rà soát dữ kiện, người phụ trách duyệt, rồi hệ thống mới đăng WordPress. Nếu kiểm chứng thất bại, bài quay lại bước viết. Nếu duyệt thất bại, workflow dừng và chờ phản hồi.
Graph đặc biệt hữu ích khi có nhiều nhánh, nhiều agent, bước chạy song song, điểm phê duyệt hoặc đường khôi phục sau lỗi. Microsoft AutoGen cũng khuyến nghị dùng graph khi cần kiểm soát chặt thứ tự agent, routing theo kết quả hoặc quy trình nhiều bước có chu kỳ.
Tuy nhiên, không phải việc gì cũng cần graph. Nếu nhiệm vụ chỉ là “cho một agent ba công cụ và để nó giải quyết”, một harness đơn giản thường dễ xây và dễ thay đổi hơn. Vẽ hàng chục node trước khi hiểu agent thực sự làm việc ra sao có thể khiến hệ thống cứng nhắc quá sớm.
Ba lớp kiến trúc AI Agent kết hợp với nhau thế nào?
Hãy hình dung một hệ thống tạo báo cáo ngành:
- Harness cung cấp quyền truy cập web, kho tài liệu, bộ nhớ, sandbox, log và nơi lưu bản nháp.
- Loop yêu cầu báo cáo phải vượt qua kiểm tra nguồn, cấu trúc và dữ kiện trước khi được chấp nhận.
- Graph điều phối các bước nghiên cứu, viết, kiểm chứng, phê duyệt và xuất bản.
Graph vận hành bên trong harness. Một hoặc nhiều loop có thể nằm trong từng node của graph. Harness lại cung cấp dữ liệu, công cụ và bộ đánh giá để các loop hoạt động.
Ba lớp có phần giao nhau, nhưng mỗi lớp cho bạn một “đòn bẩy” khác nhau khi hệ thống gặp lỗi.
Chẩn đoán đúng lỗi trước khi thêm công nghệ
Bảng dưới đây là cách đơn giản để chọn đúng lớp cần cải thiện:
| Triệu chứng | Bắt đầu từ | Hướng xử lý |
|---|---|---|
| AI không truy cập đúng dữ liệu hoặc công cụ | Harness | Sửa tool, quyền hạn và cách đưa ngữ cảnh |
| AI quên tiến độ giữa các phiên | Harness | Thêm checkpoint, file tiến độ và trạng thái bền vững |
| Kết quả lần đầu gần đúng nhưng thiếu ổn định | Loop | Thêm test, bộ chấm và retry có giới hạn |
| AI dừng trước khi có bằng chứng hoặc tiếp tục sau khi đã đạt | Loop | Đặt điều kiện hoàn thành và giới hạn ngân sách |
| Nhiều agent phải làm theo thứ tự hoặc theo nhánh | Graph | Định nghĩa node, edge, routing và điểm hợp nhất |
| Khó biết lỗi nằm ở bước nào | Graph + Harness | Gắn trace và trạng thái với từng node |
5 sai lầm khiến hệ thống AI vừa đắt vừa yếu
1. Xây graph trước khi hiểu công việc
Hãy để một agent làm việc trong harness đơn giản, quan sát trace và tìm các đường đi ổn định trước. Chỉ graph hóa những phần thật sự cần kiểm soát.
2. Để cùng một model vừa làm vừa tự chấm
Tự review có ích nhưng dễ lặp lại cùng một điểm mù. Ưu tiên test cố định, reviewer có ngữ cảnh độc lập hoặc con người phê duyệt với hành động ảnh hưởng lớn.
3. Dùng “cứ thử tiếp” làm điều kiện loop
Mỗi vòng lặp cần mục tiêu đo được, bằng chứng mới, số lần thử tối đa và đường chuyển cho con người khi thất bại.
4. Nhồi quá nhiều công cụ và dữ liệu vào harness
Nhiều hơn không đồng nghĩa tốt hơn. Quá nhiều tool làm tăng khả năng chọn sai; context nhiễu làm model khó tập trung; quyền quá rộng làm tăng rủi ro.
5. Đổ mọi lỗi cho model
Model khó có thể bù đắp ổn định cho dữ liệu cũ, API hỏng, mô tả tool mơ hồ hoặc điều kiện dừng bị thiếu. Hãy sửa đúng lớp sở hữu vấn đề.
Cách xây kiến trúc AI Agent cho doanh nghiệp nhỏ
Bạn không cần xây ngay một hệ thống multi-agent phức tạp. Hãy bắt đầu bằng một công việc lặp lại, chẳng hạn xử lý lead, tạo nội dung hoặc lập báo cáo tuần.
- Viết rõ đầu vào và đầu ra: dữ liệu đến từ đâu, kết quả phải nằm ở đâu.
- Chuẩn hóa harness: cấp đúng công cụ, đúng dữ liệu và quyền vừa đủ.
- Thêm một cổng kiểm tra: checklist, schema, số liệu hoặc bước phê duyệt.
- Đặt giới hạn: tối đa bao nhiêu lần thử, bao nhiêu phút hoặc bao nhiêu chi phí.
- Quan sát vài lần chạy: chỉ khi xuất hiện các nhánh ổn định mới cân nhắc graph hóa.
Nguyên tắc quan trọng là bắt đầu từ kiến trúc đơn giản nhất có thể đáp ứng yêu cầu. Chỉ thêm loop hoặc graph khi lợi ích về độ tin cậy lớn hơn chi phí và độ phức tạp mà chúng tạo ra.
Câu hỏi thường gặp
Agent harness có phải chỉ là system prompt không?
Không. System prompt chỉ là một phần. Harness còn gồm tool, dữ liệu, bộ nhớ, quyền hạn, sandbox, logging, model routing, checkpoint và cơ chế kiểm chứng.
Loop engineering khác prompt engineering thế nào?
Prompt hướng dẫn model trong một lần gọi. Loop quy định hệ thống sẽ làm gì sau lần gọi đó: kiểm tra kết quả nào, phản hồi ra sao, có tiếp tục không và dừng khi nào.
Có phải hệ thống nhiều agent luôn cần graph?
Không. Nếu các agent có thể phối hợp linh hoạt và rủi ro thấp, handoff hoặc agent-as-tool có thể đủ. Graph phù hợp hơn khi thứ tự, nhánh, phê duyệt và đường phục hồi cần được kiểm soát rõ.
Nên xây harness, loop hay graph trước?
Thông thường nên bắt đầu từ harness tối thiểu đủ dùng, sau đó thêm loop cho các đầu ra cần kiểm chứng. Graph nên đến sau khi bạn đã hiểu các đường đi thực tế và xác định phần nào cần kiểm soát.
Điều cần nhớ
Harness giúp AI có điều kiện làm việc. Loop giúp AI làm việc theo vòng phản hồi có bằng chứng. Graph giúp một quy trình phức tạp trở nên rõ ràng và kiểm soát được.
Không lớp nào thay thế lớp nào. Một graph đẹp không cứu được agent bị mất trạng thái. Một harness mạnh vẫn có thể lãng phí tiền nếu không có tiêu chuẩn hoàn thành. Một loop tốt cũng khó vận hành khi nhánh, bước song song và quyền phê duyệt bị giấu trong code tùy hứng.
Nếu bạn đang muốn biến AI từ chatbot thành một hệ thống làm việc thực tế, hãy bắt đầu bằng việc đọc thêm cách biến Claude từ chatbot thành hệ thống làm việc. Sau đó chọn một quy trình nhỏ trong công việc của bạn, thiết kế môi trường trước, thêm bằng chứng sau và chỉ graph hóa khi thật sự cần.
Triển khai nhanh hơn với GiangXAI Lab
Bạn hoàn toàn có thể tự xây từng agent, skill, loop và quy trình từ đầu. Nhưng nếu muốn có sẵn một bộ khung thực chiến dành cho thị trường Việt Nam, GiangXAI Lab cung cấp hệ thống 8 AI Agent chuyên biệt cho nghiên cứu, nội dung, video, website, landing page, vận hành, phân tích và tăng trưởng.
Bộ kit tập trung vào đúng điều bài viết này đề cập: không chỉ đưa prompt, mà đóng gói vai trò, skill và quy trình để các agent có thể hỗ trợ công việc kinh doanh thực tế.
Nếu bạn không muốn mất nhiều tháng tự ghép từng mảnh, hãy xem hệ thống 8 AI Agent trong GiangXAI Lab →