Trong bài viết này
Từ được đánh dấu có giải thích. Di chuột hoặc chạm để xem, hay mở từ điển AI.
Trong bài này, AI agent là hệ thống dùng mô hình để lựa chọn bước tiếp theo, sử dụng công cụ và điều chỉnh hành động theo kết quả quan sát, nhằm hoàn thành một mục tiêu trong phạm vi được cấp quyền. Agent có thể thực hiện nhiều lượt tương tác trước khi trả kết quả.
Một chatbot có thể giải thích cách sắp xếp thư mục. Một hệ thống được kết nối công cụ có thể đọc danh sách tệp, đề xuất cách nhóm và thực hiện thao tác được cho phép. Việc mô hình được lựa chọn bước tiếp theo tạo nên sự khác biệt quan trọng với một chuỗi lệnh cố định.
Từ “agent” được sử dụng khá rộng. Điều hữu ích hơn tên gọi là xác định hệ thống được quyết định điều gì và có quyền làm gì.
Từ một lượt trả lời đến một vòng lặp
Một agent đơn giản có thể vận hành như sau: nhận mục tiêu, chọn công cụ, nhận kết quả, cập nhật trạng thái, rồi tiếp tục hoặc kết thúc. Mỗi bước cần dựa vào thông tin thực tế từ môi trường.
Nghiên cứu ReAct khảo sát cách kết hợp suy luận và hành động trong các nhiệm vụ ngôn ngữ và môi trường tương tác. Một ý nghĩa thực tiễn là công cụ cho phép hệ thống thu thập thêm bằng chứng thay vì chỉ tiếp tục tạo văn bản từ ngữ cảnh cũ.
Tuy nhiên, việc mô hình nói “đã lưu tệp” không chứng minh tệp tồn tại. Ứng dụng cần đọc kết quả thực thi, kiểm tra lỗi và xác nhận trạng thái cuối. Câu trả lời cho người dùng phải dựa trên các kết quả đó.
Agent dùng trạng thái hiện tại để chọn công cụ, đọc kết quả thực thi và kiểm tra tiến độ. Vòng lặp tiếp tục trong giới hạn được đặt trước hoặc kết thúc với kết quả đã xác minh.
↔ Vuốt ngang để xem toàn bộ sơ đồ.
01 / Quan sát
Agent nhận mục tiêu, trạng thái hiện tại và kết quả của các bước trước.
02 / Gọi công cụ
Mô hình đề xuất công cụ và đầu vào; ứng dụng kiểm tra quyền trước khi thực thi.
03 / Đọc kết quả
Agent nhận dữ liệu trả về, bao gồm thành công, dữ liệu rỗng hoặc lỗi.
04 / Kiểm tra và dừng
Kiểm tra mục tiêu đã đạt chưa. Dừng khi hoàn thành, thiếu quyền hoặc chạm giới hạn; nếu cần thì tiếp tục.
Minh họa một vòng lặp agent đơn giản. Công cụ chỉ được thực hiện thao tác trong quyền đã cấp; lời mô hình nói không thay thế kết quả thực thi.
Khi nào cần agent, khi nào cần luồng cố định?
Nếu nhiệm vụ luôn là đọc biểu mẫu, kiểm tra ba điều kiện và gửi tới đúng bộ phận, một luồng xác định trước thường dễ kiểm thử. Khi số bước và cách tìm thông tin thay đổi theo từng tình huống, quyền lựa chọn động có thể hữu ích hơn.
Trong Building effective agents, Anthropic phân biệt workflow có đường đi do mã xác định với agent để mô hình chủ động điều phối bước và công cụ. Bài viết khuyên bắt đầu từ giải pháp đơn giản, vì tính linh hoạt có thể làm tăng chi phí và độ trễ.
Ví dụ, một trợ lý tổng hợp tài liệu có thể cần tìm thêm nguồn khi tài liệu ban đầu thiếu thông tin. Nhưng bước xuất báo cáo theo mẫu cố định vẫn có thể là mã thông thường. Không cần biến mọi thành phần thành quyết định của mô hình.
Thiết kế công cụ như một hợp đồng rõ ràng
Mỗi công cụ nên có tên, đầu vào và kết quả dễ phân biệt. search_documents(query) rõ hơn một công cụ làm đồng thời tìm kiếm, chỉnh sửa và gửi thông báo. Kết quả cũng cần phân biệt thành công, không tìm thấy và lỗi tạm thời.
Với ví dụ sắp xếp thư mục, hãy bắt đầu bằng quyền chỉ đọc. Agent tạo một bản đề xuất gồm đường dẫn hiện tại và đường dẫn đích. Trước khi thực hiện, chương trình kiểm tra xung đột tên và phạm vi thư mục được phép.
Các thao tác như gửi email, xóa tệp hoặc thanh toán cần chính sách riêng. Phê duyệt phải gắn với hành động cụ thể mà người dùng nhìn thấy. Không nên suy ra quyền thực hiện chỉ từ việc người dùng đã yêu cầu “xử lý giúp tôi”.
Biết dừng là một phần của năng lực
Agent cần giới hạn số bước, thời gian và ngân sách. Nếu cùng một lỗi lặp lại, hệ thống nên đổi cách tiếp cận có căn cứ hoặc báo điểm bị chặn. Tiếp tục gọi công cụ vô hạn chỉ làm tăng chi phí.
Hãy ghi lại công cụ đã gọi, đầu vào cần thiết, kết quả và lý do kết thúc. Nhật ký này phục vụ kiểm tra hành vi; không cần lưu mọi dữ liệu nhạy cảm hoặc dựa vào suy nghĩ nội bộ của mô hình.
Để đánh giá, giao các nhiệm vụ có kết quả kiểm tra được: tìm đúng tài liệu, tạo đủ tệp mong đợi, không chạm vào thư mục ngoài phạm vi, dừng khi thiếu quyền. Thêm cả trường hợp công cụ mất kết nối hoặc trả dữ liệu rỗng.
Một agent hữu ích không chỉ biết chọn hành động. Nó còn phải giữ ranh giới quyền hạn, nhận ra khi bằng chứng chưa đủ và báo cáo chính xác phần công việc đã hoàn thành. Nếu nhiệm vụ chỉ cần tra cứu tài liệu rồi trả lời, hãy xem cách xây quy trình RAG trước khi thêm một vòng lặp tự chọn hành động.