Khi nào agent thắng workflow — và khi nào thì không

Có một phép thử đơn giản để biết một tác vụ có cần agent hay không: bạn vẽ được sơ đồ luồng trước hay không?

Vẽ được thì hãy dựng pipeline

Phân loại ticket, trích xuất năm trường, tra cứu khách hàng, soạn phản hồi. Các bước không bao giờ đổi. Một pipeline cố định chạy nhanh hơn nhiều lần, tốn ít token hơn nhiều lần, và khi hỏng thì đọc log là biết.

Bước sau phụ thuộc bước trước thì dùng agent

"Tìm hiểu vì sao doanh thu khu vực Việt Nam giảm trong quý vừa rồi" thì không vẽ trước được. Truy vấn thứ hai phụ thuộc vào kết quả truy vấn thứ nhất. Chính sự rẽ nhánh đó là lý do vòng lặp agent tồn tại.

Cấp ngân sách cho agent

Một vòng lặp mở không có trần chính là cách một tác vụ nghiên cứu âm thầm trở nên tốn kém. Hãy giới hạn số bước, giới hạn số lần gọi công cụ, và stream tiến độ để con người có thể dừng lại. Thực tế gần như không bao giờ chạm trần — nhưng có trần mới dám đưa tính năng ra production.

Giữ công cụ nhỏ và nhàm chán

Một agent gọi được mười hai công cụ đặt tên rõ ràng, mỗi công cụ làm một việc, hoạt động tốt hơn agent chỉ có ba công cụ mà mỗi cái nhận một object cấu hình. Mơ hồ trong chữ ký công cụ sẽ biến thành retry, và retry biến thành độ trễ.