Một yêu cầu nhỏ có thể kéo theo nhiều lượt gọi mô hình và công cụ. Chờ hóa đơn cuối tháng mới kiểm tra sẽ không giúp người vận hành biết lần chạy nào đang vượt phạm vi. Giới hạn chi phí AI Agent cần đặt ở từng lần chạy, cùng số lượt, thời gian và cách lưu phần việc chưa hoàn tất.
Chốt ngân sách cho công việc, không chỉ cho tài khoản
Mỗi lần chạy cần một mã riêng, người yêu cầu, đầu ra mong muốn và phạm vi công cụ. Đặt giới hạn theo mức rủi ro của công việc: số lượt mô hình, lượt công cụ, thời gian, token hoặc chi phí ước tính. Không lấy một con số chung áp dụng cho mọi nhiệm vụ rồi coi vượt ngưỡng là lỗi của mô hình.
Chi phí xây dựng, tích hợp và vận hành dài hạn được trình bày riêng tại chi phí triển khai AI Agent. Bài này tập trung vào việc dừng một lượt thực thi trước khi nó tiêu tốn ngoài phạm vi cho phép.
Giới hạn lượt gọi chưa phải giới hạn tiền
Tài liệu OpenAI Agents SDK mô tả vòng lặp và cơ chế dừng khi vượt số lượt được cấu hình. Một lượt có thể dùng lượng đầu vào, đầu ra và công cụ khác nhau, nên giới hạn lượt không tự biến thành giới hạn tiền.
Ước tính chi phí phải ghi mô hình, loại sử dụng, đơn giá và thời điểm lấy giá; công cụ bên ngoài có thể có phí riêng. Nếu chưa nhận đủ usage hoặc hóa đơn, ghi “tạm tính”, không trình bày như số tiền đã đối soát. Không dùng tỷ giá hay bảng giá cũ mà không ghi nguồn.
Mẫu phiếu giới hạn cho một lần chạy
- Mã lần chạy và nhóm công việc.
- Giới hạn lượt mô hình, công cụ và thời gian.
- Ngân sách tạm tính và nguồn đơn giá.
- Mức đã dùng, phần chưa nhận dữ liệu và thời điểm cập nhật.
- Điều kiện dừng, đầu ra dở dang và người quyết định mở lại.
Ví dụ giả định: một tác vụ tìm tài liệu được giới hạn bốn lượt mô hình và ba lượt tra cứu. Sau ba lượt tra cứu vẫn thiếu tài liệu nguồn thì dừng, trả về danh sách đã tìm cùng câu hỏi còn thiếu. Không tự tăng giới hạn chỉ để tạo được một câu trả lời có vẻ hoàn chỉnh.
Dừng mà không làm mất dấu vết
Lưu lý do dừng, kết quả đã có và thao tác nào đã thực hiện. Một trạng thái “vượt ngân sách” khác với “hoàn tất” hoặc “lỗi kết nối”. Người mở lại phải thấy lần chạy trước đã dùng bao nhiêu; việc tiếp tục không được xóa chi phí cũ khỏi tổng công việc.
Đừng để một lớp gọi lại tự động tạo mã lần chạy mới và né ngưỡng tổng. Cần theo dõi cả từng lượt thực thi lẫn công việc gốc. Việc kiểm soát này nằm ở lớp thực thi có thẩm quyền, không chỉ trong lời nhắc yêu cầu AI tự tiết kiệm.
Đọc báo cáo để điều chỉnh phạm vi
Nhóm các lần dừng theo nguyên nhân: thiếu dữ liệu, nhiệm vụ quá rộng, công cụ không trả kết quả hay giới hạn chưa phù hợp. Chỉ tăng ngân sách khi đầu ra và lý do đã rõ. Tham khảo vận hành và bảo trì AI Agent để đặt trách nhiệm theo dõi; khi trao đổi giải pháp AI, chuẩn bị một công việc mẫu và mức sử dụng chấp nhận được thay vì chỉ hỏi hệ thống có chạy tự động hay không.
