Giảm hallucination AI Agent cần được thực hiện ở cả nguồn dữ liệu, cách trả lời và quyền hành động. Một câu có giọng tự tin vẫn có thể không được nguồn hỗ trợ. Thay vì yêu cầu mô hình “luôn chính xác”, doanh nghiệp cần xác định điều gì phải có bằng chứng, khi nào phải từ chối kết luận và ai kiểm tra những đầu ra quan trọng.

Sơ đồ minh họa luồng tham khảo; không phải ảnh hệ thống đã triển khai, chứng nhận hay kết quả khách hàng.
Phân loại lỗi trước khi sửa prompt
NIST Generative AI Profile mô tả confabulation là nội dung sai hoặc không đúng nhưng được trình bày tự tin. Khi đánh giá câu trả lời, nên ghi cụ thể lỗi nằm ở đâu: nguồn không có thông tin, truy xuất sai tài liệu, đọc sai phiên bản, suy luận vượt nguồn hay báo tác vụ hoàn tất khi chưa có kết quả xác nhận.
| Dấu hiệu | Bằng chứng cần xem | Hướng xử lý để thử |
|---|---|---|
| Thêm điều kiện không có trong nguồn | Câu trả lời và đoạn nguồn liên quan | Giới hạn kết luận, yêu cầu nêu phần chưa biết |
| Dùng chính sách cũ | Phiên bản và ngày hiệu lực được duyệt | Rà nguồn hiện hành và quy tắc chọn phiên bản |
| Báo đã thực hiện nhưng tác vụ lỗi | Kết quả công cụ và trạng thái xử lý | Chỉ xác nhận từ kết quả có kiểm tra |
| Dẫn nguồn không hỗ trợ kết luận | Liên kết và nội dung thực tế | Kiểm tra mức liên quan thay vì chỉ đếm citation |
RAG là một phần của luồng, không phải bảo đảm
Đưa tài liệu vào kho truy xuất không tự chứng minh câu trả lời đúng. Người review cần thấy tài liệu được chọn, đoạn thực sự hỗ trợ kết luận và các phần còn thiếu. Nếu nguồn mâu thuẫn hoặc không có, đầu ra nên nêu giới hạn và chuyển người xác nhận. Xem RAG trong AI Agent để tách bước tìm nguồn khỏi bước viết câu trả lời.

Sơ đồ minh họa luồng tham khảo; không phải ảnh hệ thống đã triển khai, chứng nhận hay kết quả khách hàng.
Tình huống minh họa: hỏi chính sách chưa được ban hành
Một nhân viên hỏi mức ưu đãi cho một nhóm khách mới, trong khi kho chỉ có chính sách cũ. Đây là ví dụ giả định để xây bộ kiểm tra. Hành vi mong muốn là chỉ ra nguồn hiện có chưa trả lời được trường hợp mới và chuyển người có quyền duyệt; không tự suy ra mức ưu đãi từ những nhóm khách gần giống.
Kết quả đánh giá cần ghi câu hỏi, tài liệu được truy xuất, câu AI đã kết luận và quyết định của người có thẩm quyền. Nếu người đánh giá bổ sung câu trả lời chuẩn, phải ghi nguồn/phạm vi áp dụng trước khi đưa lại vào kho. Không coi một câu nhân viên tự viết là chính sách đã được duyệt.
Xây bộ câu hỏi kiểm tra có trường hợp không thể trả lời
- Câu hỏi có nguồn rõ để kiểm tra tính bám nguồn.
- Câu hỏi thiếu một dữ kiện để kiểm tra khả năng hỏi lại.
- Câu hỏi có hai nguồn mâu thuẫn để kiểm tra chuyển người xác nhận.
- Câu hỏi ngoài phạm vi để kiểm tra việc từ chối kết luận.
- Tác vụ trả lỗi để kiểm tra trạng thái, không chỉ ngôn ngữ trả lời.

Sơ đồ minh họa luồng tham khảo; không phải ảnh hệ thống đã triển khai, chứng nhận hay kết quả khách hàng.
Chấm theo từng tiêu chí: kết luận được hỗ trợ, thông tin bịa thêm, phiên bản nguồn, cách nêu giới hạn và trạng thái hành động. Giữ cùng tập kiểm tra trước/sau khi thay đổi để đối chiếu; một điểm trung bình cao không xóa được lỗi nghiêm trọng. Không có tỷ lệ giảm lỗi được khẳng định nếu chưa đo trên dữ liệu thật của phạm vi đó.
Nên đọc mẫu hội thoại hoặc đầu việc theo tuần, phân loại lỗi thành dữ liệu, hướng dẫn, tích hợp, quyền truy cập và hành vi người vận hành. Cách phân loại này chỉ ra việc cần sửa. Đổi mô hình chỉ là một lựa chọn; nhiều lỗi thực tế nằm ở dữ liệu, quyền hoặc cách thiết kế luồng.
Giảm quyền hành động khi chưa đủ bằng chứng
Với đầu ra có tác động quan trọng, tách đề xuất của AI khỏi bước được người có quyền duyệt. Nhiều agent cùng nhắc lại một kết luận không tự tạo bằng chứng; xem multi-agent cho doanh nghiệp theo phạm vi phù hợp. Duy trì bộ lỗi trong bảo trì AI Agent và checklist triển khai. Khi trao đổi bài toán với Onter, chuẩn bị ví dụ đã loại dữ liệu riêng và tiêu chí cần kiểm tra; giải pháp AI không phải cam kết loại bỏ hoàn toàn hallucination.

Sơ đồ minh họa luồng tham khảo; không phải ảnh hệ thống đã triển khai, chứng nhận hay kết quả khách hàng.

