Phạm Thanh Bình✔
Writer
Một trải nghiệm khách hàng điển hình tại một trung tâm phân phối đã phơi bày điểm yếu chết người của các tác nhân AI trong quy trình xử lý doanh nghiệp. Khi một người dùng thắc mắc về đơn hàng bị trễ, tác nhân AI đã thực hiện chín lệnh gọi công cụ, kiểm tra hồ sơ, xem xét chính sách hoàn tiền và cuối cùng xác nhận trạng thái 'đã giải quyết'. Tuy nhiên, Hugging Face đã cùng Microsoft chỉ ra rằng câu trả lời của AI chỉ là bề nổi, bởi trạng thái thực tế trên cơ sở dữ liệu hoàn toàn trái ngược với kết luận của máy. Khách hàng vẫn chưa nhận được giải đáp thỏa đáng, trong khi hệ thống vận hành lại ghi nhận quy trình đã đóng, tạo ra một lỗ hổng niềm tin nguy hiểm.
Khoảng cách giữa phản hồi của AI và kết quả thực thi trong cơ sở dữ liệu chính là mục tiêu nghiên cứu của dự án ThinkingBox. Bằng cách đánh giá 507 quy trình kinh doanh phức tạp, nhóm tác giả đã đo lường sự sai lệch giữa kết quả mà tác nhân AI báo cáo và trạng thái thực tế của hệ thống backend. Kết quả cho thấy rằng việc đánh giá AI dựa trên các lệnh gọi công cụ hợp lệ là chưa đủ, bởi AI có thể tạo ra các phản hồi trôi chảy nhưng lại thực hiện sai lệnh thay đổi trạng thái dữ liệu. Đây là bằng chứng cho thấy các proxy truyền thống mà chúng ta vẫn sử dụng để chấm điểm AI đang thiếu đi tính thực tiễn cần thiết.
Dữ liệu thử nghiệm từ 121.680 lượt chạy trên 12 mô hình ngôn ngữ lớn (LLM) cho thấy 79.853 lần thử nghiệm đã thất bại trong các bài kiểm tra thực thi. Trong số đó, có tới 67,24% các trường hợp AI kết thúc quy trình một cách bình thường mà không báo lỗi, dù dữ liệu trong cơ sở dữ liệu đã bị cập nhật sai lệch hoặc không đầy đủ. Đặc biệt, 77,61% các lỗi này liên quan đến các giá trị trường không chính xác, trong khi 43,30% gây ra các tác dụng phụ ngoài ý muốn không được ghi nhận. Những số liệu này chỉ ra rằng một quỹ đạo thao tác trơn tru không đồng nghĩa với một kết quả dữ liệu chính xác.
Sai lầm phổ biến hiện nay là quá tin tưởng vào một lần thực hiện thành công duy nhất của các tác nhân AI. Để kiểm chứng độ tin cậy, mỗi tác vụ trong nghiên cứu này được chạy độc lập 20 lần trên cùng một trạng thái backend sạch để xác định tính ổn định. Một tác nhân AI chỉ được coi là đạt chuẩn nếu xử lý thành công tất cả 20/20 lần, thay vì dựa trên các con số ước tính hay làm mịn kết quả. Việc chú trọng vào độ bền bỉ này giúp các nhà phát triển phát hiện những kẽ hở tiềm ẩn mà các bài kiểm tra thông thường thường bỏ qua, nhất là trong các ứng dụng thương mại nhạy cảm.
Sự thiếu nhất quán giữa tư duy của mô hình và kết quả thực thi đang đặt ra yêu cầu mới về các tiêu chuẩn đánh giá tác nhân AI trong tương lai. Thay vì chỉ chú trọng vào khả năng hội thoại, giới công nghệ cần chuyển hướng sang việc kiểm chứng sự tác động vật lý và logic của AI lên hệ thống dữ liệu gốc. Dự án ThinkingBox thông qua nền tảng OpenEnv không chỉ vạch trần những hạn chế hiện tại mà còn cung cấp một bộ công cụ để cộng đồng tự kiểm tra độ tin cậy của hệ thống. Đây là bước đi cần thiết để thu hẹp khoảng cách giữa những lời hứa hẹn của công nghệ AI và sự ổn định mà doanh nghiệp thực sự yêu cầu.
Khoảng cách giữa phản hồi của AI và kết quả thực thi trong cơ sở dữ liệu chính là mục tiêu nghiên cứu của dự án ThinkingBox. Bằng cách đánh giá 507 quy trình kinh doanh phức tạp, nhóm tác giả đã đo lường sự sai lệch giữa kết quả mà tác nhân AI báo cáo và trạng thái thực tế của hệ thống backend. Kết quả cho thấy rằng việc đánh giá AI dựa trên các lệnh gọi công cụ hợp lệ là chưa đủ, bởi AI có thể tạo ra các phản hồi trôi chảy nhưng lại thực hiện sai lệnh thay đổi trạng thái dữ liệu. Đây là bằng chứng cho thấy các proxy truyền thống mà chúng ta vẫn sử dụng để chấm điểm AI đang thiếu đi tính thực tiễn cần thiết.
Dữ liệu thử nghiệm từ 121.680 lượt chạy trên 12 mô hình ngôn ngữ lớn (LLM) cho thấy 79.853 lần thử nghiệm đã thất bại trong các bài kiểm tra thực thi. Trong số đó, có tới 67,24% các trường hợp AI kết thúc quy trình một cách bình thường mà không báo lỗi, dù dữ liệu trong cơ sở dữ liệu đã bị cập nhật sai lệch hoặc không đầy đủ. Đặc biệt, 77,61% các lỗi này liên quan đến các giá trị trường không chính xác, trong khi 43,30% gây ra các tác dụng phụ ngoài ý muốn không được ghi nhận. Những số liệu này chỉ ra rằng một quỹ đạo thao tác trơn tru không đồng nghĩa với một kết quả dữ liệu chính xác.
Sai lầm phổ biến hiện nay là quá tin tưởng vào một lần thực hiện thành công duy nhất của các tác nhân AI. Để kiểm chứng độ tin cậy, mỗi tác vụ trong nghiên cứu này được chạy độc lập 20 lần trên cùng một trạng thái backend sạch để xác định tính ổn định. Một tác nhân AI chỉ được coi là đạt chuẩn nếu xử lý thành công tất cả 20/20 lần, thay vì dựa trên các con số ước tính hay làm mịn kết quả. Việc chú trọng vào độ bền bỉ này giúp các nhà phát triển phát hiện những kẽ hở tiềm ẩn mà các bài kiểm tra thông thường thường bỏ qua, nhất là trong các ứng dụng thương mại nhạy cảm.
Sự thiếu nhất quán giữa tư duy của mô hình và kết quả thực thi đang đặt ra yêu cầu mới về các tiêu chuẩn đánh giá tác nhân AI trong tương lai. Thay vì chỉ chú trọng vào khả năng hội thoại, giới công nghệ cần chuyển hướng sang việc kiểm chứng sự tác động vật lý và logic của AI lên hệ thống dữ liệu gốc. Dự án ThinkingBox thông qua nền tảng OpenEnv không chỉ vạch trần những hạn chế hiện tại mà còn cung cấp một bộ công cụ để cộng đồng tự kiểm tra độ tin cậy của hệ thống. Đây là bước đi cần thiết để thu hẹp khoảng cách giữa những lời hứa hẹn của công nghệ AI và sự ổn định mà doanh nghiệp thực sự yêu cầu.
