Nguyễn Tiến Đạt
Intern Writer
Các chuyên gia an ninh mạng cảnh báo hiện tượng “ảo giác AI” đang trở thành mối đe dọa nghiêm trọng đối với hoạt động bảo mật và vận hành hạ tầng số.
Theo nghiên cứu năm 2025 của Artificial Analysis trên 40 mô hình AI, phần lớn các hệ thống được thử nghiệm có xu hướng đưa ra câu trả lời sai nhưng đầy tự tin thay vì thừa nhận không chắc chắn ở những câu hỏi khó.
Ảo giác AI là hiện tượng mô hình trí tuệ nhân tạo tạo ra thông tin nghe có vẻ hợp lý nhưng thực tế lại sai hoặc hoàn toàn bịa đặt. Các mô hình ngôn ngữ không thực sự “hiểu” thông tin mà chỉ dự đoán từ ngữ dựa trên dữ liệu huấn luyện, khiến chúng có thể tự tin trích dẫn nguồn không tồn tại, nghiên cứu giả hoặc dữ liệu sai lệch.
Trong lĩnh vực an ninh mạng, điều này tạo ra nhiều rủi ro nghiêm trọng. AI có thể bỏ sót các cuộc tấn công mới như zero-day do thiếu dữ liệu huấn luyện phù hợp, đồng thời cũng có thể tạo ra cảnh báo giả khiến doanh nghiệp lãng phí nguồn lực xử lý sự cố không tồn tại.
Nguy hiểm hơn, AI đôi khi còn đề xuất các biện pháp khắc phục sai lệch như xóa tệp quan trọng, thay đổi cấu hình hệ thống hoặc vô hiệu hóa tường lửa. Nếu được thực hiện bằng tài khoản có đặc quyền, các hành động này có thể dẫn tới mất dữ liệu hoặc mở đường cho tấn công mạng.
Các chuyên gia cho rằng nguyên nhân của hiện tượng này đến từ dữ liệu huấn luyện sai lệch, thiên kiến dữ liệu, thiếu cơ chế xác thực và các câu lệnh đầu vào không rõ ràng.
Để giảm thiểu rủi ro, các tổ chức được khuyến nghị luôn yêu cầu con người xác minh trước khi AI thực hiện hành động quan trọng, áp dụng nguyên tắc quyền truy cập tối thiểu cho hệ thống AI và thường xuyên rà soát dữ liệu huấn luyện.
Ngoài ra, doanh nghiệp cũng cần đào tạo nhân viên về cách sử dụng AI an toàn, tránh coi kết quả do AI tạo ra là hoàn toàn chính xác nếu chưa được kiểm chứng độc lập.
Các chuyên gia nhận định khi AI ngày càng được tích hợp sâu vào hoạt động doanh nghiệp, “ảo giác AI” không còn là lỗi kỹ thuật đơn thuần mà đã trở thành một vấn đề an ninh mạng thực sự.
Theo nghiên cứu năm 2025 của Artificial Analysis trên 40 mô hình AI, phần lớn các hệ thống được thử nghiệm có xu hướng đưa ra câu trả lời sai nhưng đầy tự tin thay vì thừa nhận không chắc chắn ở những câu hỏi khó.
Ảo giác AI là hiện tượng mô hình trí tuệ nhân tạo tạo ra thông tin nghe có vẻ hợp lý nhưng thực tế lại sai hoặc hoàn toàn bịa đặt. Các mô hình ngôn ngữ không thực sự “hiểu” thông tin mà chỉ dự đoán từ ngữ dựa trên dữ liệu huấn luyện, khiến chúng có thể tự tin trích dẫn nguồn không tồn tại, nghiên cứu giả hoặc dữ liệu sai lệch.
Trong lĩnh vực an ninh mạng, điều này tạo ra nhiều rủi ro nghiêm trọng. AI có thể bỏ sót các cuộc tấn công mới như zero-day do thiếu dữ liệu huấn luyện phù hợp, đồng thời cũng có thể tạo ra cảnh báo giả khiến doanh nghiệp lãng phí nguồn lực xử lý sự cố không tồn tại.
Nguy hiểm hơn, AI đôi khi còn đề xuất các biện pháp khắc phục sai lệch như xóa tệp quan trọng, thay đổi cấu hình hệ thống hoặc vô hiệu hóa tường lửa. Nếu được thực hiện bằng tài khoản có đặc quyền, các hành động này có thể dẫn tới mất dữ liệu hoặc mở đường cho tấn công mạng.
Các chuyên gia cho rằng nguyên nhân của hiện tượng này đến từ dữ liệu huấn luyện sai lệch, thiên kiến dữ liệu, thiếu cơ chế xác thực và các câu lệnh đầu vào không rõ ràng.
Để giảm thiểu rủi ro, các tổ chức được khuyến nghị luôn yêu cầu con người xác minh trước khi AI thực hiện hành động quan trọng, áp dụng nguyên tắc quyền truy cập tối thiểu cho hệ thống AI và thường xuyên rà soát dữ liệu huấn luyện.
Ngoài ra, doanh nghiệp cũng cần đào tạo nhân viên về cách sử dụng AI an toàn, tránh coi kết quả do AI tạo ra là hoàn toàn chính xác nếu chưa được kiểm chứng độc lập.
Các chuyên gia nhận định khi AI ngày càng được tích hợp sâu vào hoạt động doanh nghiệp, “ảo giác AI” không còn là lỗi kỹ thuật đơn thuần mà đã trở thành một vấn đề an ninh mạng thực sự.
Được phối hợp thực hiện bởi các chuyên gia của Bkav,
cộng đồng An ninh mạng Việt Nam WhiteHat
và cộng đồng Khoa học công nghệ VnReview
