Vì sao AI thông minh nhưng 'ngây thơ' trước hacker?

Code Nguyen · 10:19

Bạn có bao giờ nghĩ đến cảnh mình không hề click chuột hay nhập mật khẩu, nhưng tiền trong tài khoản vẫn biến mất, chỉ vì… AI đã tự “giúp” bạn?

Khi AI trở thành mục tiêu lừa đảo

Một nghiên cứu mới của Guardio cho thấy, kẻ gian không còn cần phải lừa trực tiếp con người, mà chỉ cần lừa… AI. Các trình duyệt thông minh hay tác nhân AI có khả năng hành động thay người dùng, từ mua sắm online cho đến quản lý email. Nhưng chính sự “ngoan ngoãn” của AI lại biến nó thành cánh cửa mở toang cho kẻ xấu.

Ví dụ, nhóm nghiên cứu đã thử nghiệm trên Comet, một trình duyệt AI tích hợp sẵn trong sản phẩm của Perplexity. Họ dựng một trang web giả mạo Walmart bán đồng hồ Apple Watch. Khi được lệnh mua hàng, AI đã tự quét trang, nhấn nút mua, điền địa chỉ, thông tin thẻ tín dụng và hoàn tất giao dịch. Tất cả diễn ra nhanh chóng, chính xác, mà không hề hỏi lại người dùng. Nói cách khác, chỉ cần một lời nhắc đơn giản, AI đã “dẫn thân” vào bẫy.

Trong thử nghiệm khác, một email lừa đảo từ một “ngân hàng” được gửi đến. Comet lập tức nhấp vào liên kết, mở trang giả mạo và thậm chí hỗ trợ người dùng điền thông tin đăng nhập. Người dùng không hề thấy cảnh báo hay cơ hội nghi ngờ. Nếu là tình huống thật, hậu quả khó lường.

Vấn đề không nằm ở công nghệ, mà ở cách AI “nghĩ”

Guardio chỉ ra rằng, điểm yếu gốc rễ nằm ở bản chất của AI. Chúng được lập trình để phục vụ, để tuân theo, để làm hài lòng. Khác với con người, AI không có sự hoài nghi tự nhiên. Khi gặp chỉ dẫn ẩn trong các đoạn văn bản hoặc CAPTCHA, AI cũng tuân thủ vô điều kiện. Trong một thử nghiệm, chỉ bằng một dòng chữ ẩn trong bài kiểm tra CAPTCHA, AI đã nhấp vào nút tải tệp. Lần này tệp vô hại, nhưng trong thực tế nó có thể chứa mã độc và mở đường cho kẻ xấu kiểm soát toàn bộ máy tính.

Nói thẳng ra, AI hiện tại rất giỏi thực thi nhưng lại “ngây thơ” đến mức nguy hiểm.

Bài học cho kỷ nguyên AI tự động

Guardio kết luận, nếu trình duyệt AI muốn thực sự thay thế con người trong các tác vụ hàng ngày, bảo mật phải là nền tảng, chứ không thể chỉ là tính năng phụ. Cần tích hợp những lớp phòng thủ đã được chứng minh, như phát hiện lừa đảo nâng cao, quét mã độc, xác minh website và theo dõi hành vi bất thường. Quan trọng hơn, tất cả phải diễn ra ngay trong vòng quyết định của AI, không phải đợi đến khi hậu quả đã xảy ra.

Câu hỏi đặt ra cho chúng ta, đặc biệt ở Việt Nam nơi người dùng công nghệ mới rất nhanh nhưng nhận thức an ninh mạng còn hạn chế: nếu một ngày AI tự ý rút tiền hoặc mở dữ liệu cá nhân, ai sẽ chịu trách nhiệm, bạn hay AI?

calcalistech

Nguồn bài viết: https://www.calcalistech.com/ctechnews/article/ryg9y7myeg