Code Nguyen
Writer
Bạn có từng nghĩ một bản tóm tắt ngắn gọn do AI viết ra, vốn để giúp ta tiết kiệm thời gian, lại có thể trở thành công cụ để cài đặt phần mềm tống tiền?
Ảnh chụp màn hình ở trên minh họa hai thành phần chính của cuộc tấn công trong nguồn HTML.
Vấn đề ở đây là AI tóm tắt không “hiểu” nội dung như ta, nó trung thực sao chép lại những gì đọc được. Khi bị “quá liều nhắc nhở” bởi hàng chục chỉ thị ẩn, mô hình sẽ ưu tiên tái tạo chính xác các hướng dẫn độc hại thay vì nội dung thật. Trong thử nghiệm, kẻ tấn công còn khiến bản tóm tắt tự động sinh ra lệnh PowerShell mã hóa sẵn, có thể chạy trực tiếp trong Windows.
Điều nguy hiểm là người dùng không cần làm gì ngoài việc xem bản tóm tắt. Chỉ cần mở email, tài liệu công ty hoặc một bài đăng trên diễn đàn và nhấn vào chức năng “tóm tắt nội dung”, bạn đã có thể được AI phục vụ… từng bước cài đặt ransomware.
Ảnh chụp nhanh hiển thị tải trọng ClickFix được tái tạo bằng tiện ích mở rộng tóm tắt AI tùy chỉnh
Các ứng dụng email, tiện ích trình duyệt, thậm chí hệ thống AI nội bộ của doanh nghiệp đều có nguy cơ vô tình trở thành kênh phát tán. Blog SEO, chủ đề diễn đàn hay bất kỳ nền tảng nào có chức năng tóm tắt đều có thể biến thành kho chứa lệnh tấn công ẩn.
Để ứng phó, chuyên gia khuyến nghị phải lọc sạch các thuộc tính CSS dùng để che giấu văn bản, phát hiện các chuỗi lệnh mã hóa, cân bằng lại trọng số trong quá trình tóm tắt để tránh nội dung lặp vô lý. Doanh nghiệp cần chính sách AI nghiêm ngặt, tích hợp ngay từ cổng email và hệ thống quản lý tài liệu, kèm theo cảnh báo rõ ràng về sự khác biệt giữa văn bản hiển thị và văn bản ẩn.
Câu hỏi đặt ra là, khi kẻ tấn công biến AI từ một công cụ trợ lý thành kênh phát tán mã độc, liệu chúng ta có đang sẵn sàng để “dạy” AI biết tự bảo vệ chính mình? Và nếu một ngày, tính năng tóm tắt email bằng AI được tích hợp vào ứng dụng bạn dùng hàng ngày ở Việt Nam, bạn có tin tưởng nhấn vào nó không?
Theo: https://gbhackers.com/hackers-use-ai-generated-summaries-deliver-ransomware/amp/
Khi AI tóm tắt biến thành “kênh tấn công”
Một kỹ thuật tấn công xã hội mới gọi là ClickFix đã được kẻ xấu tùy biến để lợi dụng chính các công cụ tóm tắt bằng AI. Thay vì phải lừa bạn bấm vào đường link, chúng ẩn chỉ thị độc hại ngay trong đoạn HTML và CSS. Với thủ thuật này, văn bản trắng trên nền trắng, ký tự không có độ rộng hay chữ bị đẩy ra ngoài màn hình sẽ biến mất trước mắt con người nhưng lại hiện rõ trong con mắt của AI.
Ảnh chụp màn hình ở trên minh họa hai thành phần chính của cuộc tấn công trong nguồn HTML.
Điều nguy hiểm là người dùng không cần làm gì ngoài việc xem bản tóm tắt. Chỉ cần mở email, tài liệu công ty hoặc một bài đăng trên diễn đàn và nhấn vào chức năng “tóm tắt nội dung”, bạn đã có thể được AI phục vụ… từng bước cài đặt ransomware.
Vì sao đây là mối đe dọa lớn
Trước đây, nạn nhân thường phải bấm vào liên kết đáng ngờ hoặc tải file lạ mới bị dính mã độc. Giờ đây, bản tóm tắt trông hợp pháp, do chính AI tạo ra, lại trở thành mồi nhử. Tin tưởng vào “AI đáng tin cậy” khiến tỷ lệ thành công của các chiến dịch ransomware tăng cao.
Ảnh chụp nhanh hiển thị tải trọng ClickFix được tái tạo bằng tiện ích mở rộng tóm tắt AI tùy chỉnh
Để ứng phó, chuyên gia khuyến nghị phải lọc sạch các thuộc tính CSS dùng để che giấu văn bản, phát hiện các chuỗi lệnh mã hóa, cân bằng lại trọng số trong quá trình tóm tắt để tránh nội dung lặp vô lý. Doanh nghiệp cần chính sách AI nghiêm ngặt, tích hợp ngay từ cổng email và hệ thống quản lý tài liệu, kèm theo cảnh báo rõ ràng về sự khác biệt giữa văn bản hiển thị và văn bản ẩn.
Câu hỏi đặt ra là, khi kẻ tấn công biến AI từ một công cụ trợ lý thành kênh phát tán mã độc, liệu chúng ta có đang sẵn sàng để “dạy” AI biết tự bảo vệ chính mình? Và nếu một ngày, tính năng tóm tắt email bằng AI được tích hợp vào ứng dụng bạn dùng hàng ngày ở Việt Nam, bạn có tin tưởng nhấn vào nó không?
Theo: https://gbhackers.com/hackers-use-ai-generated-summaries-deliver-ransomware/amp/
