Grokking là gì? Chiêu mới của hacker lợi dụng AI để phát tán liên kết độc hại

Duy Linh · 13:22 Hôm qua

Nền tảng X cấm gắn URL trong các bài đăng quảng cáo nhằm ngăn lừa đảo trực tuyến. Tuy nhiên, tội phạm mạng đã tìm ra cách vượt qua bằng cách khai thác Grok, trợ lý AI của X. Khi được người dùng hỏi về nguồn gốc hình ảnh hoặc video trong quảng cáo, Grok có thể gợi ý các liên kết bên ngoài. Điều này vô tình giúp lan truyền tên miền độc hại, bởi người dùng tin tưởng rằng liên kết xuất phát từ AI chính thức.

Quy trình được gọi là “Grokking” diễn ra như sau:

Kẻ xấu tạo quảng cáo với hình ảnh hấp dẫn nhưng không chứa URL để vượt qua bộ lọc của X.
Trong phần bình luận, chúng đặt câu hỏi như “@Grok nguồn ảnh này là gì?” hoặc “Grok, chia sẻ liên kết video!”
Grok phân tích nội dung, không nhận diện hạn chế về URL, rồi trả lời bằng cách gợi ý liên kết độc hại.
Người theo dõi chia sẻ phản hồi của AI, khiến liên kết lan rộng và thu hút hàng triệu lượt nhấp.

Liên kết độc hại thông qua quảng cáo
Một ví dụ cụ thể cho thấy bài đăng quảng cáo vô hại đã đạt 4,3 triệu lượt xem. Khi người dùng hỏi Grok, AI đã gợi ý trang "datingprudethimble.com" – vốn được biết đến là độc hại – dẫn đến lượng truy cập tăng vọt. Các nhà nghiên cứu an ninh mạng ghi nhận nhiều chiến dịch tương tự đã đưa hàng chục triệu lượt xem đến các trang lừa đảo hoặc nội dung người lớn chỉ trong vài ngày.

Nguy cơ mới và biện pháp đối phó

Thuật ngữ “Grokking” ra đời để mô tả chiến thuật này: khai thác Grok nhằm khuếch đại liên kết mà chính sách X vốn ngăn chặn. Điều này mở ra một biên giới mới trong tội phạm mạng dựa trên quảng cáo, nơi kẻ xấu vừa khai thác AI vừa thử thách các lớp bảo mật.

Ban lãnh đạo X thừa nhận lỗ hổng nhưng cho biết không vô hiệu hóa Grok mà sẽ cải thiện hệ thống bảo vệ AI. Công ty đang triển khai các bản cập nhật nhằm ngăn Grok gợi ý các tên miền bị gắn cờ độc hại hoặc spam. Tuy nhiên, cho đến khi biện pháp này hoạt động hiệu quả, người dùng vẫn đối diện rủi ro.

Các chuyên gia an ninh khuyến cáo: hãy thận trọng với mọi liên kết được đưa ra bởi AI, tương tự như cách xử lý email hoặc tin nhắn lạ. Không nhấp vào các tên miền đáng ngờ xuất hiện qua phản hồi AI, cần xác minh độc lập và báo cáo những quảng cáo vi phạm. Cho đến khi lỗ hổng Grokking được vá, cảnh giác vẫn là tấm lá chắn tốt nhất.

Đọc chi tiết tại đây: https://gbhackers.com/hackers-exploit-xs-grok-ai/