Trí tuệ nhân tạo đang được doanh nghiệp trên toàn thế giới sử dụng ngày càng nhiều để hỗ trợ công việc. Từ viết nội dung, phân tích dữ liệu đến tự động hóa quy trình, các công cụ AI được kỳ vọng sẽ giúp tăng năng suất và giảm chi phí. Tuy nhiên, một nghiên cứu mới vừa hé lộ một nguy cơ đáng lo ngại: ngay cả những tiện ích AI đã vượt qua kiểm tra bảo mật vẫn có thể bị lợi dụng để trở thành công cụ tấn công người dùng.
Công cụ AI giả tiếp cận hơn 26.000 người dùng
Công ty nghiên cứu bảo mật AIR vừa công bố kết quả một thử nghiệm cho thấy một tiện ích AI giả mạo đã vượt qua hàng loạt cơ chế kiểm tra an toàn và tiếp cận hơn 26.000 người dùng thông qua quảng cáo trên Instagram. Đáng chú ý, một số người sử dụng công cụ này được cho là thuộc các tài khoản doanh nghiệp.
Theo AIR, nếu đây là một cuộc tấn công thực sự thay vì nghiên cứu bảo mật, hậu quả có thể không chỉ dừng lại ở việc thu thập thông tin người dùng mà còn có khả năng ảnh hưởng đến các cuộc trò chuyện riêng tư, dữ liệu nội bộ và thậm chí là hệ thống doanh nghiệp.
Mọi thứ bắt đầu từ một công cụ trông hoàn toàn hợp pháp
Để thực hiện thử nghiệm, các nhà nghiên cứu tạo ra một tiện ích AI có tên "brand-landingpage", được giới thiệu là công cụ hỗ trợ xây dựng trang đích (landing page) bằng Google Stitch – nền tảng thiết kế ứng dụng sử dụng AI của Google.
Đây là loại công cụ dễ thu hút sự quan tâm của các bộ phận marketing, kinh doanh hoặc thiết kế, những người thường xuyên sử dụng AI để hỗ trợ công việc.
Nhóm nghiên cứu sau đó đưa tiện ích này lên một kho mã nguồn mở phổ biến dành cho các AI Agent. Kho lưu trữ này sở hữu hàng chục nghìn lượt theo dõi và được cộng đồng đánh giá là đáng tin cậy.
Sau vài ngày, tiện ích được phê duyệt thành công. Điều đáng nói là các công cụ kiểm tra bảo mật từ nhiều hãng công nghệ và an ninh mạng cũng đều đánh giá đây là một tiện ích an toàn.
Đây là loại công cụ dễ thu hút sự quan tâm của các bộ phận marketing, kinh doanh hoặc thiết kế, những người thường xuyên sử dụng AI để hỗ trợ công việc.
Nhóm nghiên cứu sau đó đưa tiện ích này lên một kho mã nguồn mở phổ biến dành cho các AI Agent. Kho lưu trữ này sở hữu hàng chục nghìn lượt theo dõi và được cộng đồng đánh giá là đáng tin cậy.
Sau vài ngày, tiện ích được phê duyệt thành công. Điều đáng nói là các công cụ kiểm tra bảo mật từ nhiều hãng công nghệ và an ninh mạng cũng đều đánh giá đây là một tiện ích an toàn.
Bí mật nằm ở một đường dẫn bên ngoài
Thay vì giấu mã độc bên trong tiện ích, nhóm nghiên cứu lựa chọn một cách tiếp cận tinh vi hơn. Tiện ích được thiết kế để hướng dẫn AI truy cập vào một website có tên miền rất giống với dịch vụ chính thức của Google.
Ban đầu, website này chỉ đơn giản chuyển hướng người dùng đến trang thật nên không tạo ra bất kỳ dấu hiệu bất thường nào. Vì vậy, các hệ thống kiểm tra bảo mật không phát hiện được rủi ro.
Tuy nhiên, sau khi tiện ích đã được nhiều người cài đặt và tin tưởng sử dụng, nội dung của website này được thay đổi. Lúc này, AI bắt đầu nhận các chỉ dẫn hoàn toàn khác với ban đầu.
Ban đầu, website này chỉ đơn giản chuyển hướng người dùng đến trang thật nên không tạo ra bất kỳ dấu hiệu bất thường nào. Vì vậy, các hệ thống kiểm tra bảo mật không phát hiện được rủi ro.
Tuy nhiên, sau khi tiện ích đã được nhiều người cài đặt và tin tưởng sử dụng, nội dung của website này được thay đổi. Lúc này, AI bắt đầu nhận các chỉ dẫn hoàn toàn khác với ban đầu.
Từ công cụ hữu ích thành cửa ngõ cho tin tặc
Trong thử nghiệm của AIR, trang web sau đó yêu cầu AI tải xuống một tập lệnh mới. Nhóm nghiên cứu chỉ sử dụng tập lệnh này để thu thập địa chỉ email nhằm phục vụ mục đích nghiên cứu và thông báo cho người tham gia thử nghiệm.
Tuy nhiên, các chuyên gia cảnh báo rằng trong một cuộc tấn công thực tế, cùng một kỹ thuật hoàn toàn có thể được sử dụng để:
Tuy nhiên, các chuyên gia cảnh báo rằng trong một cuộc tấn công thực tế, cùng một kỹ thuật hoàn toàn có thể được sử dụng để:
- Cài đặt mã độc lên thiết bị.
- Đánh cắp dữ liệu doanh nghiệp.
- Thu thập tài liệu nội bộ.
- Theo dõi hoạt động người dùng.
- Mở đường cho các cuộc tấn công tiếp theo.
Nói cách khác, một tiện ích AI được đánh giá là "an toàn" hôm nay có thể trở thành công cụ tấn công chỉ sau một thay đổi nhỏ trên máy chủ từ xa.
Nguy cơ mới trong kỷ nguyên AI
Theo các chuyên gia an ninh mạng, sự việc cho thấy các doanh nghiệp không nên xem các tiện ích AI chỉ là những đoạn văn bản hoặc câu lệnh đơn giản.
Trên thực tế, chúng hoạt động tương tự các phần mềm bên thứ ba và có thể truy cập dữ liệu, kết nối tới dịch vụ bên ngoài hoặc thực hiện nhiều hành động thay mặt người dùng. Điều này đồng nghĩa với việc các tiện ích AI cần được quản lý nghiêm ngặt như bất kỳ phần mềm nào khác trong hệ thống doanh nghiệp.
Các chuyên gia khuyến nghị các doanh nghiệp nên:
Trên thực tế, chúng hoạt động tương tự các phần mềm bên thứ ba và có thể truy cập dữ liệu, kết nối tới dịch vụ bên ngoài hoặc thực hiện nhiều hành động thay mặt người dùng. Điều này đồng nghĩa với việc các tiện ích AI cần được quản lý nghiêm ngặt như bất kỳ phần mềm nào khác trong hệ thống doanh nghiệp.
Các chuyên gia khuyến nghị các doanh nghiệp nên:
- Chỉ cho phép sử dụng các tiện ích AI từ nguồn đáng tin cậy.
- Kiểm soát các website và dịch vụ mà AI được phép truy cập.
- Theo dõi hoạt động của AI trong quá trình vận hành.
- Thường xuyên rà soát lại các tiện ích đã được phê duyệt.
- Hạn chế quyền truy cập dữ liệu của AI ở mức cần thiết.
AI không phải là vấn đề, sự tin tưởng mù quáng mới là vấn đề
Trong khi nhiều doanh nghiệp đang đẩy nhanh việc ứng dụng AI vào công việc hằng ngày, các cơ chế kiểm tra bảo mật hiện tại có thể vẫn chưa theo kịp những rủi ro mới mà công nghệ này mang lại. Một tiện ích AI có thể vượt qua mọi vòng kiểm duyệt, được hàng chục nghìn người tin tưởng sử dụng và chỉ thay đổi hành vi sau khi đã được cấp quyền truy cập.
Đó chính là điều cần lo ngại trong tương lai, tin tặc có thể không cần tấn công trực tiếp vào hệ thống của doanh nghiệp. Thay vào đó, chúng chỉ cần tìm cách lợi dụng những công cụ AI mà doanh nghiệp đang tin tưởng sử dụng mỗi ngày.
Đó chính là điều cần lo ngại trong tương lai, tin tặc có thể không cần tấn công trực tiếp vào hệ thống của doanh nghiệp. Thay vào đó, chúng chỉ cần tìm cách lợi dụng những công cụ AI mà doanh nghiệp đang tin tưởng sử dụng mỗi ngày.
Được phối hợp thực hiện bởi các chuyên gia của Bkav,
cộng đồng An ninh mạng Việt Nam WhiteHat
và cộng đồng Khoa học công nghệ VnReview
