Sóng AI
Writer
- Đội ứng cứu khẩn cấp máy tính Ấn Độ (CERT-In) đã phát hành cảnh báo về các biện pháp thực hành tốt nhất khi sử dụng công cụ AI tạo sinh như ChatGPT, Gemini và Grok.
- Cảnh báo nêu rõ các rủi ro liên quan đến ứng dụng AI, bao gồm đầu độc dữ liệu, tấn công đối kháng và đánh cắp mô hình, đồng thời cung cấp hướng dẫn đảm bảo sử dụng có trách nhiệm.
- Mô hình AI tạo sinh dễ bị tổn thương trước nhiều mối đe dọa bảo mật, trong đó có đầu độc dữ liệu khi kẻ xấu thao túng dữ liệu huấn luyện để gây ra kết quả sai lệch hoặc thiên vị.
- Tấn công đối kháng xảy ra khi kẻ tấn công tinh vi sửa đổi đầu vào để đánh lừa AI tạo ra phản hồi sai.
- Đảo ngược mô hình cho phép tin tặc trích xuất thông tin nhạy cảm từ dữ liệu huấn luyện AI.
- Đánh cắp mô hình xảy ra khi tác nhân đe dọa sao chép mô hình AI bằng cách liên tục truy vấn chúng.
- Tiêm nhiễm lệnh là khi đầu vào độc hại có thể vượt qua bộ lọc nội dung và khai thác phản hồi AI.
- Khai thác ảo giác xảy ra khi kẻ tấn công lạm dụng thông tin sai lệch do AI tạo ra để lan truyền thông tin giả mạo hoặc lừa đảo.
- Tấn công cửa hậu là khi các kích hoạt ẩn trong mô hình AI có thể dẫn đến hành vi không mong muốn, tiềm ẩn nguy hại.
- CERT-In khuyến nghị chọn ứng dụng AI cẩn thận, tránh chia sẻ thông tin nhạy cảm, cấu hình quyền truy cập AI đúng cách.
- Không nên chỉ dựa vào AI để đảm bảo tính chính xác, sử dụng công cụ AI đúng mục đích, bảo mật tài khoản và đăng nhập AI.
- Duy trì ẩn danh khi có thể, tránh nội dung đạo văn và cảnh giác với hoạt động đáng ngờ như lừa đảo do AI tạo ra, deepfake và tấn công lừa đảo.
CERT-In cảnh báo 7 rủi ro chính khi sử dụng AI tạo sinh: đầu độc dữ liệu, tấn công đối kháng, đảo ngược mô hình, đánh cắp mô hình, tiêm nhiễm lệnh, khai thác ảo giác và tấn công cửa hậu. Người dùng cần tuân thủ 9 biện pháp bảo mật để sử dụng an toàn.Nguồn: Songai.vn
