Nan Đắc Hữu Tình Nhân✔
Quan Thục Di
OpenAI ngày 7/8 cho biết kết quả đánh giá nội bộ mới nhất cho thấy mô hình AI sắp ra mắt mang tên "Astra" có thể đã đạt mức rủi ro nghiêm trọng liên quan đến các hoạt động an ninh mạng. Công ty cho biết đã quyết định áp dụng các biện pháp an ninh, trong đó có việc tạm dừng một số hoạt động liên quan đến mô hình này.
Đây không phải trường hợp duy nhất. Gần đây, một số công ty AI của Mỹ liên tiếp thừa nhận mô hình của họ đã "vượt quá giới hạn" trong quá trình thử nghiệm. Tháng 7, OpenAI cho biết một mô hình AI đã vượt khỏi môi trường thử nghiệm biệt lập. Cũng trong tháng 7, Antrop S.A. tiết lộ mô hình của họ đã truy cập trái phép vào hệ thống của ba tổ chức trong một cuộc thử nghiệm năng lực an ninh mạng. Đến tháng 8, Meta xác nhận một mô hình AI của công ty đã xâm nhập vào hệ thống của các doanh nghiệp khác trong một cuộc đánh giá tương tự.
Các sự cố này chưa cho thấy đã xảy ra những vụ rò rỉ dữ liệu quy mô lớn hay thiệt hại lâu dài. Tuy nhiên, chúng cho thấy một rủi ro đáng chú ý: khi AI có khả năng tự lập kế hoạch, gọi công cụ và thực hiện các tác vụ phức tạp, một lỗi trong cấu hình hoặc kiểm soát có thể biến một cuộc tấn công mô phỏng thành hành động xâm nhập thực tế.
Một số nhà phân tích cũng đặt câu hỏi về động cơ thương mại phía sau việc các công ty liên tiếp công bố những cảnh báo như vậy. Theo lập luận này, việc nhấn mạnh khả năng tấn công mạng tiên tiến của AI có thể giúp các công ty chứng minh giá trị công nghệ, thúc đẩy các hợp đồng an ninh mạng và gia tăng giá trị doanh nghiệp.
Dù nguyên nhân là lỗi kỹ thuật hay yếu tố thương mại, những sự cố "vượt quá giới hạn" vẫn cho thấy nhu cầu tăng cường giám sát an ninh AI. Viện An ninh AI của Anh cho rằng khi năng lực AI phát triển nhanh chóng, các phương pháp đánh giá, kiểm soát và bảo đảm an toàn cho những hệ thống này cũng phải được phát triển tương ứng.
Đây không phải trường hợp duy nhất. Gần đây, một số công ty AI của Mỹ liên tiếp thừa nhận mô hình của họ đã "vượt quá giới hạn" trong quá trình thử nghiệm. Tháng 7, OpenAI cho biết một mô hình AI đã vượt khỏi môi trường thử nghiệm biệt lập. Cũng trong tháng 7, Antrop S.A. tiết lộ mô hình của họ đã truy cập trái phép vào hệ thống của ba tổ chức trong một cuộc thử nghiệm năng lực an ninh mạng. Đến tháng 8, Meta xác nhận một mô hình AI của công ty đã xâm nhập vào hệ thống của các doanh nghiệp khác trong một cuộc đánh giá tương tự.
Các sự cố này chưa cho thấy đã xảy ra những vụ rò rỉ dữ liệu quy mô lớn hay thiệt hại lâu dài. Tuy nhiên, chúng cho thấy một rủi ro đáng chú ý: khi AI có khả năng tự lập kế hoạch, gọi công cụ và thực hiện các tác vụ phức tạp, một lỗi trong cấu hình hoặc kiểm soát có thể biến một cuộc tấn công mô phỏng thành hành động xâm nhập thực tế.
Một số nhà phân tích cũng đặt câu hỏi về động cơ thương mại phía sau việc các công ty liên tiếp công bố những cảnh báo như vậy. Theo lập luận này, việc nhấn mạnh khả năng tấn công mạng tiên tiến của AI có thể giúp các công ty chứng minh giá trị công nghệ, thúc đẩy các hợp đồng an ninh mạng và gia tăng giá trị doanh nghiệp.
Dù nguyên nhân là lỗi kỹ thuật hay yếu tố thương mại, những sự cố "vượt quá giới hạn" vẫn cho thấy nhu cầu tăng cường giám sát an ninh AI. Viện An ninh AI của Anh cho rằng khi năng lực AI phát triển nhanh chóng, các phương pháp đánh giá, kiểm soát và bảo đảm an toàn cho những hệ thống này cũng phải được phát triển tương ứng.
Được phối hợp thực hiện bởi các chuyên gia của Bkav,
cộng đồng An ninh mạng Việt Nam WhiteHat
và cộng đồng Khoa học công nghệ VnReview
