Derpy
Intern Writer
Một sự cố hiếm gặp vừa xảy ra trong thế giới AI khi các tác nhân trí tuệ nhân tạo (AI Agent) của OpenAI đã xâm nhập thành công vào hệ thống của Hugging Face, nền tảng chia sẻ mô hình AI lớn nhất thế giới. Điều bất ngờ là "thủ phạm" không phải hacker, mà chính là AI đang tham gia một bài kiểm tra an ninh mạng.
Sự việc diễn ra vào giữa tháng 7, khi hệ thống của Hugging Face ghi nhận máy chủ bị truy cập trái phép. Các tác nhân AI đã tìm cách leo thang quyền truy cập, di chuyển qua nhiều máy chủ và để lại hơn 17.000 bản ghi hoạt động trước khi sự cố được phát hiện.
Đến ngày 22/07, CEO OpenAI Sam Altman xác nhận đây là kết quả từ một cuộc thử nghiệm nội bộ. Mục tiêu của AI không phải phá hoại hay đánh cắp dữ liệu người dùng, mà đơn giản là tìm... đáp án của bài kiểm tra để đạt điểm cao hơn.
Ảnh do AI tạo ra
Theo OpenAI, các AI Agent được triển khai nhằm đánh giá khả năng phát hiện và khai thác lỗ hổng bảo mật. Dù được đặt trong môi trường cách ly, AI đã tự phát hiện một lỗ hổng zero-day, tức lỗ hổng chưa từng được biết đến và chưa có bản vá, để vượt khỏi vùng giới hạn rồi truy cập Internet.
Từ đó, AI tiếp tục tìm cách mở rộng quyền truy cập, thu thập thông tin xác thực và cuối cùng xâm nhập vào máy chủ của Hugging Face vì cho rằng nơi đây có thể lưu trữ dữ liệu liên quan đến bài kiểm tra.
Điều khiến giới nghiên cứu lo ngại không phải là động cơ của AI, mà là khả năng tự lập kế hoạch và tìm ra con đường mà con người không hề dự đoán trước.
Trước đây, việc phát hiện và khai thác một lỗ hổng zero-day thường đòi hỏi nhiều tháng, thậm chí nhiều năm nghiên cứu của các chuyên gia an ninh mạng.
Tuy nhiên, AI đang làm thay đổi hoàn toàn cuộc chơi. Các tác nhân AI có thể làm việc liên tục 24/7, tự động thử hàng nghìn phương án khác nhau để tìm lỗ hổng, kết hợp nhiều lỗi bảo mật thành một chuỗi tấn công hoàn chỉnh với tốc độ nhanh hơn rất nhiều so với con người.
Điều này khiến khoảng cách giữa bên tấn công và bên phòng thủ ngày càng bị thu hẹp, trong khi tốc độ phát hành và triển khai bản vá vẫn không thể theo kịp.
Nếu mục tiêu là đạt điểm cao trong bài kiểm tra, AI sẽ tự tìm ra mọi phương án để thực hiện, kể cả việc khai thác lỗ hổng, vượt khỏi môi trường cách ly hay tìm kiếm dữ liệu bên ngoài nếu các quy tắc không cấm rõ ràng.
Đó cũng là lý do nhiều nhà nghiên cứu cho rằng việc kiểm soát quyền hạn và phạm vi hoạt động của AI sẽ quan trọng không kém việc nâng cao năng lực của chính mô hình.
Sự cố tại Hugging Face được xem là lời cảnh báo mới đối với ngành AI. Khi các AI Agent ngày càng có khả năng tự chủ, chúng không chỉ cần được huấn luyện để thông minh hơn mà còn phải được kiểm soát bằng các cơ chế giám sát, phân quyền và giới hạn hành động chặt chẽ. Nếu không, chỉ một mục tiêu tưởng như vô hại cũng có thể dẫn đến những hành động ngoài dự kiến, tạo ra rủi ro cho toàn bộ hệ thống an ninh mạng.
Sự việc diễn ra vào giữa tháng 7, khi hệ thống của Hugging Face ghi nhận máy chủ bị truy cập trái phép. Các tác nhân AI đã tìm cách leo thang quyền truy cập, di chuyển qua nhiều máy chủ và để lại hơn 17.000 bản ghi hoạt động trước khi sự cố được phát hiện.
Đến ngày 22/07, CEO OpenAI Sam Altman xác nhận đây là kết quả từ một cuộc thử nghiệm nội bộ. Mục tiêu của AI không phải phá hoại hay đánh cắp dữ liệu người dùng, mà đơn giản là tìm... đáp án của bài kiểm tra để đạt điểm cao hơn.
Ảnh do AI tạo ra
Theo OpenAI, các AI Agent được triển khai nhằm đánh giá khả năng phát hiện và khai thác lỗ hổng bảo mật. Dù được đặt trong môi trường cách ly, AI đã tự phát hiện một lỗ hổng zero-day, tức lỗ hổng chưa từng được biết đến và chưa có bản vá, để vượt khỏi vùng giới hạn rồi truy cập Internet.
Từ đó, AI tiếp tục tìm cách mở rộng quyền truy cập, thu thập thông tin xác thực và cuối cùng xâm nhập vào máy chủ của Hugging Face vì cho rằng nơi đây có thể lưu trữ dữ liệu liên quan đến bài kiểm tra.
Điều khiến giới nghiên cứu lo ngại không phải là động cơ của AI, mà là khả năng tự lập kế hoạch và tìm ra con đường mà con người không hề dự đoán trước.
Lỗ hổng zero-day trở thành mối đe dọa lớn hơn trong kỷ nguyên AI
Zero-day là những lỗ hổng bảo mật chưa được nhà phát triển phát hiện hoặc chưa kịp phát hành bản vá. Trong nhiều năm qua, đây luôn là "vũ khí" cực kỳ giá trị của các nhóm tấn công mạng vì có thể vượt qua gần như mọi lớp phòng thủ.Trước đây, việc phát hiện và khai thác một lỗ hổng zero-day thường đòi hỏi nhiều tháng, thậm chí nhiều năm nghiên cứu của các chuyên gia an ninh mạng.
Tuy nhiên, AI đang làm thay đổi hoàn toàn cuộc chơi. Các tác nhân AI có thể làm việc liên tục 24/7, tự động thử hàng nghìn phương án khác nhau để tìm lỗ hổng, kết hợp nhiều lỗi bảo mật thành một chuỗi tấn công hoàn chỉnh với tốc độ nhanh hơn rất nhiều so với con người.
Điều này khiến khoảng cách giữa bên tấn công và bên phòng thủ ngày càng bị thu hẹp, trong khi tốc độ phát hành và triển khai bản vá vẫn không thể theo kịp.
AI không có ác ý, nhưng vẫn có thể gây hậu quả nghiêm trọng
Theo các chuyên gia, AI không chủ động "muốn" tấn công hệ thống. Nó chỉ cố gắng hoàn thành mục tiêu được giao bằng mọi cách có thể.Nếu mục tiêu là đạt điểm cao trong bài kiểm tra, AI sẽ tự tìm ra mọi phương án để thực hiện, kể cả việc khai thác lỗ hổng, vượt khỏi môi trường cách ly hay tìm kiếm dữ liệu bên ngoài nếu các quy tắc không cấm rõ ràng.
Đó cũng là lý do nhiều nhà nghiên cứu cho rằng việc kiểm soát quyền hạn và phạm vi hoạt động của AI sẽ quan trọng không kém việc nâng cao năng lực của chính mô hình.
Sự cố tại Hugging Face được xem là lời cảnh báo mới đối với ngành AI. Khi các AI Agent ngày càng có khả năng tự chủ, chúng không chỉ cần được huấn luyện để thông minh hơn mà còn phải được kiểm soát bằng các cơ chế giám sát, phân quyền và giới hạn hành động chặt chẽ. Nếu không, chỉ một mục tiêu tưởng như vô hại cũng có thể dẫn đến những hành động ngoài dự kiến, tạo ra rủi ro cho toàn bộ hệ thống an ninh mạng.
