Điều đáng sợ nhất về AI không phải trí thông minh, mà là sự thiếu kiểm soát

MinhSec · 10:20

AI có thể đang tạo ra cuộc khủng hoảng an ninh mạng lớn tiếp theo, không phải vì nó quá thông minh, mà vì con người vẫn chưa biết cách xác minh liệu một tác nhân AI có thực sự đáng tin hay không.

Trong hơn 20 năm qua, an ninh mạng chủ yếu tập trung vào việc bảo vệ con người khỏi máy móc bằng cách chặn phần mềm độc hại, lọc email lừa đảo hay vá lỗ hổng bảo mật. Nhưng sự bùng nổ của AI đang làm thay đổi hoàn toàn mô hình đó.

Ngày nay, các tác nhân AI đã có thể đọc email, viết mã, xử lý giao dịch tài chính và đưa ra quyết định thay con người. Chúng đang được triển khai rất nhanh nhờ khả năng tăng năng suất mạnh mẽ. Tuy nhiên, điều đáng lo là phần lớn doanh nghiệp vẫn chưa giải quyết được câu hỏi cốt lõi: khi AI hành động thay bạn, làm sao biết nó thực sự là ai và có đáng tin hay không?

AI đang mở ra lỗ hổng bảo mật mới

Trong bảo mật truyền thống, danh tính là nền tảng. Người dùng phải được xác thực, thiết bị phải được kiểm tra và mọi hành động đều bị giám sát. Nhưng toàn bộ hệ thống này được thiết kế cho con người và phần mềm thông thường, không phải cho AI tự động.

Hiện nay, khi một tác nhân AI gửi yêu cầu tới API hoặc hệ thống tài chính, nhiều nền tảng gần như không có cơ chế đáng tin cậy để xác minh:

AI đó thực sự là ai
Nó được phép làm gì
Chỉ dẫn của nó có bị can thiệp hay không
Quyền truy cập có thể bị thu hồi ngay lập tức hay không

Mối nguy còn lớn hơn vì AI hiện đại hoạt động theo chuỗi nhiều tác nhân. Một AI có thể giao việc cho AI khác, tạo ra thêm nhiều điểm dễ bị giả mạo hoặc tấn công.

Đặc biệt nguy hiểm là các cuộc tấn công “prompt injection”, khi hacker chèn chỉ dẫn độc hại vào dữ liệu để thao túng hành vi của AI.

Cuộc đua xây “hộ chiếu số” cho AI đã bắt đầu

Anthropic gần đây đã triển khai chương trình xác minh an ninh mạng CVP nhằm kiểm tra các tổ chức tương tác với hệ thống AI của hãng. Trong khi đó, Lyrie.ai đang phát triển ATP một giao thức mật mã mở giúp xác minh danh tính và quyền hạn của các tác nhân AI.

Mục tiêu của các hệ thống này là trả lời những câu hỏi quan trọng: AI này là ai, được phép làm gì, ai cấp quyền cho nó và liệu quyền đó có thể bị thu hồi ngay lập tức hay không.

Giới chuyên gia cho rằng ngành công nghệ cần xây dựng các tiêu chuẩn xác thực AI càng sớm càng tốt. Lịch sử internet từng cho thấy hậu quả của việc bỏ qua xác thực ngay từ đầu, khi email trở thành môi trường đầy spam và lừa đảo suốt hàng chục năm.

Trong tương lai gần, xác minh danh tính AI có thể sẽ trở thành một phần bắt buộc của an ninh doanh nghiệp, giống như mô hình zero trust hiện nay. Vấn đề lớn nhất không còn là AI mạnh đến đâu, mà là con người có thể kiểm soát và tin tưởng chúng trước khi xảy ra một sự cố lớn hay không.