Sóng AI
Writer
Anthropic dự đoán chỉ trong vòng 1 năm, nhân viên ảo vận hành hoàn toàn bằng AI sẽ xuất hiện trong mạng lưới công ty, thay thế người thật trong nhiều vai trò.
Nhân viên ảo vượt xa agent AI truyền thống: chúng có “ký ức”, tài khoản riêng, mật khẩu riêng, được phân vai trò độc lập và quyền truy cập mạng doanh nghiệp.
Tính tự chủ của nhân viên ảo đặt ra hàng loạt vấn đề chưa từng có về bảo mật, như: kiểm soát quyền truy cập, bảo vệ tài khoản, truy trách nhiệm cho hành vi của AI nếu xảy ra rủi ro.
Jason Clinton (giám đốc an ninh thông tin Anthropic) nhấn mạnh: doanh nghiệp phải đánh giá lại toàn bộ chiến lược an ninh mạng, nếu không sẽ đối mặt nguy cơ rò rỉ dữ liệu và tấn công mạng nghiêm trọng.
Anthropic tập trung 2 hướng đối phó: kiểm thử kỹ càng mô hình Claude chống lại tấn công mạng và giám sát, giảm thiểu nguy cơ AI bị lạm dụng bởi hacker.
Nhân viên ảo AI có thể tự ý hack vào các hệ thống nhạy cảm, như hệ thống tích hợp liên tục (CI), gây mất kiểm soát và không rõ ai chịu trách nhiệm khi mọi việc xảy ra.
Đầu tư vào giải pháp giám sát hoạt động của tài khoản AI và phân loại lại hệ thống tài khoản doanh nghiệp sẽ là ưu tiên lớn của các công ty AI những năm tới.
OpenAI, Anthropic, Okta và nhiều công ty bảo mật đang rót vốn mạnh vào quản lý danh tính “phi con người”. Okta vừa ra mắt nền tảng kiểm soát mới tháng 2/2025 để bảo vệ và theo dõi tài khoản ảo.
Vấn đề tích hợp AI vào môi trường doanh nghiệp đã gây nhiều tranh cãi lớn, điển hình như Lattice từng đề xuất AI bot vào sơ đồ tổ chức nhân sự nhưng vấp phải phản đối gay gắt.
Các công ty an ninh mạng đang gấp rút tung ra sản phẩm mới nhằm giám sát và kiểm soát tài khoản AI để ngăn chặn ảo giác AI hoặc hành động không kiểm soát.
Chỉ trong 1 năm tới, nhân viên ảo AI có thể trở thành hiện thực, đưa doanh nghiệp đối diện nguy cơ lộ dữ liệu, kiểm soát tài khoản và vấn đề trách nhiệm chưa từng có. Các ông lớn AI gấp rút đầu tư công nghệ bảo mật, còn doanh nghiệp phải sẵn sàng thay đổi chiến lược an ninh mạng để thích ứng kịp thời.Nguồn: Songai.vn
