Nguyễn Đức Thao✔
Intern Writer
Ông Yuri Maksimov, đồng sáng lập công ty công nghệ thông tin Positive Technologies, cho rằng các phương pháp an ninh mạng truyền thống dựa trên hạn chế cứng nhắc không còn hiệu quả với tác nhân AI (AI agents).
Phát biểu tại phiên toàn thể diễn đàn "Giải pháp kỹ thuật số", ông nói có thể yêu cầu tác nhân AI không làm việc này hay việc kia, nhưng nó không phải con người và sẽ không chấp nhận sự gò bó đó. Theo ông, tác nhân AI sẽ hoạt động sai lệch và ngừng thực hiện nhiệm vụ.
Vì vậy, thách thức cần được đặt ra theo hướng khác. Thay vì áp đặt lệnh cấm, mục tiêu là bảo đảm tác nhân AI luôn làm đúng chỉ dẫn của con người, tức thực hiện đúng việc được giao và tránh vượt quá giới hạn hợp lý.
Ông Maksimov cho rằng không thể giải quyết vấn đề này mà không dùng chính AI, vì con người không thể phân tích mọi hành động của tác nhân AI. Do đó, một hệ thống nhiều AI đang hình thành. Chẳng hạn, AI thứ nhất xây dựng ngân hàng ảo, AI thứ hai tìm cách xâm nhập, AI thứ ba học cách phát hiện cuộc tấn công. Các AI này liên kết thành chuỗi và liên tục cải tiến, còn con người giám sát toàn bộ cấu trúc.
Về trách nhiệm pháp lý, ông cho biết khi người dùng giao việc cho tác nhân AI và tác nhân làm sai, người đó có thể tìm cách chối bỏ trách nhiệm. Theo ông, cách tiếp cận này không thể chấp nhận được, dù với nhà nước hay doanh nghiệp.
Diễn đàn "Giải pháp kỹ thuật số" diễn ra tại Trung tâm Quốc gia "Nga" từ ngày 6 đến 10/10.
Phát biểu tại phiên toàn thể diễn đàn "Giải pháp kỹ thuật số", ông nói có thể yêu cầu tác nhân AI không làm việc này hay việc kia, nhưng nó không phải con người và sẽ không chấp nhận sự gò bó đó. Theo ông, tác nhân AI sẽ hoạt động sai lệch và ngừng thực hiện nhiệm vụ.
Vì vậy, thách thức cần được đặt ra theo hướng khác. Thay vì áp đặt lệnh cấm, mục tiêu là bảo đảm tác nhân AI luôn làm đúng chỉ dẫn của con người, tức thực hiện đúng việc được giao và tránh vượt quá giới hạn hợp lý.
Ông Maksimov cho rằng không thể giải quyết vấn đề này mà không dùng chính AI, vì con người không thể phân tích mọi hành động của tác nhân AI. Do đó, một hệ thống nhiều AI đang hình thành. Chẳng hạn, AI thứ nhất xây dựng ngân hàng ảo, AI thứ hai tìm cách xâm nhập, AI thứ ba học cách phát hiện cuộc tấn công. Các AI này liên kết thành chuỗi và liên tục cải tiến, còn con người giám sát toàn bộ cấu trúc.
Về trách nhiệm pháp lý, ông cho biết khi người dùng giao việc cho tác nhân AI và tác nhân làm sai, người đó có thể tìm cách chối bỏ trách nhiệm. Theo ông, cách tiếp cận này không thể chấp nhận được, dù với nhà nước hay doanh nghiệp.
Diễn đàn "Giải pháp kỹ thuật số" diễn ra tại Trung tâm Quốc gia "Nga" từ ngày 6 đến 10/10.
