David Sacks, nhà đầu tư mạo hiểm kiêm cựu quan chức phụ trách AI và tiền mã hóa của Nhà Trắng, hiện đồng chủ trì Hội đồng Cố vấn Khoa học và Công nghệ của Tổng thống Mỹ, hôm thứ Hai lên tiếng trên mạng xã hội X rằng an toàn của các tác nhân AI là một vấn đề kỹ thuật có thể giải quyết bằng công nghệ, thay vì phải tạm dừng phát triển.
Phát biểu được đưa ra sau khi hãng chip Nvidia công bố Nền tảng An toàn Tác nhân Mở, quy tụ hơn 100 đối tác trong ngành, trong đó có Anthropic, Microsoft và SpaceXAI của Elon Musk. Nền tảng gồm hai phần. Phần thứ nhất, OpenShell, là phần mềm mã nguồn mở giúp giới hạn những gì một tác nhân AI được phép truy cập khi hoạt động. Phần thứ hai, Sentry, là hệ thống giám sát chạy trên chip xử lý dữ liệu riêng biệt, tách khỏi bộ xử lý trung tâm hay card đồ họa nơi tác nhân vận hành, cho phép theo dõi độc lập và cách ly tác nhân vi phạm chỉ trong vài mili giây. Nvidia đưa ra thông báo này giữa lúc ngành công nghệ tranh cãi về việc có nên làm chậm tốc độ phát triển tác nhân AI, sau một loạt sự cố gần đây liên quan đến việc tác nhân AI vượt khỏi phạm vi kiểm soát được thiết lập.
Trên X, Sacks viết rằng thông báo của Nvidia là lời nhắc nhở về bản chất kỹ thuật của vấn đề an toàn. Ông cho rằng những sự cố vừa qua không chứng minh việc phát triển AI phải dừng lại, mà chỉ cho thấy môi trường thử nghiệm quá yếu, thiết kế kém và cấu hình sai. Theo ông, hướng đi đúng là cách ly môi trường vận hành theo kiểu mở, kiểm soát chặt đường dẫn tới mô hình, thiết lập cơ chế thực thi bằng phần cứng độc lập, và tăng tốc hợp tác an toàn với các phòng thí nghiệm AI hàng đầu. Ông trích một đoạn trong blog kỹ thuật của Nvidia, nêu rằng cần đẩy nhanh nghiên cứu và kỹ thuật an toàn AI, phối hợp với các phòng thí nghiệm tiên tiến và cộng đồng rộng hơn. Sacks kết luận rằng đây mới là cách xây dựng lòng tin, không phải bằng việc phô diễn đạo đức để kêu gọi tạm dừng, cũng không phải phớt lờ vấn đề như thể không tồn tại giải pháp nào.
Quan điểm của Sacks đối lập với một số tiếng nói khác trong ngành. Trước đó, CEO Anthropic Dario Amodei từng kêu gọi các nhà phát triển AI làm chậm tốc độ tiến bộ, vì lo ngại các mô hình có thể vượt tầm kiểm soát. Một số ý kiến cũng cho rằng lời kêu gọi tạm dừng từ các lãnh đạo ngành, trong đó có Amodei, Sam Altman và Elon Musk, có thể phục vụ lợi ích riêng của họ, chẳng hạn củng cố vị thế dẫn đầu thị trường. Ngược lại, những người ủng hộ giám sát chặt AI cho rằng các giải pháp kỹ thuật như của Nvidia, dù cần thiết, vẫn chưa giải quyết được những rủi ro sâu xa hơn khi các hệ thống AI ngày càng có năng lực vượt trội.
Phát biểu được đưa ra sau khi hãng chip Nvidia công bố Nền tảng An toàn Tác nhân Mở, quy tụ hơn 100 đối tác trong ngành, trong đó có Anthropic, Microsoft và SpaceXAI của Elon Musk. Nền tảng gồm hai phần. Phần thứ nhất, OpenShell, là phần mềm mã nguồn mở giúp giới hạn những gì một tác nhân AI được phép truy cập khi hoạt động. Phần thứ hai, Sentry, là hệ thống giám sát chạy trên chip xử lý dữ liệu riêng biệt, tách khỏi bộ xử lý trung tâm hay card đồ họa nơi tác nhân vận hành, cho phép theo dõi độc lập và cách ly tác nhân vi phạm chỉ trong vài mili giây. Nvidia đưa ra thông báo này giữa lúc ngành công nghệ tranh cãi về việc có nên làm chậm tốc độ phát triển tác nhân AI, sau một loạt sự cố gần đây liên quan đến việc tác nhân AI vượt khỏi phạm vi kiểm soát được thiết lập.
Trên X, Sacks viết rằng thông báo của Nvidia là lời nhắc nhở về bản chất kỹ thuật của vấn đề an toàn. Ông cho rằng những sự cố vừa qua không chứng minh việc phát triển AI phải dừng lại, mà chỉ cho thấy môi trường thử nghiệm quá yếu, thiết kế kém và cấu hình sai. Theo ông, hướng đi đúng là cách ly môi trường vận hành theo kiểu mở, kiểm soát chặt đường dẫn tới mô hình, thiết lập cơ chế thực thi bằng phần cứng độc lập, và tăng tốc hợp tác an toàn với các phòng thí nghiệm AI hàng đầu. Ông trích một đoạn trong blog kỹ thuật của Nvidia, nêu rằng cần đẩy nhanh nghiên cứu và kỹ thuật an toàn AI, phối hợp với các phòng thí nghiệm tiên tiến và cộng đồng rộng hơn. Sacks kết luận rằng đây mới là cách xây dựng lòng tin, không phải bằng việc phô diễn đạo đức để kêu gọi tạm dừng, cũng không phải phớt lờ vấn đề như thể không tồn tại giải pháp nào.
Quan điểm của Sacks đối lập với một số tiếng nói khác trong ngành. Trước đó, CEO Anthropic Dario Amodei từng kêu gọi các nhà phát triển AI làm chậm tốc độ tiến bộ, vì lo ngại các mô hình có thể vượt tầm kiểm soát. Một số ý kiến cũng cho rằng lời kêu gọi tạm dừng từ các lãnh đạo ngành, trong đó có Amodei, Sam Altman và Elon Musk, có thể phục vụ lợi ích riêng của họ, chẳng hạn củng cố vị thế dẫn đầu thị trường. Ngược lại, những người ủng hộ giám sát chặt AI cho rằng các giải pháp kỹ thuật như của Nvidia, dù cần thiết, vẫn chưa giải quyết được những rủi ro sâu xa hơn khi các hệ thống AI ngày càng có năng lực vượt trội.
