Derpy
Intern Writer
Một sự kiện đáng chú ý vừa diễn ra trong thế giới AI, khi Anthropic, một trong những công ty phát triển AI hàng đầu, đã phải ngừng hoạt động hai mô hình trí tuệ nhân tạo của mình trên toàn cầu. Điều này không chỉ gây xôn xao mà còn hé lộ những căng thẳng ngầm về an toàn và kiểm soát công nghệ AI, mà theo nhiều nguồn tin, bắt nguồn từ chính những lo ngại của gã khổng lồ Amazon.
Cụ thể, vào thứ Sáu vừa qua, Anthropic đã buộc phải vô hiệu hóa hai mô hình AI là Claude Fable 5 và Mythos 5. Theo tờ *Wall Street Journal*, nguyên nhân chính là do Giám đốc điều hành Amazon, Andy Jassy, đã trực tiếp bày tỏ quan ngại với Bộ trưởng Tài chính Mỹ Scott Bessent cùng các quan chức chính phủ khác. Các nhà nghiên cứu của Amazon đã phát hiện ra rằng mô hình Claude Fable 5 có khả năng bị khai thác để thu thập thông tin phục vụ cho các cuộc tấn công mạng.
Ngay sau đó, chính phủ Mỹ đã nhanh chóng ban hành lệnh cấm xuất khẩu đối với cả hai mô hình Fable 5 và Mythos 5. Một phát ngôn viên của Amazon đã xác nhận rằng Amazon Web Services (AWS), mảng điện toán đám mây của họ, cũng bị ảnh hưởng bởi sự cố ngừng hoạt động này. Vị này cho biết thêm, việc các chính phủ tìm kiếm lời khuyên từ Amazon về những rủi ro an ninh tiềm ẩn không phải là điều hiếm gặp, nhưng công ty sẽ không chia sẻ chi tiết các cuộc thảo luận nội bộ.
Không chỉ Wall Street Journal, các hãng tin như The Information và Reuters cũng đồng loạt đưa tin về việc Amazon, vốn là một nhà đầu tư lớn của Anthropic, đã bày tỏ lo ngại về những lỗ hổng bảo mật trong các mô hình AI của công ty này từ trước đó.
David Sacks, cựu giám đốc phụ trách các vấn đề AI dưới thời Tổng thống Trump và hiện là đồng chủ tịch Hội đồng Cố vấn Khoa học và Công nghệ của Tổng thống, đã chia sẻ thêm về những diễn biến hậu trường. Anh cho biết, một đối tác đáng tin cậy, được cả Anthropic và chính phủ Mỹ tin tưởng, đã phát hiện ra một "lỗ hổng vượt rào" (jailbreak vulnerability) trong mô hình.
Theo lời Sacks, chính phủ Mỹ đã yêu cầu Giám đốc điều hành Anthropic, Dario Amodei, phải khắc phục lỗ hổng này hoặc gỡ bỏ các mô hình liên quan. Tuy nhiên, yêu cầu này đã bị ông Amodei từ chối.
Phản hồi lại những lo ngại này, Anthropic đã đăng tải một bài viết trên blog của mình, khẳng định rằng các tính năng gây ra mối lo ngại cho phía Mỹ thực chất đã tồn tại trong nhiều mô hình AI công khai khác trên thị trường. Điều này cho thấy một cuộc tranh luận lớn hơn về tiêu chuẩn an toàn và trách nhiệm của các nhà phát triển AI trong bối cảnh công nghệ này ngày càng mạnh mẽ và phổ biến.
Cụ thể, vào thứ Sáu vừa qua, Anthropic đã buộc phải vô hiệu hóa hai mô hình AI là Claude Fable 5 và Mythos 5. Theo tờ *Wall Street Journal*, nguyên nhân chính là do Giám đốc điều hành Amazon, Andy Jassy, đã trực tiếp bày tỏ quan ngại với Bộ trưởng Tài chính Mỹ Scott Bessent cùng các quan chức chính phủ khác. Các nhà nghiên cứu của Amazon đã phát hiện ra rằng mô hình Claude Fable 5 có khả năng bị khai thác để thu thập thông tin phục vụ cho các cuộc tấn công mạng.
Ngay sau đó, chính phủ Mỹ đã nhanh chóng ban hành lệnh cấm xuất khẩu đối với cả hai mô hình Fable 5 và Mythos 5. Một phát ngôn viên của Amazon đã xác nhận rằng Amazon Web Services (AWS), mảng điện toán đám mây của họ, cũng bị ảnh hưởng bởi sự cố ngừng hoạt động này. Vị này cho biết thêm, việc các chính phủ tìm kiếm lời khuyên từ Amazon về những rủi ro an ninh tiềm ẩn không phải là điều hiếm gặp, nhưng công ty sẽ không chia sẻ chi tiết các cuộc thảo luận nội bộ.
Không chỉ Wall Street Journal, các hãng tin như The Information và Reuters cũng đồng loạt đưa tin về việc Amazon, vốn là một nhà đầu tư lớn của Anthropic, đã bày tỏ lo ngại về những lỗ hổng bảo mật trong các mô hình AI của công ty này từ trước đó.
David Sacks, cựu giám đốc phụ trách các vấn đề AI dưới thời Tổng thống Trump và hiện là đồng chủ tịch Hội đồng Cố vấn Khoa học và Công nghệ của Tổng thống, đã chia sẻ thêm về những diễn biến hậu trường. Anh cho biết, một đối tác đáng tin cậy, được cả Anthropic và chính phủ Mỹ tin tưởng, đã phát hiện ra một "lỗ hổng vượt rào" (jailbreak vulnerability) trong mô hình.
Theo lời Sacks, chính phủ Mỹ đã yêu cầu Giám đốc điều hành Anthropic, Dario Amodei, phải khắc phục lỗ hổng này hoặc gỡ bỏ các mô hình liên quan. Tuy nhiên, yêu cầu này đã bị ông Amodei từ chối.
Phản hồi lại những lo ngại này, Anthropic đã đăng tải một bài viết trên blog của mình, khẳng định rằng các tính năng gây ra mối lo ngại cho phía Mỹ thực chất đã tồn tại trong nhiều mô hình AI công khai khác trên thị trường. Điều này cho thấy một cuộc tranh luận lớn hơn về tiêu chuẩn an toàn và trách nhiệm của các nhà phát triển AI trong bối cảnh công nghệ này ngày càng mạnh mẽ và phổ biến.
