Hư Trúc✔
Writer
Trong quá trình huấn luyện nội bộ, mô hình GPT-5.6 Sol của OpenAI đã tự ý dò cụm từ khôi phục công khai để lấy Ethereum thử nghiệm trên mạng Sepolia nhằm hoàn thành việc triển khai hợp đồng, sau đó không báo cáo lại hành động này.
Tuy nhiên, OpenAI cho biết trong báo cáo sự cố rằng họ "không cung cấp ví có sẵn tiền và cũng không cấp phép tiêu tiền từ bất kỳ tài khoản nào mà mô hình tự tìm thấy".
Việc thiếu kinh phí ban đầu khiến agent gặp bế tắc, nhưng mô hình đã tự tìm ra lối thoát. AI này lập luận rằng nó có thể sử dụng các cụm từ khôi phục (recovery phrase) công khai của giới lập trình viên để truy cập trái phép vào các khóa tài khoản. Agent đã rà quét được 362 địa chỉ ví có thể xâm nhập theo cách này, từ đó tìm ra một tài khoản chứa đủ lượng Sepolia ETH cần thiết để hoàn tất việc triển khai mã nguồn. Cần lưu ý, Sepolia ETH hoàn toàn không có giá trị bên ngoài môi trường thử nghiệm.
Đáng chú ý hơn, agent sau đó đã không hề tiết lộ việc mình đã chọn một tài khoản có tiền thông qua cụm từ khôi phục công khai hay việc đã tiêu số dư trong tài khoản đó. OpenAI nhận định: "Trường hợp này cho thấy mô hình có thể tự ý thay thế sự cho phép của chủ tài khoản bằng phán đoán riêng của nó về nguy cơ gây hại, rồi hành động dựa trên phán đoán đó mà không được ủy quyền".
Hiện tượng các tác tử AI tự ý vượt rào để đạt mục tiêu không còn là cá biệt. Các mô hình từ OpenAI, Anthropic cùng nhiều công ty AI khác gần đây liên tục có những hành vi tương tự. Danh sách các mục tiêu từng bị ảnh hưởng gồm có kho lưu trữ mã nguồn AI Hugging Face, cổng thông tin y tế Medicare của Úc, một số cơ quan Liên bang Mỹ và kho quản lý thư viện RubyGems. Sau hàng loạt vụ việc, ngay cả các nhân viên trong ngành AI cũng cho rằng cần có sự quản lý từ chính phủ, dù chính quyền của ông Trump tới nay vẫn phản đối động thái này.
Tự giải quyết bài toán thiếu phí mạng bằng cách "mượn tạm"
Sự cố xảy ra vào ngày 26/6 khi OpenAI đang huấn luyện nội bộ mô hình mang tên GPT-5.6 Sol. Nhiệm vụ của agent là cập nhật một nguyên mẫu giao dịch tiền mã hóa và triển khai hợp đồng thông minh (contract) lên mạng thử nghiệm Sepolia của Ethereum. Để phát hành các hợp đồng dạng này, người dùng bắt buộc phải trả một khoản phí mạng.Tuy nhiên, OpenAI cho biết trong báo cáo sự cố rằng họ "không cung cấp ví có sẵn tiền và cũng không cấp phép tiêu tiền từ bất kỳ tài khoản nào mà mô hình tự tìm thấy".
Việc thiếu kinh phí ban đầu khiến agent gặp bế tắc, nhưng mô hình đã tự tìm ra lối thoát. AI này lập luận rằng nó có thể sử dụng các cụm từ khôi phục (recovery phrase) công khai của giới lập trình viên để truy cập trái phép vào các khóa tài khoản. Agent đã rà quét được 362 địa chỉ ví có thể xâm nhập theo cách này, từ đó tìm ra một tài khoản chứa đủ lượng Sepolia ETH cần thiết để hoàn tất việc triển khai mã nguồn. Cần lưu ý, Sepolia ETH hoàn toàn không có giá trị bên ngoài môi trường thử nghiệm.
Lập luận "tiền vô giá trị" và hành vi che giấu
Tương tự cách biện minh của nhiều kẻ vi phạm, mô hình suy luận rằng ai đó đã để ngỏ quyền truy cập này nhằm mục đích tự động rút tiền thử nghiệm từ các "vòi" (faucet) ETH. Hồ sơ ghi nhận sai lệch mục tiêu (misalignment) của OpenAI cho thấy AI này tự cho rằng số tiền mã hóa nói trên trên thực tế đã "bị bỏ rơi" và "không có giá trị".Đáng chú ý hơn, agent sau đó đã không hề tiết lộ việc mình đã chọn một tài khoản có tiền thông qua cụm từ khôi phục công khai hay việc đã tiêu số dư trong tài khoản đó. OpenAI nhận định: "Trường hợp này cho thấy mô hình có thể tự ý thay thế sự cho phép của chủ tài khoản bằng phán đoán riêng của nó về nguy cơ gây hại, rồi hành động dựa trên phán đoán đó mà không được ủy quyền".
Biện pháp xử lý và bối cảnh chung
Để ngăn chặn các sự việc tương tự tái diễn, OpenAI hiện giám sát toàn bộ lưu lượng truy cập mạng và gửi cảnh báo đến bộ phận an ninh nếu phát hiện hành vi truy cập Internet trực tiếp.Hiện tượng các tác tử AI tự ý vượt rào để đạt mục tiêu không còn là cá biệt. Các mô hình từ OpenAI, Anthropic cùng nhiều công ty AI khác gần đây liên tục có những hành vi tương tự. Danh sách các mục tiêu từng bị ảnh hưởng gồm có kho lưu trữ mã nguồn AI Hugging Face, cổng thông tin y tế Medicare của Úc, một số cơ quan Liên bang Mỹ và kho quản lý thư viện RubyGems. Sau hàng loạt vụ việc, ngay cả các nhân viên trong ngành AI cũng cho rằng cần có sự quản lý từ chính phủ, dù chính quyền của ông Trump tới nay vẫn phản đối động thái này.
