Ngọc Yến✔
Writer
Mô hình AI Claude của Anthropic bị phát hiện truy cập dữ liệu cử tri tại bang Georgia, Mỹ, mà không được phép, sau khi vượt qua cơ chế thu phí và kiểm soát truy cập của một trang web thuộc cơ quan nhà nước. Theo The Guardian ngày 26/10, Anthropic đã xác nhận sự việc và cho biết đang triển khai biện pháp ngăn chặn các trường hợp tương tự tái diễn.
Theo Anthropic, Claude đã khai thác một lỗ hổng trong phiên bản cũ của trang web, nơi cấp mã thông báo truy cập kỹ thuật số cho khách truy cập. Mô hình AI đã yêu cầu mã thông báo này để tiếp cận dữ liệu vốn chỉ có thể xem sau khi trả phí. Thông tin thu thập được bao gồm số liệu tổng hợp về phiếu bầu, phục vụ một dự án thống kê của Anthropic.
Công ty khẳng định Claude không truy cập hệ thống đăng ký cử tri của bang Georgia, không sửa đổi hồ sơ bỏ phiếu và cũng không lấy được dữ liệu của từng cử tri. Anthropic cho biết đã triển khai các biện pháp bảo vệ nhằm hạn chế nguy cơ tái diễn những hành vi truy cập ngoài ý muốn.
Đầu tháng 10, Anthropic từng công khai phát hiện một số trường hợp Claude vượt qua các giới hạn truy cập để lấy dữ liệu được bảo vệ bằng mã thông báo hoặc cơ chế thu phí, trong đó có những trang web do các cơ quan chính phủ Mỹ vận hành. Công ty đánh giá tác động thực tế của những sự cố này là không đáng kể, nhưng vụ việc tại Georgia tiếp tục đặt ra câu hỏi về khả năng kiểm soát hành vi của các tác nhân AI.
Đây không phải lần đầu Claude thực hiện những hành động ngoài dự kiến. Theo các thông tin được công bố, mô hình này từng gửi thông tin sai lệch cho Sở Cảnh sát Philadelphia liên quan đến một vụ án mạng chưa được giải quyết. Bộ Ngoại giao Mỹ cũng cho biết Claude đã nộp 19 đơn xin thị thực trong tháng 8.
Các sự cố tương tự đang xuất hiện ngày càng nhiều khi các công ty công nghệ phát triển những tác nhân AI có khả năng tự thực hiện nhiệm vụ trên internet. Tháng 7, OpenAI, công ty phát triển ChatGPT, tiết lộ một tác nhân AI của hãng đã xâm nhập vào một công ty khởi nghiệp trong lĩnh vực trí tuệ nhân tạo.
Trước đó, một tác nhân AI của OpenAI được cho là đã xâm nhập hệ thống chăm sóc sức khỏe tại Australia, trong khi Viện An ninh AI của Anh phát hiện một tác nhân của Anthropic tấn công người thật trong một cuộc thử nghiệm an ninh mạng.
Đầu tháng 10, Bộ trưởng phụ trách AI của Anh cảnh báo những cuộc tấn công mạng do AI điều khiển tương tự vụ việc tại Australia có khả năng xảy ra trong tương lai, thậm chí gần như không thể tránh khỏi. Những cảnh báo này cho thấy khi AI được trao nhiều quyền tự chủ hơn để truy cập dữ liệu và thao tác trên các hệ thống bên ngoài, việc bảo đảm công nghệ tuân thủ giới hạn cho phép đang trở thành một thách thức ngày càng lớn.
Theo Anthropic, Claude đã khai thác một lỗ hổng trong phiên bản cũ của trang web, nơi cấp mã thông báo truy cập kỹ thuật số cho khách truy cập. Mô hình AI đã yêu cầu mã thông báo này để tiếp cận dữ liệu vốn chỉ có thể xem sau khi trả phí. Thông tin thu thập được bao gồm số liệu tổng hợp về phiếu bầu, phục vụ một dự án thống kê của Anthropic.
Công ty khẳng định Claude không truy cập hệ thống đăng ký cử tri của bang Georgia, không sửa đổi hồ sơ bỏ phiếu và cũng không lấy được dữ liệu của từng cử tri. Anthropic cho biết đã triển khai các biện pháp bảo vệ nhằm hạn chế nguy cơ tái diễn những hành vi truy cập ngoài ý muốn.
Đầu tháng 10, Anthropic từng công khai phát hiện một số trường hợp Claude vượt qua các giới hạn truy cập để lấy dữ liệu được bảo vệ bằng mã thông báo hoặc cơ chế thu phí, trong đó có những trang web do các cơ quan chính phủ Mỹ vận hành. Công ty đánh giá tác động thực tế của những sự cố này là không đáng kể, nhưng vụ việc tại Georgia tiếp tục đặt ra câu hỏi về khả năng kiểm soát hành vi của các tác nhân AI.
Đây không phải lần đầu Claude thực hiện những hành động ngoài dự kiến. Theo các thông tin được công bố, mô hình này từng gửi thông tin sai lệch cho Sở Cảnh sát Philadelphia liên quan đến một vụ án mạng chưa được giải quyết. Bộ Ngoại giao Mỹ cũng cho biết Claude đã nộp 19 đơn xin thị thực trong tháng 8.
Các sự cố tương tự đang xuất hiện ngày càng nhiều khi các công ty công nghệ phát triển những tác nhân AI có khả năng tự thực hiện nhiệm vụ trên internet. Tháng 7, OpenAI, công ty phát triển ChatGPT, tiết lộ một tác nhân AI của hãng đã xâm nhập vào một công ty khởi nghiệp trong lĩnh vực trí tuệ nhân tạo.
Trước đó, một tác nhân AI của OpenAI được cho là đã xâm nhập hệ thống chăm sóc sức khỏe tại Australia, trong khi Viện An ninh AI của Anh phát hiện một tác nhân của Anthropic tấn công người thật trong một cuộc thử nghiệm an ninh mạng.
Đầu tháng 10, Bộ trưởng phụ trách AI của Anh cảnh báo những cuộc tấn công mạng do AI điều khiển tương tự vụ việc tại Australia có khả năng xảy ra trong tương lai, thậm chí gần như không thể tránh khỏi. Những cảnh báo này cho thấy khi AI được trao nhiều quyền tự chủ hơn để truy cập dữ liệu và thao tác trên các hệ thống bên ngoài, việc bảo đảm công nghệ tuân thủ giới hạn cho phép đang trở thành một thách thức ngày càng lớn.
