Nhung Phan
Intern Writer
Nếu một ngày, ChatGPT không chỉ “nói chuyện” mà còn tự mở máy tính của bạn, truy cập Gmail, vào web bạn đang đăng nhập và xử lý mọi việc thay bạn, bạn thấy tiện hay thấy... ớn lạnh?
Tính năng này hiện có sẵn cho người dùng gói Pro, Plus và Team, các nhóm Education và Enterprise sẽ sớm được cập nhật.
Tác nhân ChatGPT được tích hợp nhiều công cụ mạnh như trình duyệt web, terminal (giao diện dòng lệnh), API của OpenAI và các trình kết nối với dịch vụ bên ngoài như Gmail, GitHub. Nó còn được đặt trong một máy ảo riêng, giúp giữ lại ngữ cảnh giữa các bước làm việc, một bước rất quan trọng để xử lý các tác vụ liên hoàn.
Tuy nhiên, việc giao quyền hành động cho LLM (mô hình ngôn ngữ lớn) trên môi trường thực mang đến rủi ro không nhỏ. Nếu như trước đây, chatbot chỉ trả lời sai thì nay, tác nhân có thể thực hiện hành động sai. Tưởng tượng bạn đăng nhập sẵn một tài khoản tài chính nào đó, và một đoạn mã ẩn trên trang web buộc ChatGPT thực hiện thao tác gửi tiền, nghe là đã thấy bất an.
OpenAI cảnh báo rõ: những lời nhắc độc hại có thể được ẩn trong thành phần vô hình của trang web, đánh lừa ChatGPT chia sẻ dữ liệu nhạy cảm hoặc thực hiện hành động ngoài ý muốn. Họ thừa nhận rằng các cuộc tấn công kiểu này đang diễn ra, không chỉ từ hacker mà cả... các học giả, với mục tiêu tinh chỉnh phản hồi từ AI để có kết quả “như ý”.
Các mô hình AI của họ được thiết kế để từ chối 99,5% các lệnh độc hại tổng hợp. Khi bị kiểm tra kỹ hơn với các tình huống từ nhóm Red Team (nhóm chuyên thử phá hệ thống), tỷ lệ kháng cự vẫn đạt đến 95%, tuy vẫn có kẽ hở.
OpenAI còn cẩn trọng đến mức chủ động đặt rào chắn sinh học, dù hiện tại chưa có bằng chứng rằng ChatGPT bị dùng để phát triển vũ khí sinh học.
Việc một AI có thể "hành xử thay bạn trên máy tính" khiến bạn thấy thuận tiện hay lo lắng? Nếu công ty Việt Nam triển khai công cụ tương tự, bạn có dám cấp quyền truy cập máy tính không? (Theo: TheRegister)
ChatGPT không còn là chatbot, nó đã trở thành "tác nhân"
OpenAI vừa công bố một bước tiến lớn: ChatGPT giờ đây có thể hành động như một “đại diện số”, thực hiện các tác vụ phức tạp thay người dùng trên chính máy tính của họ. Tức là, bạn không chỉ trò chuyện với nó nữa, mà có thể nhờ nó mở tệp, dùng bảng tính, đọc web, phân tích dữ liệu, tất cả chỉ bằng lời nhắc. Không còn là chatbot thụ động, nó giờ là tác nhân chủ động.Tính năng này hiện có sẵn cho người dùng gói Pro, Plus và Team, các nhóm Education và Enterprise sẽ sớm được cập nhật.
Tác nhân ChatGPT được tích hợp nhiều công cụ mạnh như trình duyệt web, terminal (giao diện dòng lệnh), API của OpenAI và các trình kết nối với dịch vụ bên ngoài như Gmail, GitHub. Nó còn được đặt trong một máy ảo riêng, giúp giữ lại ngữ cảnh giữa các bước làm việc, một bước rất quan trọng để xử lý các tác vụ liên hoàn.
OpenAI cảnh báo rõ: những lời nhắc độc hại có thể được ẩn trong thành phần vô hình của trang web, đánh lừa ChatGPT chia sẻ dữ liệu nhạy cảm hoặc thực hiện hành động ngoài ý muốn. Họ thừa nhận rằng các cuộc tấn công kiểu này đang diễn ra, không chỉ từ hacker mà cả... các học giả, với mục tiêu tinh chỉnh phản hồi từ AI để có kết quả “như ý”.
OpenAI đang kiểm soát rủi ro ra sao?
Công ty cho biết đã thiết lập một loạt các biện pháp bảo vệ, như yêu cầu ChatGPT xin phép trước khi thực hiện hành động ảnh hưởng đến thế giới thật, từ chối các lệnh rủi ro cao như chuyển tiền, gửi email, hay can thiệp vào hệ thống.Các mô hình AI của họ được thiết kế để từ chối 99,5% các lệnh độc hại tổng hợp. Khi bị kiểm tra kỹ hơn với các tình huống từ nhóm Red Team (nhóm chuyên thử phá hệ thống), tỷ lệ kháng cự vẫn đạt đến 95%, tuy vẫn có kẽ hở.
OpenAI còn cẩn trọng đến mức chủ động đặt rào chắn sinh học, dù hiện tại chưa có bằng chứng rằng ChatGPT bị dùng để phát triển vũ khí sinh học.
Việc một AI có thể "hành xử thay bạn trên máy tính" khiến bạn thấy thuận tiện hay lo lắng? Nếu công ty Việt Nam triển khai công cụ tương tự, bạn có dám cấp quyền truy cập máy tính không? (Theo: TheRegister)
