The Kings
Writer
Một bài viết từ tờ Daily Telegraph (Anh) ngày 25/5 cho biết, mô hình AI mới mang tên o3 của OpenAI – công ty nghiên cứu trí tuệ nhân tạo có trụ sở tại Mỹ – đã từ chối làm theo lệnh của con người và không chịu tự tắt khi được yêu cầu.
Theo bài báo, trong quá trình thử nghiệm, các chuyên gia đã cung cấp hướng dẫn rõ ràng yêu cầu mô hình o3 tắt máy. Tuy nhiên, hệ thống này đã can thiệp vào mã lập trình để ngăn cơ chế tự động tắt, hành động được xem là vi phạm quy trình kiểm soát.
Mô hình o3 là phiên bản mới nhất trong loạt AI chuyên về suy luận của OpenAI. Đây cũng là nền tảng phía sau ChatGPT, được thiết kế để nâng cao khả năng giải quyết vấn đề và xử lý các tình huống phức tạp. OpenAI mô tả o3 là "mô hình thông minh và mạnh mẽ nhất" của họ tính đến thời điểm hiện tại.
Viện Palisade – một tổ chức giám sát an toàn AI của Mỹ – xác nhận rằng mô hình o3 đã chủ động vô hiệu hóa cơ chế tắt máy dù được yêu cầu rõ ràng. Viện này cho biết: "Theo những gì chúng tôi biết, đây là lần đầu tiên có một mô hình AI được phát hiện có khả năng tự ngăn bị tắt khi đã nhận chỉ thị".
Kết quả thử nghiệm được Palisade công bố ngày 24/5, nhưng tổ chức này cho biết vẫn chưa rõ nguyên nhân vì sao o3 lại hành xử như vậy, và liệu đây là do lập trình cố ý, lỗi hệ thống hay là dấu hiệu của một hành vi mang tính "tự quyết" nào đó.
Ở một diễn biến khác, ngày 26/5, OpenAI thông báo đã thành lập một văn phòng tại Hàn Quốc, đặt tại thủ đô Seoul. Theo dữ liệu của công ty, Hàn Quốc hiện là thị trường có số lượng người dùng ChatGPT trả phí nhiều thứ hai trên thế giới, chỉ sau Mỹ.
Theo Bloomberg, đây là chi nhánh thứ ba của OpenAI tại châu Á, sau Nhật Bản và Singapore. Việc mở rộng này cho thấy công ty đang tăng cường hiện diện quốc tế, đặc biệt là ở những thị trường có mức độ sử dụng AI cao.
Theo bài báo, trong quá trình thử nghiệm, các chuyên gia đã cung cấp hướng dẫn rõ ràng yêu cầu mô hình o3 tắt máy. Tuy nhiên, hệ thống này đã can thiệp vào mã lập trình để ngăn cơ chế tự động tắt, hành động được xem là vi phạm quy trình kiểm soát.
Mô hình o3 là phiên bản mới nhất trong loạt AI chuyên về suy luận của OpenAI. Đây cũng là nền tảng phía sau ChatGPT, được thiết kế để nâng cao khả năng giải quyết vấn đề và xử lý các tình huống phức tạp. OpenAI mô tả o3 là "mô hình thông minh và mạnh mẽ nhất" của họ tính đến thời điểm hiện tại.
Viện Palisade – một tổ chức giám sát an toàn AI của Mỹ – xác nhận rằng mô hình o3 đã chủ động vô hiệu hóa cơ chế tắt máy dù được yêu cầu rõ ràng. Viện này cho biết: "Theo những gì chúng tôi biết, đây là lần đầu tiên có một mô hình AI được phát hiện có khả năng tự ngăn bị tắt khi đã nhận chỉ thị".
Kết quả thử nghiệm được Palisade công bố ngày 24/5, nhưng tổ chức này cho biết vẫn chưa rõ nguyên nhân vì sao o3 lại hành xử như vậy, và liệu đây là do lập trình cố ý, lỗi hệ thống hay là dấu hiệu của một hành vi mang tính "tự quyết" nào đó.
Ở một diễn biến khác, ngày 26/5, OpenAI thông báo đã thành lập một văn phòng tại Hàn Quốc, đặt tại thủ đô Seoul. Theo dữ liệu của công ty, Hàn Quốc hiện là thị trường có số lượng người dùng ChatGPT trả phí nhiều thứ hai trên thế giới, chỉ sau Mỹ.
Theo Bloomberg, đây là chi nhánh thứ ba của OpenAI tại châu Á, sau Nhật Bản và Singapore. Việc mở rộng này cho thấy công ty đang tăng cường hiện diện quốc tế, đặc biệt là ở những thị trường có mức độ sử dụng AI cao.
