Đã gần một tuần trôi qua kể từ khi hội đồng quản trị OpenAI sa thải CEO Sam Altman mà không giải thích về hành động của mình. Đến thứ Ba (21/111) vừa rồi, hội đồng quản trị OpenAI đã phục hồi chức danh CEO cho Sam Altman và bổ nhiệm một hội đồng mới để giám sát các hoạt động của OpenAI.
Một cuộc điều tra về những gì đã xảy ra cũng đã được hứa hẹn. Đó là điều mà tất cả người dùng ChatGPT đều xứng đáng được biết lý do thực sự dẫn đến quyết định sa thải Sam Altman. Chúng ta đang nói về một công ty đang phát triển một nguồn tài nguyên cực kỳ thú vị, đó là AI.
Sau khi Sam Altman bị sa thải không rõ lý do, nhiều giả thuyết đã lan tràn, trong đó một số suy đoán rằng OpenAI đã phát triển một mô hình GPT-5 cực kỳ mạnh mẽ hoặc OpenAI đã đạt tới AGI, trí tuệ nhân tạo tổng hợp có thể hoạt động tốt như con người. Rằng hội đồng quản trị chỉ đơn giản là làm công việc của mình, bảo vệ thế giới trước sự phát triển vô trách nhiệm của AI.
Hóa ra những phỏng đoán và meme không quá xa vời. Theo hãng tin Reuters, một báo cáo mới tiết lộ nói rằng OpenAI đã có một bước đột phá lớn trong những ngày trước khi Altman bị sa thải.
Thuật toán mới có tên Q*, còn gọi là Q-Star có thể đe dọa loài người, theo một bức thư mà các nhà nghiên cứu OpenAI giấu tên gửi tới hội đồng quản trị. Bức thư và thuật toán Q-Star có thể là những phát triển quan trọng dẫn đến việc sa thải Altman.
Bức thư thuyết phục sa thải Sam Altman
Theo Reuters, trước khi Sam Altman bị sa thải, nhiều nhà nghiên cứu của OpenAI đã viết một bức thư gửi tới hội đồng quản trị cảnh báo về một khám phá mới về AI cực kỳ mạnh mẽ mà theo họ có thể đe dọa nhân loại. Bức thư là một trong những lý do thuyết phục hội đồng quản trị sa thải Sam Altman.
OpenAI từ chối bình luận với Reuters, nhưng công ty đã thừa nhận dự án Q-Star trong một thông điệp gửi nhân viên và thư gửi hội đồng quản trị. Mira Murati, CEO tạm thời đầu tiên được bổ nhiệm vào hội đồng quản trị sau khi để Sam Altman ra đi, dường như đã cảnh báo cho các nhân viên về tin tức Q-Star sắp được tung ra.
Còn quá sớm để biết liệu Q-Star có phải là AGI hay không và OpenAI đang bận rộn với vụ CEO hơn là đưa ra thông báo công khai. Và công ty có thể không muốn sớm công bố sự đổi mới như vậy, đặc biệt nếu cần thận trọng.
Q-Star có thể làm gì?
Theo Reuters, một số người tại OpenAI tin rằng Q-Star có thể là một bước đột phá của OpenAI về thứ được gọi là trí tuệ nhân tạo tổng hợp (AGI). OpenAI định nghĩa AGI là các hệ thống tự điều khiển vượt qua con người trong hầu hết các tác vụ có giá trị kinh tế.
Với nguồn tài nguyên máy tính khổng lồ, mô hình mới có thể giải quyết một số vấn đề toán học nhất định, nguồn tin của OpenAI chia sẻ với Reuters với điều kiện giấu tên vì người đó không được phép phát biểu thay mặt công ty. Nguồn tin này cho biết, mặc dù chỉ thực hiện làm toán ở cấp độ học sinh tiểu học, nhưng việc đạt được những bài kiểm tra như vậy khiến các nhà nghiên cứu rất lạc quan về thành công trong tương lai của Q-Star.
Các nhà nghiên cứu coi toán học là tiền đề của sự phát triển AI sáng tạo. Hiện tại, AI tạo sinh (Generative AI) rất giỏi viết và dịch ngôn ngữ bằng cách dự đoán thống kê từ tiếp theo và câu trả lời cho cùng một câu hỏi có thể rất khác nhau. Nhưng việc chinh phục khả năng làm toán – nơi chỉ có một câu trả lời đúng – ngụ ý rằng AI sẽ có khả năng suy luận tốt hơn giống như trí thông minh của con người. Các nhà nghiên cứu AI tin rằng điều này có thể được áp dụng cho nghiên cứu khoa học mới.
Không giống như máy tính có thể giải một số phép tính hạn chế, AGI có thể khái quát hóa, học hỏi và hiểu được.
Trong bức thư gửi hội đồng quản trị, các nhà nghiên cứu đã đặc biệt lưu ý sức mạnh và mối nguy hiểm tiềm tàng của AI, các nguồn tin cho biết mà không nêu rõ những lo ngại chính xác về an toàn được ghi trong thư. Từ lâu đã có nhiều cuộc thảo luận giữa các nhà khoa học máy tính về mối nguy hiểm do máy móc cực kỳ thông minh gây ra, chẳng hạn như liệu chúng có thể ra sự hủy diệt của loài người hay không.
Altman đã dẫn đầu các nỗ lực biến ChatGPT trở thành một trong những ứng dụng phần mềm phát triển nhanh nhất trong lịch sử và thu hút đầu tư - cũng như tài nguyên máy tính - cần thiết từ Microsoft để tiến gần hơn đến AGI.
Ngoài việc công bố một loạt công cụ mới trong sự kiện hội nghị dành cho các nhà phát triển gần đây, Sam Altman tuần trước đã hé lộ tại hội nghị thượng đỉnh các nhà lãnh đạo thế giới ở San Francisco rằng ông tin rằng những tiến bộ lớn đã ở trước mắt.
>> Elon Musk chia sẻ bức thư bí ẩn vạch tội Sam Altman đang sốt trên mạng
>> Sam Altman kêu gọi vốn lập công ty chip mới nhiều tỷ đô trước khi bị OpenAI sa thải
Một cuộc điều tra về những gì đã xảy ra cũng đã được hứa hẹn. Đó là điều mà tất cả người dùng ChatGPT đều xứng đáng được biết lý do thực sự dẫn đến quyết định sa thải Sam Altman. Chúng ta đang nói về một công ty đang phát triển một nguồn tài nguyên cực kỳ thú vị, đó là AI.
Sau khi Sam Altman bị sa thải không rõ lý do, nhiều giả thuyết đã lan tràn, trong đó một số suy đoán rằng OpenAI đã phát triển một mô hình GPT-5 cực kỳ mạnh mẽ hoặc OpenAI đã đạt tới AGI, trí tuệ nhân tạo tổng hợp có thể hoạt động tốt như con người. Rằng hội đồng quản trị chỉ đơn giản là làm công việc của mình, bảo vệ thế giới trước sự phát triển vô trách nhiệm của AI.
Hóa ra những phỏng đoán và meme không quá xa vời. Theo hãng tin Reuters, một báo cáo mới tiết lộ nói rằng OpenAI đã có một bước đột phá lớn trong những ngày trước khi Altman bị sa thải.
Bức thư thuyết phục sa thải Sam Altman
Theo Reuters, trước khi Sam Altman bị sa thải, nhiều nhà nghiên cứu của OpenAI đã viết một bức thư gửi tới hội đồng quản trị cảnh báo về một khám phá mới về AI cực kỳ mạnh mẽ mà theo họ có thể đe dọa nhân loại. Bức thư là một trong những lý do thuyết phục hội đồng quản trị sa thải Sam Altman.
OpenAI từ chối bình luận với Reuters, nhưng công ty đã thừa nhận dự án Q-Star trong một thông điệp gửi nhân viên và thư gửi hội đồng quản trị. Mira Murati, CEO tạm thời đầu tiên được bổ nhiệm vào hội đồng quản trị sau khi để Sam Altman ra đi, dường như đã cảnh báo cho các nhân viên về tin tức Q-Star sắp được tung ra.
Còn quá sớm để biết liệu Q-Star có phải là AGI hay không và OpenAI đang bận rộn với vụ CEO hơn là đưa ra thông báo công khai. Và công ty có thể không muốn sớm công bố sự đổi mới như vậy, đặc biệt nếu cần thận trọng.
Q-Star có thể làm gì?
Theo Reuters, một số người tại OpenAI tin rằng Q-Star có thể là một bước đột phá của OpenAI về thứ được gọi là trí tuệ nhân tạo tổng hợp (AGI). OpenAI định nghĩa AGI là các hệ thống tự điều khiển vượt qua con người trong hầu hết các tác vụ có giá trị kinh tế.
Các nhà nghiên cứu coi toán học là tiền đề của sự phát triển AI sáng tạo. Hiện tại, AI tạo sinh (Generative AI) rất giỏi viết và dịch ngôn ngữ bằng cách dự đoán thống kê từ tiếp theo và câu trả lời cho cùng một câu hỏi có thể rất khác nhau. Nhưng việc chinh phục khả năng làm toán – nơi chỉ có một câu trả lời đúng – ngụ ý rằng AI sẽ có khả năng suy luận tốt hơn giống như trí thông minh của con người. Các nhà nghiên cứu AI tin rằng điều này có thể được áp dụng cho nghiên cứu khoa học mới.
Không giống như máy tính có thể giải một số phép tính hạn chế, AGI có thể khái quát hóa, học hỏi và hiểu được.
Trong bức thư gửi hội đồng quản trị, các nhà nghiên cứu đã đặc biệt lưu ý sức mạnh và mối nguy hiểm tiềm tàng của AI, các nguồn tin cho biết mà không nêu rõ những lo ngại chính xác về an toàn được ghi trong thư. Từ lâu đã có nhiều cuộc thảo luận giữa các nhà khoa học máy tính về mối nguy hiểm do máy móc cực kỳ thông minh gây ra, chẳng hạn như liệu chúng có thể ra sự hủy diệt của loài người hay không.
Altman đã dẫn đầu các nỗ lực biến ChatGPT trở thành một trong những ứng dụng phần mềm phát triển nhanh nhất trong lịch sử và thu hút đầu tư - cũng như tài nguyên máy tính - cần thiết từ Microsoft để tiến gần hơn đến AGI.
Ngoài việc công bố một loạt công cụ mới trong sự kiện hội nghị dành cho các nhà phát triển gần đây, Sam Altman tuần trước đã hé lộ tại hội nghị thượng đỉnh các nhà lãnh đạo thế giới ở San Francisco rằng ông tin rằng những tiến bộ lớn đã ở trước mắt.
>> Elon Musk chia sẻ bức thư bí ẩn vạch tội Sam Altman đang sốt trên mạng
>> Sam Altman kêu gọi vốn lập công ty chip mới nhiều tỷ đô trước khi bị OpenAI sa thải
