Trước bốn ngày Giám đốc điều hành OpenAI Sam Altman mất việc, một số nhà nghiên cứu nhân viên đã viết một lá thư cho ban giám đốc cảnh báo về một phát hiện trí tuệ nhân tạo mạnh mẽ mà họ cho rằng có thể đe dọa loài người, các nguồn tin nội bộ chia sẻ với Reuters như vậy.
Hai nguồn tin cho biết, bức thư chưa được báo cáo trước đây và thuật toán AI là những bước phát triển quan trọng trước khi Altman, người đồng sáng lập ra OpenAI, bị sa thải khỏi hội đồng quản trị. Vào cuối ngày thứ Ba tuần này, Altman trở lại đắc thắng sau khi hơn 700 nhân viên đã dọa nghỉ việc và gia nhập công ty ủng hộ Microsoft để đoàn kết với nhà lãnh đạo bị sa thải.
Các nguồn tin trích dẫn bức thư là một yếu tố trong danh sách dài hơn những lời phàn nàn của hội đồng quản trị dẫn đến việc sa thải Altman, trong số đó có những lo ngại về việc thương mại hóa những tiến bộ trước khi hiểu được hậu quả. Reuters không thể xem lại bản sao của bức thư. Các nhân viên viết bức thư đã không trả lời yêu cầu bình luận.
Một người cho biết sau khi được Reuters liên hệ, OpenAI, từ chối bình luận, đã thừa nhận trong một tin nhắn nội bộ gửi tới nhân viên một dự án có tên Q* và một lá thư gửi hội đồng quản trị trước các sự kiện cuối tuần. Người phát ngôn của OpenAI cho biết tin nhắn do giám đốc điều hành lâu năm Mira Murati gửi đã cảnh báo nhân viên về một số câu chuyện truyền thông nhất định mà không bình luận về tính chính xác của chúng.
Một số người tại OpenAI tin rằng Q* có thể là một bước đột phá trong cuộc tìm kiếm của công ty khởi nghiệp về thứ được gọi là trí tuệ nhân tạo tổng hợp (AGI). OpenAI định nghĩa AGI là các hệ thống tự trị vượt qua con người trong hầu hết các nhiệm vụ có giá trị kinh tế.
Với nguồn tài nguyên máy tính khổng lồ, mô hình mới có thể giải quyết một số vấn đề toán học nhất định, người này cho biết với điều kiện giấu tên vì cá nhân đó không được phép phát biểu thay mặt công ty. Nguồn tin cho biết, mặc dù chỉ thực hiện toán ở cấp độ học sinh tiểu học, nhưng việc đạt được những bài kiểm tra như vậy khiến các nhà nghiên cứu rất lạc quan về thành công trong tương lai của Q*.
Không giống như một chiếc máy tính có thể giải một số phép tính hạn chế, AGI có thể khái quát hóa, học hỏi và hiểu được.
Trong thư gửi hội đồng quản trị, các nhà nghiên cứu đã đánh dấu sức mạnh và mối nguy hiểm tiềm tàng của AI, các nguồn tin cho biết mà không nêu rõ những lo ngại chính xác về an toàn được ghi trong thư. Từ lâu đã có cuộc thảo luận giữa các nhà khoa học máy tính về mối nguy hiểm do máy móc cực kỳ thông minh gây ra, chẳng hạn như liệu họ có thể quyết định rằng sự hủy diệt của loài người là lợi ích hay không.
Các nhà nghiên cứu cũng đã gắn cờ công trình của một nhóm "nhà khoa học AI", sự tồn tại của nhóm này đã được nhiều nguồn xác nhận. Một người cho biết, nhóm được thành lập bằng cách kết hợp các nhóm "Code Gen" và "Math Gen" trước đó, đang khám phá cách tối ưu hóa các mô hình AI hiện có để cải thiện khả năng suy luận và cuối cùng là thực hiện công việc khoa học.
Altman đã dẫn đầu các nỗ lực biến ChatGPT trở thành một trong những ứng dụng phần mềm phát triển nhanh nhất trong lịch sử và thu hút đầu tư - cũng như tài nguyên máy tính - cần thiết từ Microsoft để tiến gần hơn đến AGI.
Ngoài việc công bố một loạt công cụ mới trong cuộc trình diễn tháng này, Altman tuần trước đã trêu chọc tại hội nghị thượng đỉnh các nhà lãnh đạo thế giới ở San Francisco rằng ông tin rằng những tiến bộ lớn đã ở trước mắt.
“Bốn lần trong lịch sử OpenAI, lần gần đây nhất chỉ là trong vài tuần gần đây, tôi đã có mặt trong phòng, khi chúng ta gần như đẩy lùi bức màn vô minh và biên giới khám phá về phía trước, và làm được điều đó là vinh dự nghề nghiệp có một đời", ông nói tại Hội nghị thượng đỉnh Hợp tác Kinh tế Châu Á-Thái Bình Dương.
Một ngày sau, hội đồng quản trị sa thải Altman.
Hai nguồn tin cho biết, bức thư chưa được báo cáo trước đây và thuật toán AI là những bước phát triển quan trọng trước khi Altman, người đồng sáng lập ra OpenAI, bị sa thải khỏi hội đồng quản trị. Vào cuối ngày thứ Ba tuần này, Altman trở lại đắc thắng sau khi hơn 700 nhân viên đã dọa nghỉ việc và gia nhập công ty ủng hộ Microsoft để đoàn kết với nhà lãnh đạo bị sa thải.
Một người cho biết sau khi được Reuters liên hệ, OpenAI, từ chối bình luận, đã thừa nhận trong một tin nhắn nội bộ gửi tới nhân viên một dự án có tên Q* và một lá thư gửi hội đồng quản trị trước các sự kiện cuối tuần. Người phát ngôn của OpenAI cho biết tin nhắn do giám đốc điều hành lâu năm Mira Murati gửi đã cảnh báo nhân viên về một số câu chuyện truyền thông nhất định mà không bình luận về tính chính xác của chúng.
Một số người tại OpenAI tin rằng Q* có thể là một bước đột phá trong cuộc tìm kiếm của công ty khởi nghiệp về thứ được gọi là trí tuệ nhân tạo tổng hợp (AGI). OpenAI định nghĩa AGI là các hệ thống tự trị vượt qua con người trong hầu hết các nhiệm vụ có giá trị kinh tế.
Với nguồn tài nguyên máy tính khổng lồ, mô hình mới có thể giải quyết một số vấn đề toán học nhất định, người này cho biết với điều kiện giấu tên vì cá nhân đó không được phép phát biểu thay mặt công ty. Nguồn tin cho biết, mặc dù chỉ thực hiện toán ở cấp độ học sinh tiểu học, nhưng việc đạt được những bài kiểm tra như vậy khiến các nhà nghiên cứu rất lạc quan về thành công trong tương lai của Q*.
'BỨC MÀN VÔ MINH'
Các nhà nghiên cứu coi toán học là tiền đề của sự phát triển AI sáng tạo. Hiện tại, Generative AI rất giỏi viết và dịch ngôn ngữ bằng cách dự đoán thống kê từ tiếp theo và câu trả lời cho cùng một câu hỏi có thể rất khác nhau. Nhưng việc chinh phục khả năng làm toán – nơi chỉ có một câu trả lời đúng – ngụ ý rằng AI sẽ có khả năng suy luận tốt hơn giống như trí thông minh của con người. Các nhà nghiên cứu AI tin rằng điều này có thể được áp dụng cho nghiên cứu khoa học mới.Không giống như một chiếc máy tính có thể giải một số phép tính hạn chế, AGI có thể khái quát hóa, học hỏi và hiểu được.
Trong thư gửi hội đồng quản trị, các nhà nghiên cứu đã đánh dấu sức mạnh và mối nguy hiểm tiềm tàng của AI, các nguồn tin cho biết mà không nêu rõ những lo ngại chính xác về an toàn được ghi trong thư. Từ lâu đã có cuộc thảo luận giữa các nhà khoa học máy tính về mối nguy hiểm do máy móc cực kỳ thông minh gây ra, chẳng hạn như liệu họ có thể quyết định rằng sự hủy diệt của loài người là lợi ích hay không.
Các nhà nghiên cứu cũng đã gắn cờ công trình của một nhóm "nhà khoa học AI", sự tồn tại của nhóm này đã được nhiều nguồn xác nhận. Một người cho biết, nhóm được thành lập bằng cách kết hợp các nhóm "Code Gen" và "Math Gen" trước đó, đang khám phá cách tối ưu hóa các mô hình AI hiện có để cải thiện khả năng suy luận và cuối cùng là thực hiện công việc khoa học.
Altman đã dẫn đầu các nỗ lực biến ChatGPT trở thành một trong những ứng dụng phần mềm phát triển nhanh nhất trong lịch sử và thu hút đầu tư - cũng như tài nguyên máy tính - cần thiết từ Microsoft để tiến gần hơn đến AGI.
Ngoài việc công bố một loạt công cụ mới trong cuộc trình diễn tháng này, Altman tuần trước đã trêu chọc tại hội nghị thượng đỉnh các nhà lãnh đạo thế giới ở San Francisco rằng ông tin rằng những tiến bộ lớn đã ở trước mắt.
“Bốn lần trong lịch sử OpenAI, lần gần đây nhất chỉ là trong vài tuần gần đây, tôi đã có mặt trong phòng, khi chúng ta gần như đẩy lùi bức màn vô minh và biên giới khám phá về phía trước, và làm được điều đó là vinh dự nghề nghiệp có một đời", ông nói tại Hội nghị thượng đỉnh Hợp tác Kinh tế Châu Á-Thái Bình Dương.
Một ngày sau, hội đồng quản trị sa thải Altman.
