Thoại Viết Hoàng
Writer
OpenAI đang thành lập một nhóm mới do Ilya Sutskever, nhà khoa học trưởng và là một trong những người đồng sáng lập của công ty, lãnh đạo, để phát triển các cách điều khiển và kiểm soát các hệ thống AI “siêu thông minh”.
Trong một bài đăng trên blog được xuất bản hôm nay, Sutskever và Jan Leike, lãnh đạo nhóm liên kết tại OpenAI, dự đoán rằng AI với trí thông minh vượt xa con người có thể xuất hiện trong thập kỷ tới. Sutskever và Leike nói rằng AI này - giả sử rằng nó thực sự xuất hiện - sẽ không nhất thiết phải nhân từ, cần phải nghiên cứu các cách để kiểm soát và hạn chế nó.
Họ viết: “Hiện tại, chúng tôi không có giải pháp để điều khiển hoặc kiểm soát AI có khả năng siêu thông minh và ngăn chặn nó trở nên bất hảo. “Các kỹ thuật hiện tại của chúng tôi để sắp xếp AI, chẳng hạn như học tăng cường từ phản hồi của con người, dựa vào khả năng giám sát AI của con người. Nhưng con người sẽ không thể giám sát một cách đáng tin cậy các hệ thống AI thông minh hơn chúng ta nhiều”.
Để thúc đẩy kim chỉ nam trong lĩnh vực “liên kết siêu trí tuệ”, OpenAI đang tạo ra một nhóm Siêu liên kết mới, do cả Sutskever và Leike dẫn đầu, nhóm này sẽ có quyền truy cập vào 20% điện toán mà công ty đã bảo mật cho đến nay. Được tham gia bởi các nhà khoa học và kỹ sư từ bộ phận liên kết trước đây của OpenAI cũng như các nhà nghiên cứu từ các tổ chức khác trong công ty, nhóm sẽ hướng tới giải quyết các thách thức kỹ thuật cốt lõi trong việc kiểm soát AI siêu thông minh trong bốn năm tới.
Làm sao? Bằng cách xây dựng thứ mà Sutskever và Leike mô tả là “nhà nghiên cứu căn chỉnh tự động ở cấp độ con người”. Mục tiêu cấp cao là đào tạo các hệ thống AI sử dụng phản hồi của con người, đào tạo AI để hỗ trợ đánh giá các hệ thống AI khác và cuối cùng là xây dựng AI có thể thực hiện nghiên cứu căn chỉnh. (Ở đây, “nghiên cứu căn chỉnh” đề cập đến việc đảm bảo các hệ thống AI đạt được kết quả mong muốn hoặc không đi chệch hướng).
Giả thuyết của OpenAI là AI có thể tạo ra tiến trình nghiên cứu căn chỉnh nhanh hơn và tốt hơn so với con người.
“Khi chúng tôi đạt được tiến bộ về vấn đề này, các hệ thống AI của chúng tôi có thể tiếp quản ngày càng nhiều công việc căn chỉnh của chúng tôi và cuối cùng hình thành, triển khai, nghiên cứu và phát triển các kỹ thuật căn chỉnh tốt hơn so với những gì chúng tôi hiện có,” Leike và các đồng nghiệp John Schulman và Jeffrey Wu đã đưa ra giả thuyết trong một nghiên cứu. bài đăng trên blog trước đó . “Họ sẽ làm việc cùng với con người để đảm bảo rằng những người kế vị của họ phù hợp hơn với con người. . . . Các nhà nghiên cứu con người sẽ ngày càng tập trung nhiều nỗ lực hơn vào việc xem xét nghiên cứu căn chỉnh được thực hiện bởi các hệ thống AI thay vì tự mình tạo ra nghiên cứu này”.
Tất nhiên, không có phương pháp nào là hoàn hảo - và Leike, Schulman và Wu thừa nhận nhiều hạn chế của OpenAI trong bài đăng của họ. Họ nói rằng việc sử dụng AI để đánh giá có khả năng mở rộng sự không nhất quán, thành kiến hoặc lỗ hổng trong AI đó. Và nó có thể chỉ ra rằng những phần khó nhất của vấn đề căn chỉnh có thể không liên quan đến kỹ thuật.
Nhưng Sutskever và Leike nghĩ rằng nó đáng để thử.
“Sự liên kết siêu trí tuệ về cơ bản là một vấn đề về máy học và chúng tôi nghĩ rằng các chuyên gia máy học tuyệt vời - ngay cả khi họ chưa nghiên cứu về sự liên kết - sẽ đóng vai trò quan trọng trong việc giải quyết vấn đề này,” họ viết. “Chúng tôi dự định chia sẻ rộng rãi thành quả của nỗ lực này và xem việc đóng góp vào sự liên kết và an toàn của các mô hình không phải OpenAI là một phần quan trọng trong công việc của chúng tôi”.
Họ viết: “Hiện tại, chúng tôi không có giải pháp để điều khiển hoặc kiểm soát AI có khả năng siêu thông minh và ngăn chặn nó trở nên bất hảo. “Các kỹ thuật hiện tại của chúng tôi để sắp xếp AI, chẳng hạn như học tăng cường từ phản hồi của con người, dựa vào khả năng giám sát AI của con người. Nhưng con người sẽ không thể giám sát một cách đáng tin cậy các hệ thống AI thông minh hơn chúng ta nhiều”.
Để thúc đẩy kim chỉ nam trong lĩnh vực “liên kết siêu trí tuệ”, OpenAI đang tạo ra một nhóm Siêu liên kết mới, do cả Sutskever và Leike dẫn đầu, nhóm này sẽ có quyền truy cập vào 20% điện toán mà công ty đã bảo mật cho đến nay. Được tham gia bởi các nhà khoa học và kỹ sư từ bộ phận liên kết trước đây của OpenAI cũng như các nhà nghiên cứu từ các tổ chức khác trong công ty, nhóm sẽ hướng tới giải quyết các thách thức kỹ thuật cốt lõi trong việc kiểm soát AI siêu thông minh trong bốn năm tới.
Làm sao? Bằng cách xây dựng thứ mà Sutskever và Leike mô tả là “nhà nghiên cứu căn chỉnh tự động ở cấp độ con người”. Mục tiêu cấp cao là đào tạo các hệ thống AI sử dụng phản hồi của con người, đào tạo AI để hỗ trợ đánh giá các hệ thống AI khác và cuối cùng là xây dựng AI có thể thực hiện nghiên cứu căn chỉnh. (Ở đây, “nghiên cứu căn chỉnh” đề cập đến việc đảm bảo các hệ thống AI đạt được kết quả mong muốn hoặc không đi chệch hướng).
Giả thuyết của OpenAI là AI có thể tạo ra tiến trình nghiên cứu căn chỉnh nhanh hơn và tốt hơn so với con người.
“Khi chúng tôi đạt được tiến bộ về vấn đề này, các hệ thống AI của chúng tôi có thể tiếp quản ngày càng nhiều công việc căn chỉnh của chúng tôi và cuối cùng hình thành, triển khai, nghiên cứu và phát triển các kỹ thuật căn chỉnh tốt hơn so với những gì chúng tôi hiện có,” Leike và các đồng nghiệp John Schulman và Jeffrey Wu đã đưa ra giả thuyết trong một nghiên cứu. bài đăng trên blog trước đó . “Họ sẽ làm việc cùng với con người để đảm bảo rằng những người kế vị của họ phù hợp hơn với con người. . . . Các nhà nghiên cứu con người sẽ ngày càng tập trung nhiều nỗ lực hơn vào việc xem xét nghiên cứu căn chỉnh được thực hiện bởi các hệ thống AI thay vì tự mình tạo ra nghiên cứu này”.
Tất nhiên, không có phương pháp nào là hoàn hảo - và Leike, Schulman và Wu thừa nhận nhiều hạn chế của OpenAI trong bài đăng của họ. Họ nói rằng việc sử dụng AI để đánh giá có khả năng mở rộng sự không nhất quán, thành kiến hoặc lỗ hổng trong AI đó. Và nó có thể chỉ ra rằng những phần khó nhất của vấn đề căn chỉnh có thể không liên quan đến kỹ thuật.
Nhưng Sutskever và Leike nghĩ rằng nó đáng để thử.
“Sự liên kết siêu trí tuệ về cơ bản là một vấn đề về máy học và chúng tôi nghĩ rằng các chuyên gia máy học tuyệt vời - ngay cả khi họ chưa nghiên cứu về sự liên kết - sẽ đóng vai trò quan trọng trong việc giải quyết vấn đề này,” họ viết. “Chúng tôi dự định chia sẻ rộng rãi thành quả của nỗ lực này và xem việc đóng góp vào sự liên kết và an toàn của các mô hình không phải OpenAI là một phần quan trọng trong công việc của chúng tôi”.
