Đọc nhanh:
OpenAI cho biết sáu thành viên trong ban giám đốc tổ chức phi lợi nhuận của họ sẽ quyết định khi nào công ty sẽ đạt được "AGI". Công ty thậm chí còn định nghĩa cụ thể AGI là “các hệ thống có tính tự trị cao, vượt trội hơn con người trong những nhiệm vụ có giá trị kinh tế nhất”. Bởi vì chi nhánh vì lợi nhuận của công ty "bị pháp luật ràng buộc phải theo đuổi sứ mệnh của tổ chức phi lợi nhuận", một khi hội đồng quản trị xác định rằng AGI đã được triển khai, hệ thống như vậy sẽ "không phải tuân theo giấy phép sở hữu trí tuệ và các điều khoản thương mại khác với Microsoft", những điều khoản này chỉ áp dụng cho các công nghệ tiền AGI.
Nhưng vì mọi người vẫn chưa thống nhất về định nghĩa về AGI, nên việc OpenAI và thế giới có sáu người quyết định liệu AGI đã sẵn sàng có ý nghĩa gì? Thời điểm và bối cảnh của quyết định có thể xảy ra trong tương lai này sẽ có ý nghĩa gì đối với Microsoft, nhà đầu tư lớn nhất của OpenAI?
Trong bài đăng, Kilpatrick đã trích dẫn trang “Cơ cấu tổ chức của chúng tôi” trên trang web của OpenAI, trang này cung cấp thông tin chi tiết về cấu trúc phi lợi nhuận/giới hạn phức tạp của OpenAI. Theo trang này, công ty con vì lợi nhuận của OpenAI có tên là OpenAI Global và dường như đã được chuyển đổi từ OpenAI LP, một quan hệ đối tác hữu hạn được thành lập vào năm 2019. Công ty được đăng ký khoảng ba năm sau khi tổ chức phi lợi nhuận OpenAI được thành lập và được OpenAI "kiểm soát hoàn toàn" (được đăng ký tại Delaware). Mặc dù OpenAI Global “được phép tìm kiếm và phân phối lợi nhuận”, nhưng nó bị ràng buộc bởi sứ mệnh của tổ chức phi lợi nhuận.
Đánh giá từ thỏa thuận hợp tác, một khi OpenAI đạt được sứ mệnh AGI đã tuyên bố, Microsoft sẽ rút lui. Mặc dù tại Ngày nhà phát triển OpenAI tuần trước, đồng sáng lập và Giám đốc điều hành của công ty, Sam Altman đã nói với ông chủ Microsoft Satya Nadella: “Tôi nghĩ chúng tôi có mối quan hệ đối tác tốt nhất trong công nghệ, tôi rất vui mừng về những gì chúng tôi đang cùng nhau xây dựng AGI”.
Trong cuộc phỏng vấn mới nhất với giới truyền thông, Altman nói rằng sự hợp tác giữa OpenAI và Microsoft đang “tiến triển suôn sẻ” và ông kỳ vọng rằng “sẽ có nhiều quỹ được huy động hơn khi thời gian trôi qua”. Khi được hỏi liệu Microsoft có tiếp tục đầu tư hay không, Altman nói: “Tôi hy vọng như vậy, xét cho cùng, từ đây đến AGI vẫn còn một chặng đường dài, vẫn còn rất nhiều máy tính cần xây dựng và chi phí đào tạo quá cao”.
Thông tin chi tiết về cơ cấu tổ chức của OpenAI cho thấy ngay từ đầu, Microsoft “đã chấp nhận đề nghị vốn cổ phần có giới hạn của chúng tôi và yêu cầu giao lại công nghệ và quản trị AGI cho các tổ chức phi lợi nhuận và những tổ chức khác".
Người phát ngôn của OpenAI cho biết: "Sứ mệnh của OpenAI là xây dựng AGI an toàn và có lợi cho mọi người. Ban giám đốc điều hành công ty và tham khảo ý kiến của các chuyên gia bên ngoài cũng như quan điểm đa dạng từ các bên liên quan để giúp đưa ra các ý tưởng và quyết định. Chúng tôi đề cử và bổ nhiệm các thành viên hội đồng quản trị dựa trên kỹ năng, kinh nghiệm và quan điểm của họ về công nghệ, chính sách và bảo mật”.
Hiện tại, ban giám đốc tổ chức phi lợi nhuận của OpenAI bao gồm Chủ tịch kiêm Chủ tịch Greg Brockman, Nhà khoa học trưởng Ilya Sutskever và Giám đốc điều hành Altman. Ba người còn lại, không ai trong số họ là nhân viên của công ty, là Adam D'Angelo, Tasha McCauley và Helen Toner.
Trong số đó, D'Angelo là CEO của Quora, “Zhihu phiên bản Mỹ”, còn các doanh nhân công nghệ McCauley và Toner là giám đốc chiến lược của Trung tâm An ninh và Công nghệ mới nổi của Đại học Georgetown. Cả hai đều gắn liền với phong trào Lòng vị tha hiệu quả (gọi tắt là EA). Đầu năm nay, phong trào này đã bị chỉ trích vì mối quan hệ với ông trùm tiền điện tử Sam Bankman-Fried và thái độ “nguy hiểm” của nó đối với an toàn trí tuệ nhân tạo.
OpenAI và EA có mối quan hệ lâu dài. Ví dụ: vào tháng 3 năm 2017, OpenAI đã nhận được khoản tài trợ trị giá 30 triệu đô la từ Open Philanthropy, được EA tài trợ. Jan Leike, người đứng đầu nhóm Super Alignment của OpenAI, được cho là cũng đồng ý với phong trào EA.
Tuy nhiên, người phát ngôn của OpenAI đã làm rõ: "Không ai trong số các thành viên hội đồng quản trị của chúng tôi là những người có lòng vị tha hiệu quả, cũng như các thành viên hội đồng không phải là nhân viên của chúng tôi. Sự tương tác của họ với cộng đồng EA chủ yếu tập trung vào các chủ đề liên quan đến an toàn AI hoặc cung cấp hỗ trợ cho nhóm. của một người không đủ thân thiết”.
Cô giải thích: "OpenAI tin rằng các hội đồng phi lợi nhuận mang lại lợi ích cho toàn thể nhân loại, trong khi các hội đồng vì lợi nhuận phục vụ các nhà đầu tư. Một biện pháp bảo vệ khác mà họ đang cố gắng tạo ra là đảm bảo đa số giám đốc trong hội đồng quản trị vẫn độc lập và đa số thành viên không có vấn đề gì." vốn chủ sở hữu trong OpenAI”.
Đây có phải là cách đúng đắn để thiết lập cơ cấu vật chất và ban giám đốc để đưa ra các quyết định quan trọng nêu trên? Fulton nói: “Chúng tôi có thể không biết câu trả lời cho đến khi hội đồng quản trị OpenAI đưa ra thông báo".
Anthony Casey, giáo sư tại Trường Luật Đại học Chicago, đồng ý rằng sẽ là “bất thường” nếu hội đồng quản trị quyết định về một vấn đề cụ thể như AGI, nhưng ông không cho rằng có bất kỳ trở ngại pháp lý nào.
Ông nói: "Về mặt pháp lý, được phép nêu rõ rằng một số vấn đề nhất định phải được nêu ra ở cấp độ hội đồng quản trị. Trên thực tế, nếu một vấn đề đủ quan trọng, luật doanh nghiệp thường quy định các giám đốc có trách nhiệm giám sát vấn đề đó, đặc biệt là các vấn đề quan trọng về nhiệm vụ".
Merve Hickok, chủ tịch Trung tâm Trí tuệ nhân tạo và Chính sách kỹ thuật số, đã đệ đơn khiếu nại lên Ủy ban Thương mại Liên bang (FTC) vào tháng 3, kêu gọi cơ quan này điều tra OpenAI và yêu cầu công ty “thiết lập các biện pháp bảo vệ cần thiết trước khi ngừng xuất bản các mô hình GPT”. Ông nói rằng OpenAI với tư cách là một thực thể "có vấn đề với sự đa dạng về quan điểm" và việc họ tập trung vào AGI "bỏ qua tác động hiện tại" của các mô hình và công cụ AI.
Tuy nhiên, Hickok không đồng ý với bất kỳ cuộc tranh luận nào về quy mô hoặc tính đa dạng của hội đồng quản trị OpenAI trong bối cảnh ai sẽ quyết định liệu OpenAI có “kích hoạt AGI” hay không. Cô nói, điều đó làm xao lãng các cuộc thảo luận về tính hợp pháp của sứ mệnh và tuyên bố cơ bản của họ. Cô nói thêm: "Điều này sẽ chuyển trọng tâm và trên thực tế sẽ làm mất tính hợp pháp của các tuyên bố của AGI".
Nhưng OpenAI thiếu định nghĩa rõ ràng về AGI, hay AGI sẽ thực sự xuất hiện? Ví dụ, OpenAI đã viết trong một bài đăng trên blog vào tháng 2 năm 2023: "AGI đầu tiên sẽ chỉ là một điểm trong chuỗi thông tin tình báo". Trong một cuộc phỏng vấn vào tháng 1 năm 2023, Altman cũng nói: "Tôi hy vọng sẽ thấy một tương lai nơi mọi người đều có thể sử dụng trí tuệ nhân tạo và sẽ có nhiều AGI trên thế giới có thể giúp đạt được nhiều quan điểm mà không khiến bất kỳ quan điểm nào trở nên quá mạnh mẽ".
Ông chỉ ra: "Có một số tổ chức phi lợi nhuận hoạt động vì lợi nhuận, trong đó nổi tiếng nhất là Hershey Trust. Nhưng họ hoàn toàn sở hữu các công ty con hoạt động vì lợi nhuận. Trong trường hợp đó, rất khó để theo đuổi lợi nhuận. Dễ thôi, bởi vì sẽ không có cổ đông thiểu số nào phản đối. Nhưng trong OpenAI, mục tiêu lợi nhuận của Microsoft có thể xung đột trực tiếp với lợi ích của đơn vị kiểm soát".
Ông nói thêm rằng giới hạn lợi nhuận sẽ dễ thực hiện, nhưng "điều khó là, điều gì sẽ xảy ra nếu tối đa hóa lợi nhuận xung đột với sứ mệnh của tổ chức phi lợi nhuận?" Casey nói thêm: "Quy tắc mặc định sẽ nói rằng tối đa hóa lợi nhuận là ưu tiên hàng đầu. Vấn đề là các nhà quản lý phải làm như vậy." hãy lưu ý đến điều đó. Nhưng theo nguyên tắc phán đoán trong kinh doanh, điều đó tùy thuộc vào quyết định rộng rãi".
Ông nói tiếp: "Có thể Microsoft sẽ nói: 'Đừng lo lắng, dù trong tình huống nào, chúng tôi sẽ hỗ trợ bạn. Bạn không nợ chúng tôi bất cứ điều gì. Tuy nhiên, điều này nghe có vẻ không giống cách tiếp cận mà Microsoft sẽ thực hiện để đàm phán chút nào".
- OpenAI cho biết sáu thành viên trong ban giám đốc tổ chức phi lợi nhuận của họ sẽ quyết định khi nào công ty sẽ đạt được "AGI", đặt ra câu hỏi.
- OpenAI vẫn là một tổ chức phi lợi nhuận và có toàn quyền kiểm soát công ty con vì lợi nhuận OpenAI Global.
- Ban giám đốc của OpenAI bao gồm sáu người, ba người trong số họ là giám đốc điều hành công ty và ba người trong số họ là giám đốc không phải nhân viên.
- Theo thỏa thuận hợp tác đã ký với Microsoft, OpenAI sẽ không chia sẻ các công nghệ liên quan đến AGI với nó.
Nhưng vì mọi người vẫn chưa thống nhất về định nghĩa về AGI, nên việc OpenAI và thế giới có sáu người quyết định liệu AGI đã sẵn sàng có ý nghĩa gì? Thời điểm và bối cảnh của quyết định có thể xảy ra trong tương lai này sẽ có ý nghĩa gì đối với Microsoft, nhà đầu tư lớn nhất của OpenAI?
Mảng vì lợi nhuận phụ thuộc vào sứ mệnh phi lợi nhuận
Cuối tuần qua, trưởng nhóm phát triển OpenAI, Logan Kilpatrick đã đăng thông tin trên X. Vào thời điểm đó, Kilpatrick đang phản hồi những bình luận của Chủ tịch Microsoft Brad Smith. Trong cuộc trò chuyện gần đây với nhà khoa học trưởng của Meta, Yann LeCun, Smith đã tìm cách mô tả OpenAI là một "tổ chức phi lợi nhuận" đáng tin cậy hơn, bất chấp các báo cáo truyền thông gần đây rằng OpenAI đang tìm cách huy động tới 90 tỷ USD bằng cách bán cổ phiếu hiện có.Trong bài đăng, Kilpatrick đã trích dẫn trang “Cơ cấu tổ chức của chúng tôi” trên trang web của OpenAI, trang này cung cấp thông tin chi tiết về cấu trúc phi lợi nhuận/giới hạn phức tạp của OpenAI. Theo trang này, công ty con vì lợi nhuận của OpenAI có tên là OpenAI Global và dường như đã được chuyển đổi từ OpenAI LP, một quan hệ đối tác hữu hạn được thành lập vào năm 2019. Công ty được đăng ký khoảng ba năm sau khi tổ chức phi lợi nhuận OpenAI được thành lập và được OpenAI "kiểm soát hoàn toàn" (được đăng ký tại Delaware). Mặc dù OpenAI Global “được phép tìm kiếm và phân phối lợi nhuận”, nhưng nó bị ràng buộc bởi sứ mệnh của tổ chức phi lợi nhuận.
Trong cuộc phỏng vấn mới nhất với giới truyền thông, Altman nói rằng sự hợp tác giữa OpenAI và Microsoft đang “tiến triển suôn sẻ” và ông kỳ vọng rằng “sẽ có nhiều quỹ được huy động hơn khi thời gian trôi qua”. Khi được hỏi liệu Microsoft có tiếp tục đầu tư hay không, Altman nói: “Tôi hy vọng như vậy, xét cho cùng, từ đây đến AGI vẫn còn một chặng đường dài, vẫn còn rất nhiều máy tính cần xây dựng và chi phí đào tạo quá cao”.
Thông tin chi tiết về cơ cấu tổ chức của OpenAI cho thấy ngay từ đầu, Microsoft “đã chấp nhận đề nghị vốn cổ phần có giới hạn của chúng tôi và yêu cầu giao lại công nghệ và quản trị AGI cho các tổ chức phi lợi nhuận và những tổ chức khác".
Người phát ngôn của OpenAI cho biết: "Sứ mệnh của OpenAI là xây dựng AGI an toàn và có lợi cho mọi người. Ban giám đốc điều hành công ty và tham khảo ý kiến của các chuyên gia bên ngoài cũng như quan điểm đa dạng từ các bên liên quan để giúp đưa ra các ý tưởng và quyết định. Chúng tôi đề cử và bổ nhiệm các thành viên hội đồng quản trị dựa trên kỹ năng, kinh nghiệm và quan điểm của họ về công nghệ, chính sách và bảo mật”.
Hiện tại, ban giám đốc tổ chức phi lợi nhuận của OpenAI bao gồm Chủ tịch kiêm Chủ tịch Greg Brockman, Nhà khoa học trưởng Ilya Sutskever và Giám đốc điều hành Altman. Ba người còn lại, không ai trong số họ là nhân viên của công ty, là Adam D'Angelo, Tasha McCauley và Helen Toner.
Trong số đó, D'Angelo là CEO của Quora, “Zhihu phiên bản Mỹ”, còn các doanh nhân công nghệ McCauley và Toner là giám đốc chiến lược của Trung tâm An ninh và Công nghệ mới nổi của Đại học Georgetown. Cả hai đều gắn liền với phong trào Lòng vị tha hiệu quả (gọi tắt là EA). Đầu năm nay, phong trào này đã bị chỉ trích vì mối quan hệ với ông trùm tiền điện tử Sam Bankman-Fried và thái độ “nguy hiểm” của nó đối với an toàn trí tuệ nhân tạo.
OpenAI và EA có mối quan hệ lâu dài. Ví dụ: vào tháng 3 năm 2017, OpenAI đã nhận được khoản tài trợ trị giá 30 triệu đô la từ Open Philanthropy, được EA tài trợ. Jan Leike, người đứng đầu nhóm Super Alignment của OpenAI, được cho là cũng đồng ý với phong trào EA.
Tuy nhiên, người phát ngôn của OpenAI đã làm rõ: "Không ai trong số các thành viên hội đồng quản trị của chúng tôi là những người có lòng vị tha hiệu quả, cũng như các thành viên hội đồng không phải là nhân viên của chúng tôi. Sự tương tác của họ với cộng đồng EA chủ yếu tập trung vào các chủ đề liên quan đến an toàn AI hoặc cung cấp hỗ trợ cho nhóm. của một người không đủ thân thiết”.
Quyết định AGI của HĐQT là “bất thường”
Suzy Fulton, người cung cấp dịch vụ pháp lý thuê ngoài cho các công ty khởi nghiệp và công ty mới nổi trong lĩnh vực công nghệ, cho biết trong nhiều trường hợp, việc một hội đồng đưa ra quyết định AGI như vậy là điều “bất thường” nhưng ban giám đốc tổ chức phi lợi nhuận của OpenAI có nghĩa vụ hỗ trợ. sứ mệnh của nó là cung cấp “AGI an toàn, mang lại lợi ích rộng rãi”.Cô giải thích: "OpenAI tin rằng các hội đồng phi lợi nhuận mang lại lợi ích cho toàn thể nhân loại, trong khi các hội đồng vì lợi nhuận phục vụ các nhà đầu tư. Một biện pháp bảo vệ khác mà họ đang cố gắng tạo ra là đảm bảo đa số giám đốc trong hội đồng quản trị vẫn độc lập và đa số thành viên không có vấn đề gì." vốn chủ sở hữu trong OpenAI”.
Đây có phải là cách đúng đắn để thiết lập cơ cấu vật chất và ban giám đốc để đưa ra các quyết định quan trọng nêu trên? Fulton nói: “Chúng tôi có thể không biết câu trả lời cho đến khi hội đồng quản trị OpenAI đưa ra thông báo".
Anthony Casey, giáo sư tại Trường Luật Đại học Chicago, đồng ý rằng sẽ là “bất thường” nếu hội đồng quản trị quyết định về một vấn đề cụ thể như AGI, nhưng ông không cho rằng có bất kỳ trở ngại pháp lý nào.
Ông nói: "Về mặt pháp lý, được phép nêu rõ rằng một số vấn đề nhất định phải được nêu ra ở cấp độ hội đồng quản trị. Trên thực tế, nếu một vấn đề đủ quan trọng, luật doanh nghiệp thường quy định các giám đốc có trách nhiệm giám sát vấn đề đó, đặc biệt là các vấn đề quan trọng về nhiệm vụ".
Việc tập trung vào sứ mệnh AGI có hợp pháp hóa các tuyên bố của OpenAI không?
Tuy nhiên, không phải tất cả các chuyên gia đều tin rằng trí tuệ nhân tạo sẽ sớm ra mắt, thậm chí một số người còn đặt câu hỏi liệu nó có trở thành hiện thực hay không.Merve Hickok, chủ tịch Trung tâm Trí tuệ nhân tạo và Chính sách kỹ thuật số, đã đệ đơn khiếu nại lên Ủy ban Thương mại Liên bang (FTC) vào tháng 3, kêu gọi cơ quan này điều tra OpenAI và yêu cầu công ty “thiết lập các biện pháp bảo vệ cần thiết trước khi ngừng xuất bản các mô hình GPT”. Ông nói rằng OpenAI với tư cách là một thực thể "có vấn đề với sự đa dạng về quan điểm" và việc họ tập trung vào AGI "bỏ qua tác động hiện tại" của các mô hình và công cụ AI.
Tuy nhiên, Hickok không đồng ý với bất kỳ cuộc tranh luận nào về quy mô hoặc tính đa dạng của hội đồng quản trị OpenAI trong bối cảnh ai sẽ quyết định liệu OpenAI có “kích hoạt AGI” hay không. Cô nói, điều đó làm xao lãng các cuộc thảo luận về tính hợp pháp của sứ mệnh và tuyên bố cơ bản của họ. Cô nói thêm: "Điều này sẽ chuyển trọng tâm và trên thực tế sẽ làm mất tính hợp pháp của các tuyên bố của AGI".
Nhưng OpenAI thiếu định nghĩa rõ ràng về AGI, hay AGI sẽ thực sự xuất hiện? Ví dụ, OpenAI đã viết trong một bài đăng trên blog vào tháng 2 năm 2023: "AGI đầu tiên sẽ chỉ là một điểm trong chuỗi thông tin tình báo". Trong một cuộc phỏng vấn vào tháng 1 năm 2023, Altman cũng nói: "Tôi hy vọng sẽ thấy một tương lai nơi mọi người đều có thể sử dụng trí tuệ nhân tạo và sẽ có nhiều AGI trên thế giới có thể giúp đạt được nhiều quan điểm mà không khiến bất kỳ quan điểm nào trở nên quá mạnh mẽ".
OpenAI không muốn chơi với Microsoft nữa?
Tuy nhiên, thật khó để nói định nghĩa mơ hồ của OpenAI về AGI có ý nghĩa gì đối với Microsoft, đặc biệt là khi không có đầy đủ chi tiết về thỏa thuận điều hành giữa hai công ty. Casey, giáo sư tại Trường Luật Đại học Chicago, cho biết cấu trúc và mối quan hệ của OpenAI với Microsoft có thể dẫn đến một số “tranh chấp nghiêm trọng” nếu nó thực sự hoàn thành sứ mệnh phi lợi nhuận của mình.Ông chỉ ra: "Có một số tổ chức phi lợi nhuận hoạt động vì lợi nhuận, trong đó nổi tiếng nhất là Hershey Trust. Nhưng họ hoàn toàn sở hữu các công ty con hoạt động vì lợi nhuận. Trong trường hợp đó, rất khó để theo đuổi lợi nhuận. Dễ thôi, bởi vì sẽ không có cổ đông thiểu số nào phản đối. Nhưng trong OpenAI, mục tiêu lợi nhuận của Microsoft có thể xung đột trực tiếp với lợi ích của đơn vị kiểm soát".
Ông nói thêm rằng giới hạn lợi nhuận sẽ dễ thực hiện, nhưng "điều khó là, điều gì sẽ xảy ra nếu tối đa hóa lợi nhuận xung đột với sứ mệnh của tổ chức phi lợi nhuận?" Casey nói thêm: "Quy tắc mặc định sẽ nói rằng tối đa hóa lợi nhuận là ưu tiên hàng đầu. Vấn đề là các nhà quản lý phải làm như vậy." hãy lưu ý đến điều đó. Nhưng theo nguyên tắc phán đoán trong kinh doanh, điều đó tùy thuộc vào quyết định rộng rãi".
Ông nói tiếp: "Có thể Microsoft sẽ nói: 'Đừng lo lắng, dù trong tình huống nào, chúng tôi sẽ hỗ trợ bạn. Bạn không nợ chúng tôi bất cứ điều gì. Tuy nhiên, điều này nghe có vẻ không giống cách tiếp cận mà Microsoft sẽ thực hiện để đàm phán chút nào".
