Phần I tại đây.
Vào năm 2015, một nhóm những người khá giả mới nổi ở Thung lũng Silicon đã huy động được 1 tỷ đô la để thành lập một công ty nhằm kiểm tra và cân bằng Google và đảm bảo trí tuệ tổng hợp nhân tạo (AGI, tên đầy đủ Trí tuệ tổng hợp nhân tạo, tức là một hệ thống thông minh có thể thực hiện nhiệm vụ trong các lĩnh vực khác nhau như con người) OpenAI, một tổ chức mã nguồn mở, phi lợi nhuận có lợi cho nhân loại (Open trong tên viết tắt của mã nguồn mở).
Những người sáng lập bao gồm Musk, sau đó là đối tác của Y Combinator, Sam Altman (Sam Altman (hiện là CEO của OpenAI) và những người khác. Những ngày đầu, Musk và Sam đều là đồng chủ tịch của OpenAI.
Musk là một trong những doanh nhân tích cực nhất trên thế giới trong việc thúc đẩy sự phát triển của AI, đồng thời cũng bày tỏ nỗi sợ hãi về AI mọi lúc mọi nơi.
Đầu năm 2014, Musk đã tweet rằng trí tuệ nhân tạo có thể nguy hiểm hơn vũ khí hạt nhân và chúng ta nên hết sức cẩn thận với nó.
Khi đang nói chuyện với Ashley Vance, tác giả cuốn sách "Người sắt ở thung lũng Silicon", Musk cũng bất ngờ nhảy sang một thứ khiến ông khiếp sợ đến mức không ngủ được: bạn của ông và cũng là nhà sáng lập Google, Larry Page (Larry Page) đang xây dựng một đội quân. của những người máy thông minh nhân tạo có nguy cơ hủy diệt toàn bộ nhân loại. "Page tin rằng máy móc sẽ luôn phục vụ con người. Tôi không lạc quan như anh ấy. Anh ấy có thể vô tình tạo ra thứ gì đó xấu xa".
Đối với Musk, cách tốt nhất để chống lại nỗi sợ hãi có thể là phát triển AI trước những người khác và điều chỉnh AI đủ để khiến anh ấy cảm thấy thoải mái.
Vì vậy, vào năm 2018, khi tiến độ nghiên cứu và phát triển của OpenAI thua xa Google do thiếu vốn, Musk đã đề xuất với đồng chủ tịch Sam để đích thân ông tiếp quản và vận hành OpenAI, nhưng đề xuất này đã bị những người sáng lập OpenAI phản đối. Không lâu sau, Musk rời OpenAI và hủy khoản đầu tư lớn mà ông dự định quyên góp cho OpenAI.
Cùng thời điểm Musk rời đi, Sam chuyển trọng tâm từ Y Combinator sang OpenAI. Theo tài liệu thuế, vị trí của Sam tại OpenAI đã được thay đổi từ đồng chủ tịch thành chủ tịch vào năm 2018, tương đương với việc tiếp quản hoàn toàn việc quản lý OpenAI.
Việc Musk ngừng quyên góp đã khiến dòng tiền vốn đã kém của OpenAI càng trở nên tồi tệ hơn, không thể chi trả cho chi phí đào tạo mô hình cao.
Vào năm 2019, OpenAI đã hoàn toàn đi chệch mục tiêu ban đầu và thành lập OpenAI LP, một tổ chức hoạt động vì lợi nhuận, để tăng chi phí cần thiết cho nghiên cứu và phát triển. Theo The Information, Sam nói rằng anh ấy sẽ không nhận cổ phần trong tổ chức vì lợi nhuận OpenAI mới, tức là anh ấy sẽ không được hưởng lợi từ lợi nhuận của OpenAI.
Chưa đầy 6 tháng sau, Microsoft đã rót 1 tỷ USD vào OpenAI và hai bên đã cùng nhau xây dựng một siêu máy tính để đào tạo một mô hình lớn-mô hình GPT dựa trên mô hình Google Transformer và tạo ra một thế giới bùng nổ khi chuyển sang GPT-3.5 ChatGPT.
Vào đầu năm nay, OpenAI đã chấp nhận khoản đầu tư bổ sung của Microsoft là "đầu tư hàng tỷ đô la trong vòng vài năm" Mặc dù OpenAI có giới hạn lợi nhuận là "trong vòng 100 lần số tiền đầu tư", nhưng giao dịch này chắc chắn sẽ gắn kết OpenAI và Microsoft lại gần nhau hơn.
Sự phát triển của OpenAI đã đi ngược lại ý định ban đầu của Sam.
Sam trước đây đã nhấn mạnh trong một cuộc phỏng vấn rằng anh ấy hy vọng sẽ phá vỡ mô hình của chủ nghĩa tư bản trong tương lai và ngăn chặn một số người độc chiếm lợi ích của công ty. "Nếu AGI thực sự có thể được hiện thực hóa hoàn toàn, tôi có thể hình dung nó sẽ phá vỡ chủ nghĩa tư bản theo nhiều cách khác nhau. Cái mà chúng tôi đang cố gắng thiết kế là một cấu trúc khác với bất kỳ cấu trúc doanh nghiệp nào khác".
Sam cho rằng lĩnh vực trí tuệ nhân tạo không thể chỉ do một công ty nào sở hữu.
OpenAI ngày nay thực sự có khả năng kiểm tra và cân bằng Google, nhưng trong mắt của Musk, Open AI đã trở thành một sự tồn tại cần được kiểm tra và cân bằng.
"Bây giờ nó đã trở thành một công ty nguồn đóng, tối đa hóa lợi nhuận do Microsoft kiểm soát". Musk đã cắt quyền truy cập của OpenAI vào dữ liệu Twitter một tháng sau khi ChatGPT được phát hành.
Musk là người ủng hộ mã nguồn mở. Vào năm 2014, anh đã công bố tất cả các bằng sáng chế của Tesla và tay nắm cửa ẩn thường được sử dụng trên xe điện ngày nay là một phát kiến của Tesla. Vào ngày 31/3, Musk một lần nữa thực hiện lời hứa về mã nguồn mở của mình. Một số mã của Twitter là mã nguồn mở, hầu hết là các thuật toán đề xuất. Musk mã nguồn mở Twitter để làm cho nó trở thành "hệ thống minh bạch nhất trên Internet".
Mới đây, Musk đã bày tỏ sự không hài lòng của mình trên Twitter: "Tôi vẫn rất bối rối, làm thế nào mà một tổ chức phi lợi nhuận mà tôi quyên góp 100 triệu USD lại biến thành một tổ chức vì lợi nhuận với giá trị thị trường là 30 tỷ USD". Làm thế nào để suy nghĩ về việc tách các nguồn lực của tổ chức phi lợi nhuận để thành lập một công ty vì lợi nhuận".
Câu trả lời của ChatGPT khiến anh rất hài lòng: việc bắt đầu kinh doanh vì lợi nhuận dưới vỏ bọc của một tổ chức phi lợi nhuận là vô đạo đức và bất hợp pháp. Bất kỳ nỗ lực nào nhằm lạm dụng đặc quyền của các tổ chức phi lợi nhuận sẽ chỉ dẫn đến việc mất lòng tin của công chúng và thậm chí là hậu quả pháp lý.
Câu trả lời của ChatGPT cho Musk
Theo The Information, Musk gần đây đã liên hệ với các nhà phát triển trí tuệ nhân tạo để thảo luận về việc thành lập một phòng thí nghiệm nghiên cứu mới để kiểm tra và cân bằng giữa OpenAI và ChatGPT.
Rủi ro có thể đến sớm hơn tưởng tượng
Mọi người từ lâu đã biết rằng AI có khả năng học hỏi mạnh mẽ và khả năng của nó phát triển theo cấp số nhân, nhưng tốc độ phát triển thực sự của AI vẫn nhanh hơn dự kiến.
Jeffrey Hinton, "cha đẻ của trí tuệ nhân tạo" đã đề cập ở trên, cho biết trong một cuộc phỏng vấn gần đây của CBS, "Tôi từng nghĩ rằng chúng ta vẫn cần 20 đến 50 năm nữa trước khi có trí tuệ nhân tạo nói chung (AGI), và bây giờ tôi nghĩ là lần này. nên rút ngắn xuống còn 20 năm".
Richard Ngo, kỹ sư nhóm quản trị OpenAI tiền tuyến và cựu kỹ sư nghiên cứu nhóm bảo mật Deepmind AGI, đã đưa ra một dự đoán triệt để hơn. "Khi tôi nói 'tôi dự đoán', nó đáng tin cậy hơn 50%, nhưng không nhất thiết phải hơn 50%".
Ông dự đoán rằng vào cuối năm 2025, tức là hơn hai năm sau, mạng lưới thần kinh sẽ có một số thuộc tính:
1. Có nhận thức tình huống ở cấp độ con người, chẳng hạn như biết rằng bạn là một mạng lưới thần kinh, biết cách bạn tương tác với thế giới...;
2. Vượt trội hơn hầu hết những người khác trong việc viết các kế hoạch hiệu quả và phức tạp;
3. Làm tốt hơn (chuyên nghiệp hơn, công bằng hơn) so với hầu hết những người bình duyệt ngang hàng;
4. Có thể độc lập thiết kế, viết mã và phân phối các ứng dụng hoàn chỉnh (nhưng không phải là ứng dụng phức tạp nhất);
5. Thực hiện tốt hơn hầu hết mọi người trong bất kỳ nhiệm vụ máy tính nào mà bất kỳ nhân viên văn phòng trung bình nào cũng có thể hoàn thành trong 10 phút;
6. Viết truyện ngắn đoạt giải hoặc xuất bản sách 50.000 từ;
7. Tạo một bộ phim mạch lạc dài 20 phút.
Con người tốt sẽ làm tốt hơn trong cả bốn lĩnh vực, mặc dù chậm hơn nhiều so với mạng lưới thần kinh. Chẳng hạn như viết một cuốn tiểu thuyết; thực hiện đều đặn một kế hoạch trong nhiều ngày liên tục; đột phá trong lĩnh vực nghiên cứu khoa học, chẳng hạn như phát kiến các định lý; hoàn thành công việc lao động chân tay thông thường.
"Về lâu dài, quá trình chuyển đổi sang một thế giới siêu trí tuệ có thể là dự án quan trọng nhất, hứa hẹn nhất và đáng sợ nhất trong lịch sử loài người." Sam cũng đã đưa ra cảnh báo trên Twitter vào tháng trước: thế giới không còn xa trí tuệ nhân tạo "khủng khiếp", xã hội cần thời gian để thích nghi và các quy tắc quản lý cũng rất cần thiết.
Sam cũng lo lắng rằng trí tuệ nhân tạo sẽ dẫn đến việc phổ biến thông tin sai lệch, cuộc bầu cử Hoa Kỳ năm 2024 hiện là tâm điểm của OpenAI. "Vì các mô hình lớn có thể được sử dụng để viết mã nên chúng cũng có thể được sử dụng để khởi động các cuộc tấn công mạng".
Microsoft rõ ràng lạc quan hơn về tốc độ phát triển của AGI so với các chuyên gia nói trên.
Bài báo dài 154 trang liên quan đến GPT-4 do Microsoft xuất bản gần đây trực tiếp đề cập đến GPT-4 là "phiên bản đầu tiên của trí tuệ nhân tạo nói chung", bởi vì trong các lĩnh vực toán học, ngôn ngữ, lập trình, luật, y học, tâm lý học... GPT-4 đang hoàn thành Hiệu suất của nhiệm vụ gần với mức độ của con người.
Bài báo này đã gây ra tranh cãi trong giới học thuật. Gary Marcus trực tiếp nói rằng GPT-4 vẫn còn cách AGI rất xa, thậm chí có thể nói là không liên quan gì, nhưng GPT-4 vẫn sẽ mang đến những rủi ro và khả năng gây hại cho xã hội loài người. "Nếu OpenAI thiếu minh bạch và từ chối mã nguồn mở, tốt hơn hết là đóng cửa trực tiếp".
Nhưng thực tế là do chi phí nghiên cứu AI dài hạn cao và nhiều lý do khác, "không có phòng thí nghiệm nghiên cứu hàng đầu nào hoàn toàn minh bạch và về cơ bản không có biện pháp bảo mật nào".
Sam hiểu hầu hết các chuyên gia trong lĩnh vực trí tuệ nhân tạo đều đầy lo lắng, ông cũng đồng ý rằng trí tuệ nhân tạo không thể thuộc quyền quản trị của bất kỳ công ty đơn lẻ nào. Cần phải suy nghĩ lại".
Trong tầm nhìn của Sam, ngày mà AGI được thực hiện đầy đủ là ngày mà mô hình tư bản chủ nghĩa bị phá vỡ. Nhưng lý tưởng này đã dần trôi đi trong thực tế phát triển của OpenAI.
Sự vỡ mộng lý tưởng
Việc thành lập OpenAI là cực kỳ lý tưởng.Vào năm 2015, một nhóm những người khá giả mới nổi ở Thung lũng Silicon đã huy động được 1 tỷ đô la để thành lập một công ty nhằm kiểm tra và cân bằng Google và đảm bảo trí tuệ tổng hợp nhân tạo (AGI, tên đầy đủ Trí tuệ tổng hợp nhân tạo, tức là một hệ thống thông minh có thể thực hiện nhiệm vụ trong các lĩnh vực khác nhau như con người) OpenAI, một tổ chức mã nguồn mở, phi lợi nhuận có lợi cho nhân loại (Open trong tên viết tắt của mã nguồn mở).
Musk là một trong những doanh nhân tích cực nhất trên thế giới trong việc thúc đẩy sự phát triển của AI, đồng thời cũng bày tỏ nỗi sợ hãi về AI mọi lúc mọi nơi.
Đầu năm 2014, Musk đã tweet rằng trí tuệ nhân tạo có thể nguy hiểm hơn vũ khí hạt nhân và chúng ta nên hết sức cẩn thận với nó.
Khi đang nói chuyện với Ashley Vance, tác giả cuốn sách "Người sắt ở thung lũng Silicon", Musk cũng bất ngờ nhảy sang một thứ khiến ông khiếp sợ đến mức không ngủ được: bạn của ông và cũng là nhà sáng lập Google, Larry Page (Larry Page) đang xây dựng một đội quân. của những người máy thông minh nhân tạo có nguy cơ hủy diệt toàn bộ nhân loại. "Page tin rằng máy móc sẽ luôn phục vụ con người. Tôi không lạc quan như anh ấy. Anh ấy có thể vô tình tạo ra thứ gì đó xấu xa".
Đối với Musk, cách tốt nhất để chống lại nỗi sợ hãi có thể là phát triển AI trước những người khác và điều chỉnh AI đủ để khiến anh ấy cảm thấy thoải mái.
Vì vậy, vào năm 2018, khi tiến độ nghiên cứu và phát triển của OpenAI thua xa Google do thiếu vốn, Musk đã đề xuất với đồng chủ tịch Sam để đích thân ông tiếp quản và vận hành OpenAI, nhưng đề xuất này đã bị những người sáng lập OpenAI phản đối. Không lâu sau, Musk rời OpenAI và hủy khoản đầu tư lớn mà ông dự định quyên góp cho OpenAI.
Cùng thời điểm Musk rời đi, Sam chuyển trọng tâm từ Y Combinator sang OpenAI. Theo tài liệu thuế, vị trí của Sam tại OpenAI đã được thay đổi từ đồng chủ tịch thành chủ tịch vào năm 2018, tương đương với việc tiếp quản hoàn toàn việc quản lý OpenAI.
Việc Musk ngừng quyên góp đã khiến dòng tiền vốn đã kém của OpenAI càng trở nên tồi tệ hơn, không thể chi trả cho chi phí đào tạo mô hình cao.
Vào năm 2019, OpenAI đã hoàn toàn đi chệch mục tiêu ban đầu và thành lập OpenAI LP, một tổ chức hoạt động vì lợi nhuận, để tăng chi phí cần thiết cho nghiên cứu và phát triển. Theo The Information, Sam nói rằng anh ấy sẽ không nhận cổ phần trong tổ chức vì lợi nhuận OpenAI mới, tức là anh ấy sẽ không được hưởng lợi từ lợi nhuận của OpenAI.
Chưa đầy 6 tháng sau, Microsoft đã rót 1 tỷ USD vào OpenAI và hai bên đã cùng nhau xây dựng một siêu máy tính để đào tạo một mô hình lớn-mô hình GPT dựa trên mô hình Google Transformer và tạo ra một thế giới bùng nổ khi chuyển sang GPT-3.5 ChatGPT.
Vào đầu năm nay, OpenAI đã chấp nhận khoản đầu tư bổ sung của Microsoft là "đầu tư hàng tỷ đô la trong vòng vài năm" Mặc dù OpenAI có giới hạn lợi nhuận là "trong vòng 100 lần số tiền đầu tư", nhưng giao dịch này chắc chắn sẽ gắn kết OpenAI và Microsoft lại gần nhau hơn.
Sự phát triển của OpenAI đã đi ngược lại ý định ban đầu của Sam.
Sam trước đây đã nhấn mạnh trong một cuộc phỏng vấn rằng anh ấy hy vọng sẽ phá vỡ mô hình của chủ nghĩa tư bản trong tương lai và ngăn chặn một số người độc chiếm lợi ích của công ty. "Nếu AGI thực sự có thể được hiện thực hóa hoàn toàn, tôi có thể hình dung nó sẽ phá vỡ chủ nghĩa tư bản theo nhiều cách khác nhau. Cái mà chúng tôi đang cố gắng thiết kế là một cấu trúc khác với bất kỳ cấu trúc doanh nghiệp nào khác".
Sam cho rằng lĩnh vực trí tuệ nhân tạo không thể chỉ do một công ty nào sở hữu.
OpenAI ngày nay thực sự có khả năng kiểm tra và cân bằng Google, nhưng trong mắt của Musk, Open AI đã trở thành một sự tồn tại cần được kiểm tra và cân bằng.
Musk là người ủng hộ mã nguồn mở. Vào năm 2014, anh đã công bố tất cả các bằng sáng chế của Tesla và tay nắm cửa ẩn thường được sử dụng trên xe điện ngày nay là một phát kiến của Tesla. Vào ngày 31/3, Musk một lần nữa thực hiện lời hứa về mã nguồn mở của mình. Một số mã của Twitter là mã nguồn mở, hầu hết là các thuật toán đề xuất. Musk mã nguồn mở Twitter để làm cho nó trở thành "hệ thống minh bạch nhất trên Internet".
Mới đây, Musk đã bày tỏ sự không hài lòng của mình trên Twitter: "Tôi vẫn rất bối rối, làm thế nào mà một tổ chức phi lợi nhuận mà tôi quyên góp 100 triệu USD lại biến thành một tổ chức vì lợi nhuận với giá trị thị trường là 30 tỷ USD". Làm thế nào để suy nghĩ về việc tách các nguồn lực của tổ chức phi lợi nhuận để thành lập một công ty vì lợi nhuận".
Câu trả lời của ChatGPT khiến anh rất hài lòng: việc bắt đầu kinh doanh vì lợi nhuận dưới vỏ bọc của một tổ chức phi lợi nhuận là vô đạo đức và bất hợp pháp. Bất kỳ nỗ lực nào nhằm lạm dụng đặc quyền của các tổ chức phi lợi nhuận sẽ chỉ dẫn đến việc mất lòng tin của công chúng và thậm chí là hậu quả pháp lý.
Theo The Information, Musk gần đây đã liên hệ với các nhà phát triển trí tuệ nhân tạo để thảo luận về việc thành lập một phòng thí nghiệm nghiên cứu mới để kiểm tra và cân bằng giữa OpenAI và ChatGPT.
Rủi ro có thể đến sớm hơn tưởng tượng
Mọi người từ lâu đã biết rằng AI có khả năng học hỏi mạnh mẽ và khả năng của nó phát triển theo cấp số nhân, nhưng tốc độ phát triển thực sự của AI vẫn nhanh hơn dự kiến.
Jeffrey Hinton, "cha đẻ của trí tuệ nhân tạo" đã đề cập ở trên, cho biết trong một cuộc phỏng vấn gần đây của CBS, "Tôi từng nghĩ rằng chúng ta vẫn cần 20 đến 50 năm nữa trước khi có trí tuệ nhân tạo nói chung (AGI), và bây giờ tôi nghĩ là lần này. nên rút ngắn xuống còn 20 năm".
Ông dự đoán rằng vào cuối năm 2025, tức là hơn hai năm sau, mạng lưới thần kinh sẽ có một số thuộc tính:
1. Có nhận thức tình huống ở cấp độ con người, chẳng hạn như biết rằng bạn là một mạng lưới thần kinh, biết cách bạn tương tác với thế giới...;
2. Vượt trội hơn hầu hết những người khác trong việc viết các kế hoạch hiệu quả và phức tạp;
3. Làm tốt hơn (chuyên nghiệp hơn, công bằng hơn) so với hầu hết những người bình duyệt ngang hàng;
4. Có thể độc lập thiết kế, viết mã và phân phối các ứng dụng hoàn chỉnh (nhưng không phải là ứng dụng phức tạp nhất);
5. Thực hiện tốt hơn hầu hết mọi người trong bất kỳ nhiệm vụ máy tính nào mà bất kỳ nhân viên văn phòng trung bình nào cũng có thể hoàn thành trong 10 phút;
6. Viết truyện ngắn đoạt giải hoặc xuất bản sách 50.000 từ;
7. Tạo một bộ phim mạch lạc dài 20 phút.
Con người tốt sẽ làm tốt hơn trong cả bốn lĩnh vực, mặc dù chậm hơn nhiều so với mạng lưới thần kinh. Chẳng hạn như viết một cuốn tiểu thuyết; thực hiện đều đặn một kế hoạch trong nhiều ngày liên tục; đột phá trong lĩnh vực nghiên cứu khoa học, chẳng hạn như phát kiến các định lý; hoàn thành công việc lao động chân tay thông thường.
"Về lâu dài, quá trình chuyển đổi sang một thế giới siêu trí tuệ có thể là dự án quan trọng nhất, hứa hẹn nhất và đáng sợ nhất trong lịch sử loài người." Sam cũng đã đưa ra cảnh báo trên Twitter vào tháng trước: thế giới không còn xa trí tuệ nhân tạo "khủng khiếp", xã hội cần thời gian để thích nghi và các quy tắc quản lý cũng rất cần thiết.
Sam cũng lo lắng rằng trí tuệ nhân tạo sẽ dẫn đến việc phổ biến thông tin sai lệch, cuộc bầu cử Hoa Kỳ năm 2024 hiện là tâm điểm của OpenAI. "Vì các mô hình lớn có thể được sử dụng để viết mã nên chúng cũng có thể được sử dụng để khởi động các cuộc tấn công mạng".
Microsoft rõ ràng lạc quan hơn về tốc độ phát triển của AGI so với các chuyên gia nói trên.
Bài báo dài 154 trang liên quan đến GPT-4 do Microsoft xuất bản gần đây trực tiếp đề cập đến GPT-4 là "phiên bản đầu tiên của trí tuệ nhân tạo nói chung", bởi vì trong các lĩnh vực toán học, ngôn ngữ, lập trình, luật, y học, tâm lý học... GPT-4 đang hoàn thành Hiệu suất của nhiệm vụ gần với mức độ của con người.
Bài báo này đã gây ra tranh cãi trong giới học thuật. Gary Marcus trực tiếp nói rằng GPT-4 vẫn còn cách AGI rất xa, thậm chí có thể nói là không liên quan gì, nhưng GPT-4 vẫn sẽ mang đến những rủi ro và khả năng gây hại cho xã hội loài người. "Nếu OpenAI thiếu minh bạch và từ chối mã nguồn mở, tốt hơn hết là đóng cửa trực tiếp".
Sam hiểu hầu hết các chuyên gia trong lĩnh vực trí tuệ nhân tạo đều đầy lo lắng, ông cũng đồng ý rằng trí tuệ nhân tạo không thể thuộc quyền quản trị của bất kỳ công ty đơn lẻ nào. Cần phải suy nghĩ lại".
Trong tầm nhìn của Sam, ngày mà AGI được thực hiện đầy đủ là ngày mà mô hình tư bản chủ nghĩa bị phá vỡ. Nhưng lý tưởng này đã dần trôi đi trong thực tế phát triển của OpenAI.
