Thoại Viết Hoàng
Writer
Thung lũng Silicon đang phát triển công nghệ AI có thể mở ra những hình thức sáng tạo, nghệ thuật và y học mới, đồng thời có khả năng quét sạch toàn nhân loại. Như một kỹ sư AI đã cảnh báo: “Chúng tôi đang tạo ra Chúa”.
Chúng tôi đã phát minh ra bánh xe, la bàn, kem bột làm bánh quy sô-cô-la, ghế dài eames và penicillin và e = mc2 và bia đóng gói sáu múi, súng và ********* giả, Pet Rock và Doggles (kính mắt cho chó) và dưa hấu vuông. “Một bước nhỏ cho con người.” Chúng tôi nghĩ ra Lindy Hop, bàn chải đánh răng phát nhạc, khí mù tạt, băng cá nhân phát sáng trong bóng tối, giấy, kính hiển vi và thịt xông khói - thịt xông khói chết tiệt! - và Giáng sinh. “Ma-ma-se, ma-ma-sa, ma-ma-ko-ssa.” Chúng tôi đã đi xuống đáy đại dương và vào quỹ đạo. Chúng tôi hút năng lượng từ mặt trời và phân bón từ không khí. "Để có được ánh sáng." Chúng ta đã tạo ra những món đồ trang trí bãi cỏ hình chim hồng hạc màu hồng tuyệt vời nhất với gói hai chiếc và chỉ có giá 9,99 USD!
Trong một vũ trụ có đường kính ước tính khoảng 93 tỷ năm ánh sáng với 700 triệu tỷ (7 theo sau là 20 số 0) hành tinh—ở đây, trên chấm nhỏ màu xanh lam mà chúng ta gọi là Trái đất này, một người trong chúng tôi đã tạo ra một công cụ gọi là cái quay. Điều đáng kinh ngạc nhất là trong khi cùng một vũ trụ đó ước tính có tuổi đời khoảng 26,7 tỷ năm thì chúng ta đã thực hiện mọi thứ chỉ trong chưa đầy 6.000 năm.
Tất cả những điều này diễn ra trong vòng chưa đầy 200 thế hệ của cuộc đời con người.
Bây giờ chúng tôi vừa tạo ra một cỗ máy mới được tạo thành từ hàng tỷ bóng bán dẫn cực nhỏ và các dây nhôm và đồng ngoằn ngoèo, xoắn và xoay và được kết nối với nhau theo những cách không thể hiểu được. Một chiếc máy có chiều rộng và chiều dài chỉ vài cm.
Tất cả điều này bắt nguồn từ một ý tưởng được hình thành vào những năm 1940 và cuối cùng đã được thực hiện cách đây vài năm. Điều đó có thể giải quyết tất cả các vấn đề của thế giới hoặc tiêu diệt từng con người trên hành tinh chỉ trong tích tắc—hoặc cả hai. Những cỗ máy có khả năng trả lời tất cả những câu hỏi không thể trả lời của chúng ta: Chúng ta có đơn độc trong vũ trụ không? Ý thức là gì? Tại sao chúng ta ở đây? Những cỗ máy tư duy có thể chữa khỏi bệnh ung thư và cho phép chúng ta sống đến 150 tuổi. Thậm chí có thể là 200. Một số ước tính cho rằng máy móc có thể đảm nhiệm tới 30% tổng số công việc trong thập kỷ tới, từ người giao dịch chứng khoán đến tài xế xe tải, kế toán viên và nhân viên tiếp thị qua điện thoại, luật sư, nhân viên kế toán và mọi thứ liên quan đến sáng tạo: diễn viên, nhà văn, nhạc sĩ. , họa sĩ. Thứ gì đó sẽ gây chiến vì chúng ta—và có thể chống lại chúng ta.
Trí tuệ nhân tạo
Những cỗ máy tư duy đang được chế tạo trên một vùng đất rộng 50 dặm vuông mà chúng ta gọi là Thung lũng Silicon bởi vài trăm đàn ông (và một số ít phụ nữ) viết bằng ngôn ngữ mà chỉ họ và máy tính mới có thể nói được. Và cho dù chúng ta có hiểu họ đang làm gì hay không, phần lớn chúng ta đều phó mặc cho những ý tưởng bất chợt do họ tạo ra. Chúng tôi không có tiếng nói về đạo đức đằng sau phát minh của họ. Chúng tôi không có tiếng nói nào về việc liệu nó có nên tồn tại ngay từ đầu hay không. “Chúng tôi đang tạo ra Chúa,” một kỹ sư AI làm việc trên các mô hình ngôn ngữ lớn (LLM) gần đây đã nói với tôi. “Chúng tôi đang tạo ra những cỗ máy có ý thức.”
Hiện tại, chúng ta đã thấy các AI sáng tạo có thể vẽ và vẽ theo bất kỳ phong cách nào có thể tưởng tượng được chỉ trong vài giây. LLM có thể viết truyện theo phong cách của Ernest Hemingway hoặc Bugs Bunny hoặc King James Bible trong khi bạn say sưa với bơ đậu phộng dính trong miệng. Nền tảng có thể xây dựng thơ haiku hoặc giúp hoàn thành một cuốn tiểu thuyết hoặc viết kịch bản. Chúng tôi có nội dung khiêu *** có thể tùy chỉnh, nơi bạn có thể chọn kích cỡ ngực hoặc tư thế quan hệ tình dục của phụ nữ trong bất kỳ môi trường nào—kể cả với bạn. Có phần mềm AI giọng nói có thể chỉ mất vài giây giọng nói của bất kỳ ai và tạo lại hoàn toàn một bản sao gần như không thể phân biệt được của họ đang nói điều gì đó mới. Có AI có thể tạo lại nhạc của nhạc sĩ yêu thích của bạn. Bạn không tin tôi à? Hãy đi và nghe “Not” Johnny Cash hát “Barbie Girl”, Freddie Mercury hát “Thriller” hoặc Frank Sinatra hét lên “Livin’ on a Pray” để thấy tất cả những điều này đáng sợ đến mức nào.
Sau đó là phát hiện ra loại thuốc mới. Những người sử dụng nhà trị liệu AI thay vì con người. Những người khác đang tải lên thư thoại từ những người thân yêu đã qua đời để họ có thể tiếp tục tương tác với họ bằng cách nói chuyện với bản sao AI của cha mẹ hoặc đứa trẻ đã chết. Có những ứng dụng hẹn hò AI (vâng, bạn hẹn hò với đối tác AI). Nó đang được sử dụng để cung cấp thông tin sai lệch trong chính trị, tạo ra các video giả mạo và bản ghi âm giả. Quân đội Hoa Kỳ đang khám phá việc sử dụng AI trong chiến tranh và cuối cùng có thể tạo ra các robot sát thủ tự động. (Không có gì phải lo lắng ở đây!) Mọi người đang thảo luận về việc sử dụng AI để tạo ra các loài động vật hoàn toàn mới (vâng, đó là sự thật) hoặc virus (cũng có thật). Hoặc khám phá các đặc điểm của con người, chẳng hạn như tạo ra một giống siêu chiến binh mạnh hơn và ít đồng cảm hơn, tất cả đều thông qua kỹ thuật di truyền dựa trên AI.
Và chúng tôi đã áp dụng tất cả những công nghệ này với tốc độ đáng kinh ngạc—hầu hết chúng đã được hiện thực hóa chỉ trong vòng chưa đầy sáu tháng.
“Nó làm tôi phấn khích và lo lắng ở mức độ ngang nhau. David Chalmers, giáo sư triết học và khoa học thần kinh tại NYU cho biết, lợi ích của việc này là rất lớn, có thể những hệ thống này sẽ tìm ra cách chữa trị bệnh tật và giải pháp cho các vấn đề như nghèo đói và biến đổi khí hậu, và đó là những lợi ích to lớn”. “Nhược điểm là con người bị mất khả năng dẫn đường hoặc trong trường hợp xấu nhất là bị tiêu diệt hoàn toàn, [điều đó] thật đáng sợ.” Như một báo cáo kinh tế có tính nghiên cứu cao được lưu hành vào tháng trước đã lưu ý: “Có hơn 50-50 khả năng AI sẽ quét sạch toàn bộ nhân loại vào giữa thế kỷ này”. Max Tegmark, nhà vật lý tại Viện Công nghệ Massachusetts, dự đoán 50% khả năng loài người sẽ chết trong vòng 100 năm tới. Những người khác không đặt cơ hội của chúng tôi quá thấp. Vào tháng 7, một nhóm các nhà nghiên cứu, bao gồm các chuyên gia về chiến tranh hạt nhân, vũ khí sinh học, trí tuệ nhân tạo và sự tuyệt chủng, cùng một nhóm “các chuyên gia siêu dự báo”—các nhà tiên đoán có mục đích chung—đã thực hiện phép toán của riêng họ. Các “chuyên gia” suy luận rằng có 20% khả năng xảy ra thảm họa vào năm 2100 và 6% khả năng xảy ra sự kiện giống như tuyệt chủng do AI gây ra, trong khi các nhà siêu dự báo có dự báo tích cực hơn về khả năng xảy ra thảm họa là 9% và chỉ 1%. có khả năng chúng ta sẽ bị xóa sổ khỏi hành tinh.
Nó có cảm giác giống như chọn những con số xổ số tuyệt chủng—và thậm chí với 1% cơ hội, có lẽ chúng ta nên tự hỏi liệu phát minh mới này có đáng để mạo hiểm hay không. Tuy nhiên, câu hỏi xoay quanh Thung lũng Silicon không phải là liệu một kịch bản như vậy có đáng hay không, thậm chí với 1% khả năng bị hủy diệt, mà đúng hơn là liệu nó có thực sự là một điều tồi tệ nếu chúng ta chế tạo một cỗ máy có thể thay đổi cuộc sống con người như chúng ta biết hay không.
Larry Page không phải là một người đàn ông có vẻ ngoài đáng sợ. Khi anh ấy nói, giọng anh ấy rất nhẹ và khàn khàn do chấn thương dây thanh quản, nghe như tiếng lửa trại đang cố nói với bạn điều gì đó. Lần cuối cùng tôi bắt tay anh ấy, cách đây rất nhiều năm, nó mềm như một bánh xà phòng. Trong khi các đồng nghiệp trong ngành của anh ấy, như Mark Zuckerberg và Elon Musk, thường thực hiện các động tác nhào lộn công khai bằng quả cầu lông để thu hút sự chú ý thì Page, người đồng sáng lập Google và là thành viên hội đồng quản trị của Alphabet, đã không thực hiện một cuộc phỏng vấn công khai nào kể từ năm 2015, khi anh ấy đã có mặt trên sân khấu tại một hội nghị. Vào năm 2018, khi Page được triệu tập trước Ủy ban Tình báo Thượng viện để giải quyết vấn đề Nga can thiệp bầu cử, quyền riêng tư trực tuyến và thành kiến chính trị trên các nền tảng công nghệ, chiếc ghế của ông đã trống khi các thượng nghị sĩ tra hỏi những người đồng cấp của ông.
Trong khi Page đứng ngoài ánh đèn sân khấu, anh vẫn thích tham dự các bữa tối và viết thơ về công nghệ và triết học. Một vài năm trước, một người bạn thấy mình ngồi cạnh Page trong một bữa tối như vậy và anh ấy kể cho tôi nghe một câu chuyện: Page đang nói về sự tiến bộ của công nghệ và việc con người cuối cùng sẽ tạo ra “những cỗ máy siêu thông minh”, còn được gọi là “điều tất yếu” như trí tuệ nhân tạo tổng hợp (AGI), là những máy tính thông minh hơn con người, và theo quan điểm của Page, một khi điều đó xảy ra, những cỗ máy đó sẽ nhanh chóng không còn tác dụng gì đối với con người chúng ta và chúng sẽ đơn giản loại bỏ chúng ta.
“Ý anh là gì, loại bỏ chúng tôi?”
Giống như một nhà văn khoa học viễn tưởng đang trình bày ý tưởng câu chuyện về ngày tận thế mới của họ, Page giải thích rằng những robot này sẽ nhanh chóng trở nên vượt trội hơn chúng ta rất nhiều, và nếu chúng ta không còn cần thiết trên trái đất nữa và đó là trật tự tự nhiên của mọi thứ—và tôi xin trích dẫn —“đó chỉ là bước tiếp theo trong quá trình tiến hóa.” Lúc đầu bạn tôi cho rằng Trang đang nói đùa. “Tôi nghiêm túc đấy,” Trang nói. Khi bạn tôi tranh luận rằng đây là một cách nghĩ thực sự ngớ ngẩn về thế giới, Page tỏ ra khó chịu và buộc tội anh ta là “chuyên gia”.
Trong những năm qua, tôi đã nghe một số người kể lại những câu chuyện như thế này về Page. Khi được phỏng vấn trên Fox News hồi đầu năm nay, Musk là một trong số họ. Anh ấy giải thích rằng anh ấy từng thân thiết với Page nhưng họ không còn nói chuyện nữa sau một cuộc tranh luận mà Page cũng gọi Musk là “chuyên gia”. Musk nói: “Tôi nhận thấy rằng Larry chưa coi trọng vấn đề an toàn AI một cách nghiêm túc. “Có vẻ như anh ấy thực sự muốn có siêu trí tuệ kỹ thuật số, về cơ bản là Chúa kỹ thuật số, nếu bạn muốn thì càng sớm càng tốt.”
“Tất cả những người DẪN ĐẦU PHÁT TRIỂN AI hiện nay đều HOÀN TOÀN KHÔNG THÀNH CÔNG trước công chúng.”
Chúng ta hãy dừng lại một chút và giải nén cái này. Larry Page…người sáng lập một trong những công ty lớn nhất thế giới…một công ty sử dụng hàng nghìn kỹ sư hiện đang chế tạo những cỗ máy trí tuệ nhân tạo, khi bạn đọc bài viết này…tin rằng AI sẽ và nên trở nên thông minh, mạnh mẽ và như vậy ghê gớm và…và…rằng một ngày nào đó nó sẽ không cần chúng ta, những con người nhỏ bé ngu ngốc thảm hại nữa…và nó sẽ, và nó nên, BỎ QUA CHÚNG TÔI!“Nếu Larry Page nói, 'Tôi sẽ hủy diệt hành tinh này bằng vũ khí hạt nhân và đánh bom nguyên tử toàn bộ hành tinh chỉ là trật tự tự nhiên của mọi việc và vì vậy chúng ta không nên than khóc về điều đó', tất cả chúng ta sẽ nói, 'Cái quái gì vậy, đó là một ý tưởng tồi tệ!'” Nate Soares, giám đốc điều hành của Viện nghiên cứu trí tuệ máy, một tổ chức phi lợi nhuận tập trung vào việc xác định và quản lý các rủi ro tồn tại tiềm ẩn từ AGI, cho biết. (Trang không trả lời yêu cầu bình luận cho bài viết này.)
Một nhà tư vấn vận động hành lang chính trị nói với tôi: “Tất cả những người dẫn đầu sự phát triển của AI hiện nay đều hoàn toàn thiếu trung thực trước công chúng”. “Tất cả họ chỉ đang chạy đua để trở thành người đầu tiên xây dựng AGI và không biết về hậu quả của những gì có thể xảy ra hoặc họ không quan tâm.” Điều này được thể hiện rõ qua thực tế là phần lớn Thung lũng Silicon hiện đã chuyển sang mục tiêu tạo ra những cỗ máy siêu thông minh.
Rất nhiều người mà tôi đã nói chuyện trong câu chuyện này, bao gồm các triết gia AI, thượng nghị sĩ Hoa Kỳ và các nhà lãnh đạo doanh nghiệp, lo lắng rằng các rào chắn xung quanh AI, chẳng hạn như hiện tại, có thể sụp đổ nhanh hơn chúng ta có thời gian để nhận ra. Một số người dự đoán nó sẽ là thảm họa trong thời gian ngắn. Soares nói: “Tôi nghĩ rất có thể con của bạn tôi sẽ không bao giờ lớn. “Nếu hôm nay tôi có một đứa con, tôi sẽ không mong đợi được chứng kiến sinh nhật lần thứ tám của chúng”. Nói cách khác, theo quan điểm của Soares, sẽ không có ai tồn tại trên trái đất trong vòng thập kỷ tới.
Soares nghe có vẻ cường điệu, và thực sự các chuyên gia khác, như Kevin Kelly, một trong những người sáng lập tạp chí Wired, lập luận rằng xác suất tuyệt chủng của loài người là cực kỳ thấp, và một kịch bản như vậy (nếu có thể) là rất xa. Nhưng ngay cả khi có 1% khả năng thực tế đen tối của Soares có thể xảy ra, liệu nó có đáng để chúng ta lao về phía trước với tốc độ như vậy không?
Tuy nhiên, quả dưa hấu vuông và chiếc thìa sẽ đi vào lịch sử vũ trụ vì có lẽ trong số những phát minh sáng tạo nhất của chúng ta—đừng quên Doggles—những sáng tạo có sức ảnh hưởng lớn nhất của con người, trên thực tế, chính là những câu chuyện của chúng ta. Những câu chuyện đẹp đẽ, đáng kinh ngạc và đáng kinh ngạc mà chúng tôi tưởng tượng và kể lại. Một số về thiện và ác, một số khác về phù thủy và yêu tinh, những người đàn ông nhỏ màu xanh lá cây dễ thương và những người chị kế độc ác. Về gia đình Buendía và một bối cảnh khác ở Trung Địa, sau đó là câu chuyện về một nhà khoa học trẻ tạo ra một sinh vật có trí tuệ trong một thí nghiệm khoa học không chính thống. “Tôi đã nói hip, hop, hippie, hippie, hip hip-hop…” Câu chuyện của chúng tôi được kể bằng lời nói, âm nhạc và nghệ thuật đủ loại. Chúng tôi không chỉ phát minh ra đàn piano mà còn sử dụng nó để sáng tác Nocturne cung Mi giáng trưởng, Op. 9, số 2. Chúng tôi làm những tác phẩm nghệ thuật như The Last Supper, The Thinker, bồn tiểu của Duchamp (tôi đoán bạn có thể gọi đó là nghệ thuật). Và sau đó…HÀNH ĐỘNG! Bố già, Làm điều đúng đắn, The Great British Bake Off, và gần đây hơn là một sự đổi mới thực sự của con người, MILF Manor.
Và chúng tôi đã làm tất cả những điều đó chỉ trong vài trăm năm. Nhưng các nhà lãnh đạo ở Thung lũng Silicon dường như nghĩ rằng đã đến lúc chúng ta nên thuê toàn bộ thời gian và suy nghĩ đó cho AI của họ. “Có những câu hỏi tâm linh thực sự sâu sắc ở đây. Tôi không nghĩ các nhà hoạch định chính sách nên ngại ngùng khi nói về điều đó,” Thượng nghị sĩ Chris Murphy nói với tôi. “Khi bạn bắt đầu giao phần lớn khả năng sáng tạo của con người cho máy móc, thì con người sẽ bị thối rữa.” Murphy là một trong những thượng nghị sĩ thẳng thắn nhất về AI, thường xuyên viết về những mối quan tâm của mình và ông là thành viên của nhiều tiểu ban đang thăm dò xem AI sẽ ảnh hưởng đến xã hội như thế nào. Ông lưu ý rằng theo ước tính của mình, việc con người bắt đầu bị máy tính thay thế khả năng sáng tạo của mình với quy mô đáng kinh ngạc trong vòng hai đến ba năm tới, và điều đó khiến ông sợ hãi. “Nếu chúng ta ngừng tồn tại theo cách hiện tại và chuyển tất cả chức năng của mình sang máy móc thì điều đó sẽ trở thành một sự tồn tại khá trống rỗng.”
Các nhà quảng bá AI nói rằng sản phẩm của họ sẽ chỉ khiến chúng ta sáng tạo hơn. “Nghệ thuật sáng tạo sẽ bước vào thời kỳ hoàng kim, khi các nghệ sĩ, nhạc sĩ, nhà văn và nhà làm phim được tăng cường AI có khả năng hiện thực hóa tầm nhìn của họ nhanh hơn và ở quy mô lớn hơn bao giờ hết,” tỷ phú đầu tư mạo hiểm Marc Andreessen gần đây đã viết trong báo cáo 7.000. -word đã nói rõ về tất cả những cách mà AI sẽ làm cho cuộc sống tốt đẹp hơn (trớ trêu thay, anh ấy không đề cập đến việc nó cũng sẽ khiến anh ấy giàu hơn, vì công ty liên doanh của anh ấy đã đầu tư hàng trăm triệu đô la vào các công ty AI, bao gồm OpenAI, Ambient.ai và Character.ai). Những người mơ mộng về AI, như Andreessen, cho rằng cuộc cách mạng AI sắp tới sẽ phản ánh cuộc Cách mạng Công nghiệp, phá hủy một số công việc nhưng tạo ra những công việc mới ưu việt hơn. (“Kỹ sư nhắc nhở AI” gần đây đã trở thành một công việc được săn đón.)
Quả thực, Cách mạng Công nghiệp đã thúc đẩy năng suất lao động và tăng trưởng kinh tế cao, đưa ra các ngành công nghiệp mới, cải thiện mức sống và giảm bớt nạn đói. Tuy nhiên, nó cũng gây ra điều kiện làm việc tồi tệ, bao gồm cả lao động trẻ em và gia tăng ô nhiễm, dẫn đến các vấn đề sức khỏe và biến đổi khí hậu. Chênh lệch giàu nghèo và bất ổn xã hội gia tăng. Dân số toàn cầu đã tăng gấp 8 lần kể từ thời kỳ đó, cho thấy tiềm năng gián đoạn cao hơn đáng kể. Quan trọng nhất là Cách mạng Công nghiệp diễn ra trong khoảng 80 năm; cuộc cách mạng AI sẽ diễn ra trong hai hoặc ba năm nữa.
Đối với một số người thì đã quá muộn. Reddit tràn ngập các bài đăng của những người đã coi công việc viết lách của họ là người viết quảng cáo hoặc nhà tiếp thị được giao cho AI. “Tôi đã mất khách hàng chính vào tay ChatGPT,” một nhà văn tự do đã đăng vào đầu năm nay. “Tôi cần phải đào tạo lại cho một nghề nghiệp mới.” (Nghề nào bạn có thể đào tạo lại để không bị AI đảm nhận vẫn còn là vấn đề tranh luận — cho đến nay tất cả những gì tôi nghĩ ra là thợ sửa ống nước, chăm sóc người già và người viết lời nhắc về AI.) Trong khi một số ở các nước đang phát triển đang nhanh chóng phát triển bị mất việc, có một kịch bản là mọi người ở Ấn Độ và Philippines sẽ chọn công việc viết nhanh đơn độc đó và sử dụng AI để viết truyện và minh họa. Google đã bắt đầu quảng cáo cho The New York Times, The Washington Post và The Wall Street Journal về công cụ AI mới của mình để tạo ra các câu chuyện tin tức. Những người kiếm sống bằng nghề lồng tiếng cho sách, TV và podcast đã thấy loại hình nghệ thuật của họ bị thay thế bởi hàng loạt công ty khởi nghiệp về AI. Và những nghệ sĩ mới bắt đầu đến trường nghệ thuật để học hội họa, minh họa và thiết kế đồ họa đang suy nghĩ lại về việc phải làm gì với tương lai của mình.
Paul Kedrosky, một nhà đầu tư và nhà nghiên cứu kinh tế, đồng sáng lập của SK Ventures, công ty đầu tư vào AI và công nghệ, cho biết: “Chúng ta sẽ không hài lòng khi máy móc chiếm lấy khả năng sáng tạo của chúng ta. “Ngôn ngữ và sự sáng tạo là nền tảng của xã hội và chúng ta không nên từ bỏ quyền kiểm soát máy móc, ngay cả khi có thể. Đó là điều khiến xã hội trở nên bổ ích và có giá trị.” Kedrosky không hoàn toàn chống AI; anh ấy tin rằng chúng ta nên xây dựng những thứ giúp “con người phát triển hơn là khiến con người trở nên dư thừa” và anh ấy đầu tư vào những loại sản phẩm AI đó theo đó. Kedrosky và Murphy (và nhiều người khác mà tôi đã nói chuyện cùng) lập luận rằng chỉ vì chúng ta có thể không có nghĩa là chúng ta nên làm - đặc biệt là khi nói đến điều gì đó cơ bản như sự sáng tạo. Họ cho rằng chúng ta cần điều chỉnh những cỗ máy này càng nhanh càng tốt.
Trong khi các Andreessen của thế giới công nghệ cho rằng các quy định sẽ cản trở sự đổi mới, Murphy và một loạt nghị sĩ khác đang hy vọng thành lập một cơ quan quản lý hoàn toàn mới, chẳng hạn như việc thành lập FCC sau khi đài phát thanh được phát minh, hay Ủy ban Điều tiết Hạt nhân để điều tiết năng lượng hạt nhân và vô số cơ quan khác đã ra đời cùng với sự ra đời của các phát minh mới. Kedrosky nói: “Công nghệ không phải là sức mạnh tự nhiên, nó không phải là một tính năng phổ quát. “Nói rằng việc ngăn chặn nó không phải là trách nhiệm của chúng tôi chỉ là một sự thoái thác trách nhiệm theo chủ nghĩa hư vô.”
Năm 1965, nhà thống kê I.J. Tốt, khi hình dung thế giới sẽ trông như thế nào khi chúng ta tạo ra những cỗ máy siêu thông minh, nói rằng những cỗ máy thứ hai trở nên thông minh hơn con người, “chắc chắn sẽ có một vụ nổ trí thông minh” khi máy móc nhanh chóng tạo ra những cỗ máy thông minh hơn và rằng “trí thông minh của con người sẽ bị bỏ lại rất xa.” Chúng ta có thể hiểu những gì chúng đang làm giống như cách thú cưng của chúng ta hiểu lời trong một cuốn sách mà chúng ta đọc to. “Vì vậy,” Good viết, “chiếc máy siêu thông minh đầu tiên là phát minh cuối cùng mà con người cần tạo ra.”
Vào năm 2017, một bài báo ít người biết đến nhưng mang tính đột phá có tựa đề “Tất cả những gì bạn cần là sự chú ý” đã được trình bày tại hội nghị Hệ thống xử lý thông tin thần kinh ở Long Beach, California. Nhưng ít người trong số khán giả biết rằng bài báo do một nhóm nhỏ kỹ sư của Google viết ra nhằm mục đích thay đổi mọi thứ trong lĩnh vực trí tuệ nhân tạo. Illia Polosukhin, một kỹ sư gốc Ukraine, người thực hiện nghiên cứu và có tên trong bài báo, giải thích với tôi rằng bước đột phá là bắt đầu nghĩ về AI như một “máy biến áp” (thuật ngữ mượn từ bộ phim Transformers), nơi máy móc hoạt động. giống bộ não con người hơn và ít giống máy tính hơn, để tạo ra văn bản giống con người hoặc đưa ra dự đoán. “Lần đầu tiên chúng tôi thử nó, nó không tệ. Nó hoạt động tốt một cách đáng ngạc nhiên. Nó giống như nhìn thấy dấu hiệu đầu tiên của sự sống vậy,” Polosukhin nói với tôi. “Mặc dù nó còn nguyên thủy nhưng nó thực sự rất mạnh mẽ.” Trong vài năm tới, số công ty khởi nghiệp về AI tăng vọt. Một giám đốc sản phẩm ở Thung lũng Silicon nói với tôi: “Chỉ trong một ngày, chúng ta đang thấy nhiều sản phẩm và tiến bộ liên quan đến AI hơn so với một năm một thập kỷ trước”. “Gần như không thể theo kịp.” Hiện có hơn 14.700 công ty khởi nghiệp AI chỉ riêng ở Hoa Kỳ (và ước tính có khoảng 58.000 công ty trên toàn thế giới). Và các công ty AI hàng đầu đang huy động được 3 tỷ USD tài trợ mỗi tháng, theo Crunchbase. Năm ngoái, doanh thu AI chiếm 51,27 tỷ USD của nền kinh tế toàn cầu. Tám năm nữa (nếu chúng ta tồn tại được lâu như vậy) PwC dự đoán AI sẽ chiếm 15,7 nghìn tỷ USD của nền kinh tế toàn cầu — gấp hơn ba lần toàn bộ GDP của Nhật Bản. Do sự tăng trưởng tài chính đáng kinh ngạc, hầu hết mọi người trong lĩnh vực công nghệ hiện đang kêu gọi làm việc trong lĩnh vực này. Thung lũng Hayes của San Francisco được mệnh danh là Thung lũng não vì hiện tại nơi đây là nơi đặt trụ sở của hàng chục ngôi nhà của hacker AI giống như xã. Một trong số đó, được gọi là HF0, là một dinh thự ước tính trị giá 16 triệu USD ngoài Quảng trường Alamo, nơi người sáng lập, Dave Fontenot, cung cấp nhà ở, thực phẩm, dịch vụ giặt là và 500.000 USD tiền tài trợ để đổi lấy phí sở hữu 2,5% đối với bất cứ thứ gì được tạo ra ở đó. Một trong những mối lo ngại lớn nhất đối với các tập thể này và với sự phát triển AI nói chung là nó đang đi theo con đường của hầu hết sự phát triển công nghệ trước đây. Nói cách khác, chủ yếu là các anh em công nghệ làm việc trong lĩnh vực này và rất ít phụ nữ.“Thật là điên rồ,” May Habib, người đồng sáng lập và Giám đốc điều hành của Writer — một công ty khởi nghiệp về AI giúp mọi người ở các công ty viết cùng một phong cách và giọng nói — là một trong những trường hợp ngoại lệ. “Không có phụ nữ trong AI.” Habib, người chuyển đến Canada vào những năm 1990 theo chương trình tị nạn Lebanon, nói rằng hầu hết các công việc hàng đầu trong C-Suite của cô đều là phụ nữ, nhưng điều đó khác xa với tiêu chuẩn tại các công ty AI ở Thung lũng. Cô lo lắng rằng quan điểm lấy nam giới làm trung tâm từ những người đàn ông này - thường là nam giới trẻ - sẽ có tác động sâu rộng đến xã hội về lâu dài, bao gồm cả những người mẫu có thành kiến lớn. Habib nói với tôi: “Phản ứng của giới công nghệ là con người có thành kiến, và AI cũng vậy. Tệ hơn nữa, Habib lưu ý, tất cả họ đều rao giảng cùng một câu chuyện cũ ở Thung lũng Silicon rằng họ đang làm việc trong không gian này để biến thế giới thành một nơi tốt đẹp hơn, nhưng cuối cùng, tất cả chỉ vì tiền. Habib nói với tôi: “Bạn nhìn xung quanh AI ngày nay và mọi người đều là những nhà tư bản AI có tính sáng tạo”. “Cách họ bán hàng, những gì họ xây dựng, tầm nhìn của họ về tương lai, tất cả đều xoay quanh tiền bạc.”
Mặc dù Murphy không ở Thung lũng, nhưng từ những gì anh ấy thấy, anh ấy không thể đồng ý hơn. Ông nói: “Tôi nghĩ sẽ có một số tiền khổng lồ đằng sau AI, mọi người ở Thung lũng Silicon sẽ cố gắng xây dựng nó nhanh nhất có thể chứ không làm những gì nhất thiết phải an toàn cho nhân loại”. Không nơi nào luận điểm đó đúng hơn Tòa nhà Tiên phong ở San Francisco, quê hương của OpenAI.
Sam Altman là một vị thần. Một đấng cứu thế AI. Anh ấy được xuề xòa trong các bài báo. Chấm trong các cuộc phỏng vấn. Mùa xuân này, Altman đã đi khắp thế giới để gặp gỡ các tổng thống, thủ tướng và thủ tướng của hơn hai chục quốc gia trên sáu lục địa, bao gồm Pháp, Anh, Nigeria, Israel, Các Tiểu vương quốc Ả Rập Thống nhất, Nhật Bản, Singapore và Indonesia, để thuyết giảng. lợi ích của AI, cụ thể nhất là công ty mà ông điều hành, OpenAI.
Nhưng Altman không phải lúc nào cũng được yêu mến theo cách này. Ví dụ: một thập kỷ trước, khi mọi người có thể kiếm được huy hiệu trên ứng dụng Foursquare (như huy hiệu “bender”, dành cho việc đi chơi bốn đêm liên tiếp), huy hiệu “douchebag” là lời ca ngợi Altman, có màu hồng và xanh lục để ca ngợi Altman. phù hợp với chiếc áo sơ mi polo màu hồng và màu xanh lá cây (vâng, hai chiếc cùng một lúc) mà Altman mặc trên sân khấu tại một hội nghị của Apple. Trong nhiều năm trên Twitter, lời khuyên của anh ấy giống như một chiếc bánh quy may mắn từ Panda Express— “rủi ro thực sự trong cuộc sống là sự hối tiếc”—những lời tuyên bố thường được truyền đi giữa các nhà điều hành công nghệ với sự bối rối và biểu tượng cảm xúc trợn tròn mắt. Gần đây, khi anh ấy đăng một bức ảnh của anh ấy được bao quanh bởi đám đông đang chụp ảnh anh ấy, đang nhìn anh ấy một cách say mê, một người trong cuộc ở Thung lũng đã nói, “Anh ấy trông giống như nghĩ mình là Gandhi.”
OpenAI đã trở thành trung tâm nóng bỏng của cuộc chạy đua vũ trang AI và công ty hiện phải đối mặt với một tình huống bất khả thi: phát triển công nghệ để đi trước hàng loạt đối thủ cạnh tranh trong khi không hủy diệt loài người trong quá trình này.
Khi tôi nói chuyện với Mira Murati, giám đốc công nghệ của OpenAI, về điều này, cô ấy thừa nhận những gì đang bị đe dọa cũng như những gì thế giới sẽ đạt được từ tiến bộ công nghệ quan trọng nhất trong lịch sử loài người. Và trong khi AI Gandhi đang có mặt trong chuyến du lịch vòng quanh thế giới của mình thì Murati là người được giao nhiệm vụ giải quyết những thách thức thực sự trong việc xây dựng công nghệ có thể cứu hoặc hủy diệt thế giới cũng như bất kỳ tình huống nào ở giữa. Murati nói với tôi: “Tôi chắc chắn lo lắng về tốc độ tiến bộ công nghệ, đặc biệt vì nó liên quan đến khả năng thích ứng của xã hội với những thay đổi này. “Chúng tôi lo lắng về điều này hàng ngày, đó là lý do tại sao chúng tôi ở đây. Nhưng tôi cũng nghĩ rằng thật vô ích khi nghĩ rằng cách để đạt được kết quả tốt có thể nói là làm chậm lại hoặc ngừng đổi mới.” Cô nói thêm: “Ngay cả khi tôi nghỉ việc, ngay cả khi một loạt đồng nghiệp của tôi nghỉ việc, tiến bộ công nghệ vẫn sẽ tiến lên”.
Không giống như Marc Andreessens của thế giới, những người hành động như thể AI sẽ chỉ có cầu vồng, ánh nắng và bụi thần tiên, Murati, trước sự ngạc nhiên của tôi, thừa nhận rằng mọi thứ sẽ hoàn toàn không ổn với AI, nhưng công việc của cô ấy là đảm bảo rằng khi nào nếu có thì chúng có thể được ngăn chặn và sửa chữa nhanh nhất có thể. “Vì vậy, tôi không nghĩ mục tiêu là hoàn toàn không có rủi ro,” cô nói. “Đó là giảm thiểu rủi ro trong thời gian ngắn và có thể phản ứng rất nhanh khi nó xảy ra.” Murati lưu ý rằng công ty gần đây đã chi 1 tỷ USD để thực hiện nghiên cứu cần thiết nhằm đảm bảo các giải pháp của OpenAI không hủy diệt hành tinh này, mặc dù không có gì đảm bảo. (Altman gần đây đã nói điều gì đó tương tự với một tiểu ban Thượng viện, lưu ý rằng "Tôi nghĩ nếu công nghệ này gặp trục trặc, nó có thể rất sai lầm. Và chúng tôi muốn lên tiếng về điều đó.")
OpenAI cũng không ngần ngại vạch ra các mục tiêu của mình với tư cách là một công ty, đó là chế tạo những cỗ máy có trí tuệ siêu phàm như huyền thoại, những chiếc máy tính thông minh hơn con người theo cấp số nhân. Điều này có nghĩa là LLM sẽ phải mở rộng ra ngoài ngôn ngữ và bắt đầu nắm vững nhận thức và lý luận, đồng thời bắt đầu theo đuổi chén thánh của AI, đó là khả năng học tập tự giám sát, tự nhận thức và tự hoàn thiện bản thân. (Không rõ liệu ý thức có phải là yêu cầu bắt buộc để đạt được các cột mốc này hay không.)
Altman tin rằng, như ông đã nói với tờ Times, rằng AGI sẽ mang lại cho thế giới sự thịnh vượng và giàu có mà chưa ai từng thấy. Và Altman dường như không thể ngăn cản được nỗ lực trở thành người đầu tiên làm được điều đó. Hiện tại, công ty chắc chắn đang hướng tới mục tiêu được yêu thích và đi đầu. Khi Altman đến trước Quốc hội vào đầu năm nay để nói về tiềm năng của AI, một số người trong ngành cảm thấy ông đang thiếu trung thực với những lời kêu gọi điều chỉnh của mình. “Nó giống như mời người đứng đầu các nhà sản xuất súng đến trước Quốc hội để nói về mức độ an toàn của súng đối với xã hội,” một giám đốc điều hành AI nói với tôi về Altman. Quả thực, hành động của anh ấy đôi khi khác với lời nói thốt ra từ miệng. Trong khi Altman đang thực hiện chuyến công du vòng quanh thế giới vào tháng 6 để nói về sự cần thiết của “quy định AI toàn cầu”, thì đằng sau hậu trường, theo các tài liệu mà Time thu được, ông đã mạnh mẽ thúc ép Liên minh Châu Âu giảm bớt Đạo luật AI của mình, đặc biệt là không phân loại OpenAI. được coi là “rủi ro cao”, có thể khiến công ty phải tuân theo các yêu cầu pháp lý nghiêm ngặt—bao gồm tính minh bạch, khả năng truy xuất nguồn gốc và sự giám sát của con người.
Công bằng mà nói với Altman và OpenAI, hầu hết các nhà lãnh đạo ở Thung lũng Silicon được triệu tập trước Quốc hội đều nói rằng họ cần phải được quản lý — ahem, Mark Zuckerberg — trong khi trên thực tế, ở hậu trường, họ chiến đấu quyết liệt với nó. “Tôi nghĩ thật dễ dàng để đưa ra những tuyên bố rộng rãi về việc muốn được quản lý, biết chi tiết về ma quỷ,” Murphy nói về tất cả các công ty công nghệ ở Thung lũng Silicon đều nói về quy định và AI. “Họ sẽ chơi một trò chơi lớn khi nói đến quy định và nhược điểm nghiêm trọng tiềm ẩn, nhưng cuối cùng, họ sẽ kiếm tiền từ việc này một cách lớn và nhanh nhất có thể.”
Đối với Altman, điều đó giống như thể anh ấy đang cố gắng chạy marathon trên lưỡi dao cạo. Anh ấy cần sự hỗ trợ của các doanh nghiệp lớn để phát triển OpenAI và mở rộng, nhưng đồng thời, AI sẽ xóa sạch hàng triệu việc làm trên toàn thế giới một cách nhanh chóng. Ví dụ: các trung tâm cuộc gọi ở Ấn Độ chiếm 8% GDP của quốc gia đó. Ở Brazil, tỷ lệ này là 6,3%. Hoa Kỳ, mặc dù đã thuê hàng triệu công việc đó ở những nơi như Ấn Độ và Brazil, nhưng vẫn tuyển dụng 3,4 triệu người làm việc tại các trung tâm cuộc gọi. Tổng đài có thể là công việc đầu tiên bị thay thế hoàn toàn bởi AI và hậu quả có thể rất thảm khốc. “Lấy đi 8% GDP của một quốc gia và bạn nghĩ điều gì sẽ xảy ra?” Kedrosky nói. “Bạn sẽ nhìn thấy những chiếc chĩa ba trên đường phố.”
CÂU HỎI xung quanh Thung lũng Silicon không phải là liệu một kịch bản như vậy có đáng hay không, ngay cả với 1% CƠ HỘI, mà đúng hơn, liệu đó có thực sự là một điều tồi tệ nếu chúng ta chế tạo một cỗ máy THAY ĐỔI CUỘC SỐNG CON NGƯỜI NHƯ CHÚNG TA BIẾT NÓ
Một Giám đốc điều hành AI mà tôi đã nói chuyện đã nói rằng CIO của các công ty Fortune 500 rất lên tiếng về việc cắt giảm lực lượng lao động của họ xuống một nửa trong những năm tới—sau đó có thể sẽ cắt giảm một nửa nhiều lần, cho đến khi một số ít nhân viên giám sát LLM phải làm việc đó. cùng một công việc mà hàng ngàn người đã từng làm. Theo báo cáo của nhà cung cấp dịch vụ việc làm Challenger, Grey & Christmas, chuyên theo dõi tình trạng sa thải trên khắp nước Mỹ, 5% số người bị sa thải trong quý đầu tiên của năm nay đã mất việc vì AI. Hiện tại, mặc dù con số đó không đáng kinh ngạc theo bất kỳ tỷ lệ nào, nhưng điều đáng lo ngại là đây là lần đầu tiên trong lịch sử 30 năm, báo cáo của công ty cho rằng AI là lý do để sa thải nhân viên.
Murati dường như thực sự tin rằng nếu OpenAI làm đúng điều này, những mặt tích cực có thể cứu nhân loại khỏi chính nó, giải quyết một danh sách dài các vấn đề từ nạn đói thế giới đến giáo dục cho đến khủng hoảng năng lượng. “Có vẻ như khi vấn đề rủi ro hiện hữu này xuất hiện, nó làm giảm tầm quan trọng của những rủi ro hiện tại mà chúng ta đang đối mặt ngày nay mà chúng ta chưa giải quyết được và đòi hỏi nhiều sự tham gia cũng như sự chú ý từ mọi người trong [AI”. ] không gian,” cô nói.
Tuy nhiên, để đề phòng, Altman dường như có một kế hoạch dự phòng: Như anh ấy đã nói với The New Yorker vào năm 2016, anh ấy có “súng, vàng, kali iodua, thuốc kháng sinh, pin, nước, mặt nạ phòng độc từ Lực lượng Phòng vệ Israel và một số tiền lớn.” mảnh đất ở Big Sur mà tôi có thể bay tới.” Bạn biết đấy, đề phòng trường hợp thế giới bị phá hủy bởi AI hoặc virus tổng hợp.
“Trí tuệ nhân tạo hoàn chỉnh có thể báo hiệu sự kết thúc của loài người.” “AI sẽ cứu thế giới.” “Nguy cơ xảy ra điều gì đó nguy hiểm nghiêm trọng là trong khoảng thời gian 5 năm.” “Dễ dàng tưởng tượng ra tất cả những điều có thể sai lầm hơn là tưởng tượng những điều đúng đắn, và rất nhiều điều sẽ diễn ra đúng đắn.” “Với AI, chúng tôi đang triệu hồi con quỷ.” “Nhân loại đang bị hủy diệt do con đường AI mà chúng ta đang đi, tôi không tin điều đó.” “Chúng ta cần phải đóng cửa tất cả.”
Tất cả các quan điểm hoàn toàn khác nhau về cách điều này sẽ diễn ra. Tất cả đều từ các chuyên gia hiểu rõ nó hơn bất cứ ai. Đối với tôi, đây là điều gây tò mò nhất về những người làm việc trong lĩnh vực AI: Họ đều đọc (hoặc viết) cùng một nghiên cứu về AI; nghe (hoặc nói chuyện) cùng một podcast; tham dự (hoặc phát biểu tại) các hội nghị tương tự. Tuy nhiên, một số là kẻ hủy diệt AI và những người khác là kẻ mơ mộng về AI.
Kelly, người đồng sáng lập Wired, tin rằng mọi việc hầu như sẽ diễn ra tốt đẹp. Nhưng ngay cả như vậy, anh ấy cũng không chắc cuối cùng mọi chuyện sẽ diễn ra như thế nào. Ông giải thích: “Về cơ bản có bốn loại mối quan hệ mà chúng ta sẽ có với robot và AI. “Đầu tiên là chúng tôi đối xử với chúng như thú cưng. Hai là chúng ta coi họ như những đối tác, làm việc cùng với họ. Sau đó, phiên bản đáng sợ nhất là chúng ta đối xử với họ như nô lệ - và kiểu quan hệ đó có tính ăn mòn vô cùng đối với người chủ.” (Điều này giống như việc những đứa trẻ mới biết đi của chúng ta la mắng Alexa và Siri vì đó là cách cha mẹ chúng nói chuyện với những chiếc máy này, chỉ ở quy mô lớn hơn nhiều.) Cuối cùng, kịch bản cuối cùng là chúng ta đối xử với chúng như những vị thần. “Đó là những gì những kẻ diệt vong AI làm. Họ tin rằng AI sẽ tự biến mình thành một vị thần, với sức mạnh thần thánh, và trong một hành động tối cao đen tối, các vị thần sẽ áp đảo chúng ta và chiếm lấy vị trí của chúng ta. Vì vậy, bây giờ chúng tôi phải xoa dịu các vị thần AI và đảm bảo rằng chúng tôi 'liên kết' để họ đối xử tử tế với chúng tôi ”.
Đối với những người diệt vong, đó dường như là trường hợp tốt nhất.
Những người như Soares, từ Viện Nghiên cứu Trí tuệ Máy móc, lo lắng rằng ngày tận thế đã đến gần và có vô số cách để chúng ta có thể bị tiêu diệt. Có “Kịch bản Grey Goo”, trong đó các nanobot tự sao chép được tạo ra bởi AI với mục đích tiêu thụ các tế bào hoặc mầm bệnh có hại một cách vô tình (hoặc cố ý) vượt khỏi tầm kiểm soát, sao chép không ngừng cho đến khi chúng biến thành một chất được gọi là chất nhờn xám. Một ví dụ khác là “Vấn đề kẹp giấy” nổi tiếng, trong đó AI được hướng dẫn tối đa hóa việc sản xuất kẹp giấy và không ngừng tiếp tục nhiệm vụ của mình, cuối cùng biến toàn bộ hành tinh thành những chiếc kẹp giấy và loại bỏ con người cản đường nó. Theo bài viết của Eliezer Yudkowsky, một nhà nghiên cứu AI, ngay cả một yêu cầu tưởng chừng như vô hại về một bản sao của quả dâu tây cũng có thể giết chết tất cả chúng ta trong tích tắc. Tương tự, nếu chúng ta yêu cầu AI giải quyết vấn đề biến đổi khí hậu, nó có thể loại bỏ con người như một giải pháp đơn giản nhất. (Thành thật mà nói, chúng tôi sẽ có điều đó sắp xảy ra.)
Có rất nhiều tình huống mà chúng ta thậm chí không thể tưởng tượng được nếu không làm đúng điều này. Điều tôi nhận ra sau khi nói chuyện với hàng chục người về phát minh mới này và những gì nó có thể mang lại là, đối với hầu hết họ, nếu bạn làm việc trong lĩnh vực này đủ lâu, cuối cùng bạn sẽ thấy mọi chuyện có thể trở nên sai lầm khủng khiếp như thế nào—và nó làm bạn sợ chết khiếp.
Khi Dự án Nghiên cứu Mùa hè về Trí tuệ Nhân tạo ở Dartmouth năm 1956 được tổ chức, nơi thuật ngữ AI lần đầu tiên được đặt ra, tất cả những người tham dự đều nhìn thấy những mặt tích cực. Trong những thập kỷ tiếp theo, tất cả họ đều nhận ra những nhược điểm tiềm ẩn to lớn. Marvin Minsky, người đã cống hiến toàn bộ sự nghiệp của mình cho AI và phát triển những cỗ máy siêu thông minh, luôn lạc quan về những gì nó có thể làm được nhưng cũng lo lắng rằng AI có thể trở nên đủ mạnh để gây ra mối đe dọa cho nhân loại. Gần đây, ngày càng nhiều người, như Geoffrey Hinton, người đã làm việc trong lĩnh vực AI hơn 50 năm và những người sáng lập Anthropic, một công ty AI được thành lập bởi một nhóm cựu kỹ sư OpenAI, đã lo sợ trước những gì AI có thể làm. đến thế giới. (Anthropic vẫn tiếp tục xây dựng chatbot AI của riêng mình, được gọi là Claude, hy vọng nó sẽ không tiêu diệt loài người.)
Điều này đưa tôi trở lại với tất cả những dự đoán đó từ các chuyên gia. Bạn biết đấy, những điều có vẻ quá siêu thực để có thể là sự thật. Những người nói rằng chúng ta có 100% nguy cơ tuyệt chủng do AI trong thập kỷ tới, hoặc những người khác cho chúng ta tỷ lệ cược cao hơn: 50% trong 100 năm; 20 phần trăm, 9 hoặc thậm chí 1. Bạn không cần phải quá cường điệu để biết dù muốn hay không, tất cả chúng ta đều bị kéo qua lưỡi dao cạo đó. Suy cho cùng, con người hiện đại chỉ mới 6.000 tuổi. Chỉ 200 thế hệ. Chưa hết, chỉ trong thế kỷ trước – chỉ trong hơn 1% thời gian đó – chúng ta đã phát triển vũ khí hạt nhân, vũ khí sinh học và giờ là vũ khí tự động. Máy tính cá nhân đã khoảng 50 tuổi. IPhone, 16. AI ngày nay, năm.
Nhiều nghiên cứu của chính phủ được công bố trong 78 năm qua, kể từ khi quả bom nguyên tử đầu tiên được kích nổ ở New Mexico, đã ước tính rằng một cuộc chiến tranh hạt nhân toàn diện sẽ giết chết hàng trăm triệu người, và mùa đông hạt nhân tiếp theo, theo lý thuyết là một thời kỳ giá lạnh kéo dài. và bóng tối do bụi phóng xạ từ vụ nổ gây ra có thể giết chết hàng trăm triệu người nữa. Nhiều nhất là vài tỷ người có thể chết, nhưng không có kịch bản nào mà toàn bộ loài người chúng ta sẽ biến mất. Điều tương tự cũng đúng với vũ khí sinh học và chiến tranh hóa học, có thể giết chết hàng nghìn người. Súng, bom, tia laser, bệnh tật và nạn đói.
Tuy nhiên, trí tuệ nhân tạo được cho là công nghệ đầu tiên có thể xóa sổ tất cả mọi người trên hành tinh. Hãy tự làm phép tính: Bạn có thực sự nghĩ rằng chúng ta sẽ sống thêm được 6.000 năm nữa không? 200 thế hệ nữa? Như Kedrosky đã nói, nếu chúng ta tiếp tục vượt qua lưỡi dao cạo này thì tỷ lệ cược đơn giản là không thể tránh khỏi: “Nếu có đủ thời gian và đủ số lần tung đồng xu AI, cuối cùng mọi thứ sẽ bùng nổ.”
Tham khảo bài viết gốc tại đây:
Trong một vũ trụ có đường kính ước tính khoảng 93 tỷ năm ánh sáng với 700 triệu tỷ (7 theo sau là 20 số 0) hành tinh—ở đây, trên chấm nhỏ màu xanh lam mà chúng ta gọi là Trái đất này, một người trong chúng tôi đã tạo ra một công cụ gọi là cái quay. Điều đáng kinh ngạc nhất là trong khi cùng một vũ trụ đó ước tính có tuổi đời khoảng 26,7 tỷ năm thì chúng ta đã thực hiện mọi thứ chỉ trong chưa đầy 6.000 năm.
Tất cả những điều này diễn ra trong vòng chưa đầy 200 thế hệ của cuộc đời con người.
Bây giờ chúng tôi vừa tạo ra một cỗ máy mới được tạo thành từ hàng tỷ bóng bán dẫn cực nhỏ và các dây nhôm và đồng ngoằn ngoèo, xoắn và xoay và được kết nối với nhau theo những cách không thể hiểu được. Một chiếc máy có chiều rộng và chiều dài chỉ vài cm.
Tất cả điều này bắt nguồn từ một ý tưởng được hình thành vào những năm 1940 và cuối cùng đã được thực hiện cách đây vài năm. Điều đó có thể giải quyết tất cả các vấn đề của thế giới hoặc tiêu diệt từng con người trên hành tinh chỉ trong tích tắc—hoặc cả hai. Những cỗ máy có khả năng trả lời tất cả những câu hỏi không thể trả lời của chúng ta: Chúng ta có đơn độc trong vũ trụ không? Ý thức là gì? Tại sao chúng ta ở đây? Những cỗ máy tư duy có thể chữa khỏi bệnh ung thư và cho phép chúng ta sống đến 150 tuổi. Thậm chí có thể là 200. Một số ước tính cho rằng máy móc có thể đảm nhiệm tới 30% tổng số công việc trong thập kỷ tới, từ người giao dịch chứng khoán đến tài xế xe tải, kế toán viên và nhân viên tiếp thị qua điện thoại, luật sư, nhân viên kế toán và mọi thứ liên quan đến sáng tạo: diễn viên, nhà văn, nhạc sĩ. , họa sĩ. Thứ gì đó sẽ gây chiến vì chúng ta—và có thể chống lại chúng ta.
Trí tuệ nhân tạo
Những cỗ máy tư duy đang được chế tạo trên một vùng đất rộng 50 dặm vuông mà chúng ta gọi là Thung lũng Silicon bởi vài trăm đàn ông (và một số ít phụ nữ) viết bằng ngôn ngữ mà chỉ họ và máy tính mới có thể nói được. Và cho dù chúng ta có hiểu họ đang làm gì hay không, phần lớn chúng ta đều phó mặc cho những ý tưởng bất chợt do họ tạo ra. Chúng tôi không có tiếng nói về đạo đức đằng sau phát minh của họ. Chúng tôi không có tiếng nói nào về việc liệu nó có nên tồn tại ngay từ đầu hay không. “Chúng tôi đang tạo ra Chúa,” một kỹ sư AI làm việc trên các mô hình ngôn ngữ lớn (LLM) gần đây đã nói với tôi. “Chúng tôi đang tạo ra những cỗ máy có ý thức.”
Hiện tại, chúng ta đã thấy các AI sáng tạo có thể vẽ và vẽ theo bất kỳ phong cách nào có thể tưởng tượng được chỉ trong vài giây. LLM có thể viết truyện theo phong cách của Ernest Hemingway hoặc Bugs Bunny hoặc King James Bible trong khi bạn say sưa với bơ đậu phộng dính trong miệng. Nền tảng có thể xây dựng thơ haiku hoặc giúp hoàn thành một cuốn tiểu thuyết hoặc viết kịch bản. Chúng tôi có nội dung khiêu *** có thể tùy chỉnh, nơi bạn có thể chọn kích cỡ ngực hoặc tư thế quan hệ tình dục của phụ nữ trong bất kỳ môi trường nào—kể cả với bạn. Có phần mềm AI giọng nói có thể chỉ mất vài giây giọng nói của bất kỳ ai và tạo lại hoàn toàn một bản sao gần như không thể phân biệt được của họ đang nói điều gì đó mới. Có AI có thể tạo lại nhạc của nhạc sĩ yêu thích của bạn. Bạn không tin tôi à? Hãy đi và nghe “Not” Johnny Cash hát “Barbie Girl”, Freddie Mercury hát “Thriller” hoặc Frank Sinatra hét lên “Livin’ on a Pray” để thấy tất cả những điều này đáng sợ đến mức nào.
Sau đó là phát hiện ra loại thuốc mới. Những người sử dụng nhà trị liệu AI thay vì con người. Những người khác đang tải lên thư thoại từ những người thân yêu đã qua đời để họ có thể tiếp tục tương tác với họ bằng cách nói chuyện với bản sao AI của cha mẹ hoặc đứa trẻ đã chết. Có những ứng dụng hẹn hò AI (vâng, bạn hẹn hò với đối tác AI). Nó đang được sử dụng để cung cấp thông tin sai lệch trong chính trị, tạo ra các video giả mạo và bản ghi âm giả. Quân đội Hoa Kỳ đang khám phá việc sử dụng AI trong chiến tranh và cuối cùng có thể tạo ra các robot sát thủ tự động. (Không có gì phải lo lắng ở đây!) Mọi người đang thảo luận về việc sử dụng AI để tạo ra các loài động vật hoàn toàn mới (vâng, đó là sự thật) hoặc virus (cũng có thật). Hoặc khám phá các đặc điểm của con người, chẳng hạn như tạo ra một giống siêu chiến binh mạnh hơn và ít đồng cảm hơn, tất cả đều thông qua kỹ thuật di truyền dựa trên AI.
Và chúng tôi đã áp dụng tất cả những công nghệ này với tốc độ đáng kinh ngạc—hầu hết chúng đã được hiện thực hóa chỉ trong vòng chưa đầy sáu tháng.
“Nó làm tôi phấn khích và lo lắng ở mức độ ngang nhau. David Chalmers, giáo sư triết học và khoa học thần kinh tại NYU cho biết, lợi ích của việc này là rất lớn, có thể những hệ thống này sẽ tìm ra cách chữa trị bệnh tật và giải pháp cho các vấn đề như nghèo đói và biến đổi khí hậu, và đó là những lợi ích to lớn”. “Nhược điểm là con người bị mất khả năng dẫn đường hoặc trong trường hợp xấu nhất là bị tiêu diệt hoàn toàn, [điều đó] thật đáng sợ.” Như một báo cáo kinh tế có tính nghiên cứu cao được lưu hành vào tháng trước đã lưu ý: “Có hơn 50-50 khả năng AI sẽ quét sạch toàn bộ nhân loại vào giữa thế kỷ này”. Max Tegmark, nhà vật lý tại Viện Công nghệ Massachusetts, dự đoán 50% khả năng loài người sẽ chết trong vòng 100 năm tới. Những người khác không đặt cơ hội của chúng tôi quá thấp. Vào tháng 7, một nhóm các nhà nghiên cứu, bao gồm các chuyên gia về chiến tranh hạt nhân, vũ khí sinh học, trí tuệ nhân tạo và sự tuyệt chủng, cùng một nhóm “các chuyên gia siêu dự báo”—các nhà tiên đoán có mục đích chung—đã thực hiện phép toán của riêng họ. Các “chuyên gia” suy luận rằng có 20% khả năng xảy ra thảm họa vào năm 2100 và 6% khả năng xảy ra sự kiện giống như tuyệt chủng do AI gây ra, trong khi các nhà siêu dự báo có dự báo tích cực hơn về khả năng xảy ra thảm họa là 9% và chỉ 1%. có khả năng chúng ta sẽ bị xóa sổ khỏi hành tinh.
Nó có cảm giác giống như chọn những con số xổ số tuyệt chủng—và thậm chí với 1% cơ hội, có lẽ chúng ta nên tự hỏi liệu phát minh mới này có đáng để mạo hiểm hay không. Tuy nhiên, câu hỏi xoay quanh Thung lũng Silicon không phải là liệu một kịch bản như vậy có đáng hay không, thậm chí với 1% khả năng bị hủy diệt, mà đúng hơn là liệu nó có thực sự là một điều tồi tệ nếu chúng ta chế tạo một cỗ máy có thể thay đổi cuộc sống con người như chúng ta biết hay không.
Larry Page không phải là một người đàn ông có vẻ ngoài đáng sợ. Khi anh ấy nói, giọng anh ấy rất nhẹ và khàn khàn do chấn thương dây thanh quản, nghe như tiếng lửa trại đang cố nói với bạn điều gì đó. Lần cuối cùng tôi bắt tay anh ấy, cách đây rất nhiều năm, nó mềm như một bánh xà phòng. Trong khi các đồng nghiệp trong ngành của anh ấy, như Mark Zuckerberg và Elon Musk, thường thực hiện các động tác nhào lộn công khai bằng quả cầu lông để thu hút sự chú ý thì Page, người đồng sáng lập Google và là thành viên hội đồng quản trị của Alphabet, đã không thực hiện một cuộc phỏng vấn công khai nào kể từ năm 2015, khi anh ấy đã có mặt trên sân khấu tại một hội nghị. Vào năm 2018, khi Page được triệu tập trước Ủy ban Tình báo Thượng viện để giải quyết vấn đề Nga can thiệp bầu cử, quyền riêng tư trực tuyến và thành kiến chính trị trên các nền tảng công nghệ, chiếc ghế của ông đã trống khi các thượng nghị sĩ tra hỏi những người đồng cấp của ông.
Trong khi Page đứng ngoài ánh đèn sân khấu, anh vẫn thích tham dự các bữa tối và viết thơ về công nghệ và triết học. Một vài năm trước, một người bạn thấy mình ngồi cạnh Page trong một bữa tối như vậy và anh ấy kể cho tôi nghe một câu chuyện: Page đang nói về sự tiến bộ của công nghệ và việc con người cuối cùng sẽ tạo ra “những cỗ máy siêu thông minh”, còn được gọi là “điều tất yếu” như trí tuệ nhân tạo tổng hợp (AGI), là những máy tính thông minh hơn con người, và theo quan điểm của Page, một khi điều đó xảy ra, những cỗ máy đó sẽ nhanh chóng không còn tác dụng gì đối với con người chúng ta và chúng sẽ đơn giản loại bỏ chúng ta.
“Ý anh là gì, loại bỏ chúng tôi?”
Giống như một nhà văn khoa học viễn tưởng đang trình bày ý tưởng câu chuyện về ngày tận thế mới của họ, Page giải thích rằng những robot này sẽ nhanh chóng trở nên vượt trội hơn chúng ta rất nhiều, và nếu chúng ta không còn cần thiết trên trái đất nữa và đó là trật tự tự nhiên của mọi thứ—và tôi xin trích dẫn —“đó chỉ là bước tiếp theo trong quá trình tiến hóa.” Lúc đầu bạn tôi cho rằng Trang đang nói đùa. “Tôi nghiêm túc đấy,” Trang nói. Khi bạn tôi tranh luận rằng đây là một cách nghĩ thực sự ngớ ngẩn về thế giới, Page tỏ ra khó chịu và buộc tội anh ta là “chuyên gia”.
Trong những năm qua, tôi đã nghe một số người kể lại những câu chuyện như thế này về Page. Khi được phỏng vấn trên Fox News hồi đầu năm nay, Musk là một trong số họ. Anh ấy giải thích rằng anh ấy từng thân thiết với Page nhưng họ không còn nói chuyện nữa sau một cuộc tranh luận mà Page cũng gọi Musk là “chuyên gia”. Musk nói: “Tôi nhận thấy rằng Larry chưa coi trọng vấn đề an toàn AI một cách nghiêm túc. “Có vẻ như anh ấy thực sự muốn có siêu trí tuệ kỹ thuật số, về cơ bản là Chúa kỹ thuật số, nếu bạn muốn thì càng sớm càng tốt.”
“Tất cả những người DẪN ĐẦU PHÁT TRIỂN AI hiện nay đều HOÀN TOÀN KHÔNG THÀNH CÔNG trước công chúng.”
Chúng ta hãy dừng lại một chút và giải nén cái này. Larry Page…người sáng lập một trong những công ty lớn nhất thế giới…một công ty sử dụng hàng nghìn kỹ sư hiện đang chế tạo những cỗ máy trí tuệ nhân tạo, khi bạn đọc bài viết này…tin rằng AI sẽ và nên trở nên thông minh, mạnh mẽ và như vậy ghê gớm và…và…rằng một ngày nào đó nó sẽ không cần chúng ta, những con người nhỏ bé ngu ngốc thảm hại nữa…và nó sẽ, và nó nên, BỎ QUA CHÚNG TÔI!“Nếu Larry Page nói, 'Tôi sẽ hủy diệt hành tinh này bằng vũ khí hạt nhân và đánh bom nguyên tử toàn bộ hành tinh chỉ là trật tự tự nhiên của mọi việc và vì vậy chúng ta không nên than khóc về điều đó', tất cả chúng ta sẽ nói, 'Cái quái gì vậy, đó là một ý tưởng tồi tệ!'” Nate Soares, giám đốc điều hành của Viện nghiên cứu trí tuệ máy, một tổ chức phi lợi nhuận tập trung vào việc xác định và quản lý các rủi ro tồn tại tiềm ẩn từ AGI, cho biết. (Trang không trả lời yêu cầu bình luận cho bài viết này.)
Một nhà tư vấn vận động hành lang chính trị nói với tôi: “Tất cả những người dẫn đầu sự phát triển của AI hiện nay đều hoàn toàn thiếu trung thực trước công chúng”. “Tất cả họ chỉ đang chạy đua để trở thành người đầu tiên xây dựng AGI và không biết về hậu quả của những gì có thể xảy ra hoặc họ không quan tâm.” Điều này được thể hiện rõ qua thực tế là phần lớn Thung lũng Silicon hiện đã chuyển sang mục tiêu tạo ra những cỗ máy siêu thông minh.
Rất nhiều người mà tôi đã nói chuyện trong câu chuyện này, bao gồm các triết gia AI, thượng nghị sĩ Hoa Kỳ và các nhà lãnh đạo doanh nghiệp, lo lắng rằng các rào chắn xung quanh AI, chẳng hạn như hiện tại, có thể sụp đổ nhanh hơn chúng ta có thời gian để nhận ra. Một số người dự đoán nó sẽ là thảm họa trong thời gian ngắn. Soares nói: “Tôi nghĩ rất có thể con của bạn tôi sẽ không bao giờ lớn. “Nếu hôm nay tôi có một đứa con, tôi sẽ không mong đợi được chứng kiến sinh nhật lần thứ tám của chúng”. Nói cách khác, theo quan điểm của Soares, sẽ không có ai tồn tại trên trái đất trong vòng thập kỷ tới.
Soares nghe có vẻ cường điệu, và thực sự các chuyên gia khác, như Kevin Kelly, một trong những người sáng lập tạp chí Wired, lập luận rằng xác suất tuyệt chủng của loài người là cực kỳ thấp, và một kịch bản như vậy (nếu có thể) là rất xa. Nhưng ngay cả khi có 1% khả năng thực tế đen tối của Soares có thể xảy ra, liệu nó có đáng để chúng ta lao về phía trước với tốc độ như vậy không?
Tuy nhiên, quả dưa hấu vuông và chiếc thìa sẽ đi vào lịch sử vũ trụ vì có lẽ trong số những phát minh sáng tạo nhất của chúng ta—đừng quên Doggles—những sáng tạo có sức ảnh hưởng lớn nhất của con người, trên thực tế, chính là những câu chuyện của chúng ta. Những câu chuyện đẹp đẽ, đáng kinh ngạc và đáng kinh ngạc mà chúng tôi tưởng tượng và kể lại. Một số về thiện và ác, một số khác về phù thủy và yêu tinh, những người đàn ông nhỏ màu xanh lá cây dễ thương và những người chị kế độc ác. Về gia đình Buendía và một bối cảnh khác ở Trung Địa, sau đó là câu chuyện về một nhà khoa học trẻ tạo ra một sinh vật có trí tuệ trong một thí nghiệm khoa học không chính thống. “Tôi đã nói hip, hop, hippie, hippie, hip hip-hop…” Câu chuyện của chúng tôi được kể bằng lời nói, âm nhạc và nghệ thuật đủ loại. Chúng tôi không chỉ phát minh ra đàn piano mà còn sử dụng nó để sáng tác Nocturne cung Mi giáng trưởng, Op. 9, số 2. Chúng tôi làm những tác phẩm nghệ thuật như The Last Supper, The Thinker, bồn tiểu của Duchamp (tôi đoán bạn có thể gọi đó là nghệ thuật). Và sau đó…HÀNH ĐỘNG! Bố già, Làm điều đúng đắn, The Great British Bake Off, và gần đây hơn là một sự đổi mới thực sự của con người, MILF Manor.
Và chúng tôi đã làm tất cả những điều đó chỉ trong vài trăm năm. Nhưng các nhà lãnh đạo ở Thung lũng Silicon dường như nghĩ rằng đã đến lúc chúng ta nên thuê toàn bộ thời gian và suy nghĩ đó cho AI của họ. “Có những câu hỏi tâm linh thực sự sâu sắc ở đây. Tôi không nghĩ các nhà hoạch định chính sách nên ngại ngùng khi nói về điều đó,” Thượng nghị sĩ Chris Murphy nói với tôi. “Khi bạn bắt đầu giao phần lớn khả năng sáng tạo của con người cho máy móc, thì con người sẽ bị thối rữa.” Murphy là một trong những thượng nghị sĩ thẳng thắn nhất về AI, thường xuyên viết về những mối quan tâm của mình và ông là thành viên của nhiều tiểu ban đang thăm dò xem AI sẽ ảnh hưởng đến xã hội như thế nào. Ông lưu ý rằng theo ước tính của mình, việc con người bắt đầu bị máy tính thay thế khả năng sáng tạo của mình với quy mô đáng kinh ngạc trong vòng hai đến ba năm tới, và điều đó khiến ông sợ hãi. “Nếu chúng ta ngừng tồn tại theo cách hiện tại và chuyển tất cả chức năng của mình sang máy móc thì điều đó sẽ trở thành một sự tồn tại khá trống rỗng.”
Các nhà quảng bá AI nói rằng sản phẩm của họ sẽ chỉ khiến chúng ta sáng tạo hơn. “Nghệ thuật sáng tạo sẽ bước vào thời kỳ hoàng kim, khi các nghệ sĩ, nhạc sĩ, nhà văn và nhà làm phim được tăng cường AI có khả năng hiện thực hóa tầm nhìn của họ nhanh hơn và ở quy mô lớn hơn bao giờ hết,” tỷ phú đầu tư mạo hiểm Marc Andreessen gần đây đã viết trong báo cáo 7.000. -word đã nói rõ về tất cả những cách mà AI sẽ làm cho cuộc sống tốt đẹp hơn (trớ trêu thay, anh ấy không đề cập đến việc nó cũng sẽ khiến anh ấy giàu hơn, vì công ty liên doanh của anh ấy đã đầu tư hàng trăm triệu đô la vào các công ty AI, bao gồm OpenAI, Ambient.ai và Character.ai). Những người mơ mộng về AI, như Andreessen, cho rằng cuộc cách mạng AI sắp tới sẽ phản ánh cuộc Cách mạng Công nghiệp, phá hủy một số công việc nhưng tạo ra những công việc mới ưu việt hơn. (“Kỹ sư nhắc nhở AI” gần đây đã trở thành một công việc được săn đón.)
Quả thực, Cách mạng Công nghiệp đã thúc đẩy năng suất lao động và tăng trưởng kinh tế cao, đưa ra các ngành công nghiệp mới, cải thiện mức sống và giảm bớt nạn đói. Tuy nhiên, nó cũng gây ra điều kiện làm việc tồi tệ, bao gồm cả lao động trẻ em và gia tăng ô nhiễm, dẫn đến các vấn đề sức khỏe và biến đổi khí hậu. Chênh lệch giàu nghèo và bất ổn xã hội gia tăng. Dân số toàn cầu đã tăng gấp 8 lần kể từ thời kỳ đó, cho thấy tiềm năng gián đoạn cao hơn đáng kể. Quan trọng nhất là Cách mạng Công nghiệp diễn ra trong khoảng 80 năm; cuộc cách mạng AI sẽ diễn ra trong hai hoặc ba năm nữa.
Đối với một số người thì đã quá muộn. Reddit tràn ngập các bài đăng của những người đã coi công việc viết lách của họ là người viết quảng cáo hoặc nhà tiếp thị được giao cho AI. “Tôi đã mất khách hàng chính vào tay ChatGPT,” một nhà văn tự do đã đăng vào đầu năm nay. “Tôi cần phải đào tạo lại cho một nghề nghiệp mới.” (Nghề nào bạn có thể đào tạo lại để không bị AI đảm nhận vẫn còn là vấn đề tranh luận — cho đến nay tất cả những gì tôi nghĩ ra là thợ sửa ống nước, chăm sóc người già và người viết lời nhắc về AI.) Trong khi một số ở các nước đang phát triển đang nhanh chóng phát triển bị mất việc, có một kịch bản là mọi người ở Ấn Độ và Philippines sẽ chọn công việc viết nhanh đơn độc đó và sử dụng AI để viết truyện và minh họa. Google đã bắt đầu quảng cáo cho The New York Times, The Washington Post và The Wall Street Journal về công cụ AI mới của mình để tạo ra các câu chuyện tin tức. Những người kiếm sống bằng nghề lồng tiếng cho sách, TV và podcast đã thấy loại hình nghệ thuật của họ bị thay thế bởi hàng loạt công ty khởi nghiệp về AI. Và những nghệ sĩ mới bắt đầu đến trường nghệ thuật để học hội họa, minh họa và thiết kế đồ họa đang suy nghĩ lại về việc phải làm gì với tương lai của mình.
Paul Kedrosky, một nhà đầu tư và nhà nghiên cứu kinh tế, đồng sáng lập của SK Ventures, công ty đầu tư vào AI và công nghệ, cho biết: “Chúng ta sẽ không hài lòng khi máy móc chiếm lấy khả năng sáng tạo của chúng ta. “Ngôn ngữ và sự sáng tạo là nền tảng của xã hội và chúng ta không nên từ bỏ quyền kiểm soát máy móc, ngay cả khi có thể. Đó là điều khiến xã hội trở nên bổ ích và có giá trị.” Kedrosky không hoàn toàn chống AI; anh ấy tin rằng chúng ta nên xây dựng những thứ giúp “con người phát triển hơn là khiến con người trở nên dư thừa” và anh ấy đầu tư vào những loại sản phẩm AI đó theo đó. Kedrosky và Murphy (và nhiều người khác mà tôi đã nói chuyện cùng) lập luận rằng chỉ vì chúng ta có thể không có nghĩa là chúng ta nên làm - đặc biệt là khi nói đến điều gì đó cơ bản như sự sáng tạo. Họ cho rằng chúng ta cần điều chỉnh những cỗ máy này càng nhanh càng tốt.
Trong khi các Andreessen của thế giới công nghệ cho rằng các quy định sẽ cản trở sự đổi mới, Murphy và một loạt nghị sĩ khác đang hy vọng thành lập một cơ quan quản lý hoàn toàn mới, chẳng hạn như việc thành lập FCC sau khi đài phát thanh được phát minh, hay Ủy ban Điều tiết Hạt nhân để điều tiết năng lượng hạt nhân và vô số cơ quan khác đã ra đời cùng với sự ra đời của các phát minh mới. Kedrosky nói: “Công nghệ không phải là sức mạnh tự nhiên, nó không phải là một tính năng phổ quát. “Nói rằng việc ngăn chặn nó không phải là trách nhiệm của chúng tôi chỉ là một sự thoái thác trách nhiệm theo chủ nghĩa hư vô.”
Năm 1965, nhà thống kê I.J. Tốt, khi hình dung thế giới sẽ trông như thế nào khi chúng ta tạo ra những cỗ máy siêu thông minh, nói rằng những cỗ máy thứ hai trở nên thông minh hơn con người, “chắc chắn sẽ có một vụ nổ trí thông minh” khi máy móc nhanh chóng tạo ra những cỗ máy thông minh hơn và rằng “trí thông minh của con người sẽ bị bỏ lại rất xa.” Chúng ta có thể hiểu những gì chúng đang làm giống như cách thú cưng của chúng ta hiểu lời trong một cuốn sách mà chúng ta đọc to. “Vì vậy,” Good viết, “chiếc máy siêu thông minh đầu tiên là phát minh cuối cùng mà con người cần tạo ra.”
Vào năm 2017, một bài báo ít người biết đến nhưng mang tính đột phá có tựa đề “Tất cả những gì bạn cần là sự chú ý” đã được trình bày tại hội nghị Hệ thống xử lý thông tin thần kinh ở Long Beach, California. Nhưng ít người trong số khán giả biết rằng bài báo do một nhóm nhỏ kỹ sư của Google viết ra nhằm mục đích thay đổi mọi thứ trong lĩnh vực trí tuệ nhân tạo. Illia Polosukhin, một kỹ sư gốc Ukraine, người thực hiện nghiên cứu và có tên trong bài báo, giải thích với tôi rằng bước đột phá là bắt đầu nghĩ về AI như một “máy biến áp” (thuật ngữ mượn từ bộ phim Transformers), nơi máy móc hoạt động. giống bộ não con người hơn và ít giống máy tính hơn, để tạo ra văn bản giống con người hoặc đưa ra dự đoán. “Lần đầu tiên chúng tôi thử nó, nó không tệ. Nó hoạt động tốt một cách đáng ngạc nhiên. Nó giống như nhìn thấy dấu hiệu đầu tiên của sự sống vậy,” Polosukhin nói với tôi. “Mặc dù nó còn nguyên thủy nhưng nó thực sự rất mạnh mẽ.” Trong vài năm tới, số công ty khởi nghiệp về AI tăng vọt. Một giám đốc sản phẩm ở Thung lũng Silicon nói với tôi: “Chỉ trong một ngày, chúng ta đang thấy nhiều sản phẩm và tiến bộ liên quan đến AI hơn so với một năm một thập kỷ trước”. “Gần như không thể theo kịp.” Hiện có hơn 14.700 công ty khởi nghiệp AI chỉ riêng ở Hoa Kỳ (và ước tính có khoảng 58.000 công ty trên toàn thế giới). Và các công ty AI hàng đầu đang huy động được 3 tỷ USD tài trợ mỗi tháng, theo Crunchbase. Năm ngoái, doanh thu AI chiếm 51,27 tỷ USD của nền kinh tế toàn cầu. Tám năm nữa (nếu chúng ta tồn tại được lâu như vậy) PwC dự đoán AI sẽ chiếm 15,7 nghìn tỷ USD của nền kinh tế toàn cầu — gấp hơn ba lần toàn bộ GDP của Nhật Bản. Do sự tăng trưởng tài chính đáng kinh ngạc, hầu hết mọi người trong lĩnh vực công nghệ hiện đang kêu gọi làm việc trong lĩnh vực này. Thung lũng Hayes của San Francisco được mệnh danh là Thung lũng não vì hiện tại nơi đây là nơi đặt trụ sở của hàng chục ngôi nhà của hacker AI giống như xã. Một trong số đó, được gọi là HF0, là một dinh thự ước tính trị giá 16 triệu USD ngoài Quảng trường Alamo, nơi người sáng lập, Dave Fontenot, cung cấp nhà ở, thực phẩm, dịch vụ giặt là và 500.000 USD tiền tài trợ để đổi lấy phí sở hữu 2,5% đối với bất cứ thứ gì được tạo ra ở đó. Một trong những mối lo ngại lớn nhất đối với các tập thể này và với sự phát triển AI nói chung là nó đang đi theo con đường của hầu hết sự phát triển công nghệ trước đây. Nói cách khác, chủ yếu là các anh em công nghệ làm việc trong lĩnh vực này và rất ít phụ nữ.“Thật là điên rồ,” May Habib, người đồng sáng lập và Giám đốc điều hành của Writer — một công ty khởi nghiệp về AI giúp mọi người ở các công ty viết cùng một phong cách và giọng nói — là một trong những trường hợp ngoại lệ. “Không có phụ nữ trong AI.” Habib, người chuyển đến Canada vào những năm 1990 theo chương trình tị nạn Lebanon, nói rằng hầu hết các công việc hàng đầu trong C-Suite của cô đều là phụ nữ, nhưng điều đó khác xa với tiêu chuẩn tại các công ty AI ở Thung lũng. Cô lo lắng rằng quan điểm lấy nam giới làm trung tâm từ những người đàn ông này - thường là nam giới trẻ - sẽ có tác động sâu rộng đến xã hội về lâu dài, bao gồm cả những người mẫu có thành kiến lớn. Habib nói với tôi: “Phản ứng của giới công nghệ là con người có thành kiến, và AI cũng vậy. Tệ hơn nữa, Habib lưu ý, tất cả họ đều rao giảng cùng một câu chuyện cũ ở Thung lũng Silicon rằng họ đang làm việc trong không gian này để biến thế giới thành một nơi tốt đẹp hơn, nhưng cuối cùng, tất cả chỉ vì tiền. Habib nói với tôi: “Bạn nhìn xung quanh AI ngày nay và mọi người đều là những nhà tư bản AI có tính sáng tạo”. “Cách họ bán hàng, những gì họ xây dựng, tầm nhìn của họ về tương lai, tất cả đều xoay quanh tiền bạc.”
Mặc dù Murphy không ở Thung lũng, nhưng từ những gì anh ấy thấy, anh ấy không thể đồng ý hơn. Ông nói: “Tôi nghĩ sẽ có một số tiền khổng lồ đằng sau AI, mọi người ở Thung lũng Silicon sẽ cố gắng xây dựng nó nhanh nhất có thể chứ không làm những gì nhất thiết phải an toàn cho nhân loại”. Không nơi nào luận điểm đó đúng hơn Tòa nhà Tiên phong ở San Francisco, quê hương của OpenAI.
Sam Altman là một vị thần. Một đấng cứu thế AI. Anh ấy được xuề xòa trong các bài báo. Chấm trong các cuộc phỏng vấn. Mùa xuân này, Altman đã đi khắp thế giới để gặp gỡ các tổng thống, thủ tướng và thủ tướng của hơn hai chục quốc gia trên sáu lục địa, bao gồm Pháp, Anh, Nigeria, Israel, Các Tiểu vương quốc Ả Rập Thống nhất, Nhật Bản, Singapore và Indonesia, để thuyết giảng. lợi ích của AI, cụ thể nhất là công ty mà ông điều hành, OpenAI.
Nhưng Altman không phải lúc nào cũng được yêu mến theo cách này. Ví dụ: một thập kỷ trước, khi mọi người có thể kiếm được huy hiệu trên ứng dụng Foursquare (như huy hiệu “bender”, dành cho việc đi chơi bốn đêm liên tiếp), huy hiệu “douchebag” là lời ca ngợi Altman, có màu hồng và xanh lục để ca ngợi Altman. phù hợp với chiếc áo sơ mi polo màu hồng và màu xanh lá cây (vâng, hai chiếc cùng một lúc) mà Altman mặc trên sân khấu tại một hội nghị của Apple. Trong nhiều năm trên Twitter, lời khuyên của anh ấy giống như một chiếc bánh quy may mắn từ Panda Express— “rủi ro thực sự trong cuộc sống là sự hối tiếc”—những lời tuyên bố thường được truyền đi giữa các nhà điều hành công nghệ với sự bối rối và biểu tượng cảm xúc trợn tròn mắt. Gần đây, khi anh ấy đăng một bức ảnh của anh ấy được bao quanh bởi đám đông đang chụp ảnh anh ấy, đang nhìn anh ấy một cách say mê, một người trong cuộc ở Thung lũng đã nói, “Anh ấy trông giống như nghĩ mình là Gandhi.”
OpenAI đã trở thành trung tâm nóng bỏng của cuộc chạy đua vũ trang AI và công ty hiện phải đối mặt với một tình huống bất khả thi: phát triển công nghệ để đi trước hàng loạt đối thủ cạnh tranh trong khi không hủy diệt loài người trong quá trình này.
Khi tôi nói chuyện với Mira Murati, giám đốc công nghệ của OpenAI, về điều này, cô ấy thừa nhận những gì đang bị đe dọa cũng như những gì thế giới sẽ đạt được từ tiến bộ công nghệ quan trọng nhất trong lịch sử loài người. Và trong khi AI Gandhi đang có mặt trong chuyến du lịch vòng quanh thế giới của mình thì Murati là người được giao nhiệm vụ giải quyết những thách thức thực sự trong việc xây dựng công nghệ có thể cứu hoặc hủy diệt thế giới cũng như bất kỳ tình huống nào ở giữa. Murati nói với tôi: “Tôi chắc chắn lo lắng về tốc độ tiến bộ công nghệ, đặc biệt vì nó liên quan đến khả năng thích ứng của xã hội với những thay đổi này. “Chúng tôi lo lắng về điều này hàng ngày, đó là lý do tại sao chúng tôi ở đây. Nhưng tôi cũng nghĩ rằng thật vô ích khi nghĩ rằng cách để đạt được kết quả tốt có thể nói là làm chậm lại hoặc ngừng đổi mới.” Cô nói thêm: “Ngay cả khi tôi nghỉ việc, ngay cả khi một loạt đồng nghiệp của tôi nghỉ việc, tiến bộ công nghệ vẫn sẽ tiến lên”.
Không giống như Marc Andreessens của thế giới, những người hành động như thể AI sẽ chỉ có cầu vồng, ánh nắng và bụi thần tiên, Murati, trước sự ngạc nhiên của tôi, thừa nhận rằng mọi thứ sẽ hoàn toàn không ổn với AI, nhưng công việc của cô ấy là đảm bảo rằng khi nào nếu có thì chúng có thể được ngăn chặn và sửa chữa nhanh nhất có thể. “Vì vậy, tôi không nghĩ mục tiêu là hoàn toàn không có rủi ro,” cô nói. “Đó là giảm thiểu rủi ro trong thời gian ngắn và có thể phản ứng rất nhanh khi nó xảy ra.” Murati lưu ý rằng công ty gần đây đã chi 1 tỷ USD để thực hiện nghiên cứu cần thiết nhằm đảm bảo các giải pháp của OpenAI không hủy diệt hành tinh này, mặc dù không có gì đảm bảo. (Altman gần đây đã nói điều gì đó tương tự với một tiểu ban Thượng viện, lưu ý rằng "Tôi nghĩ nếu công nghệ này gặp trục trặc, nó có thể rất sai lầm. Và chúng tôi muốn lên tiếng về điều đó.")
OpenAI cũng không ngần ngại vạch ra các mục tiêu của mình với tư cách là một công ty, đó là chế tạo những cỗ máy có trí tuệ siêu phàm như huyền thoại, những chiếc máy tính thông minh hơn con người theo cấp số nhân. Điều này có nghĩa là LLM sẽ phải mở rộng ra ngoài ngôn ngữ và bắt đầu nắm vững nhận thức và lý luận, đồng thời bắt đầu theo đuổi chén thánh của AI, đó là khả năng học tập tự giám sát, tự nhận thức và tự hoàn thiện bản thân. (Không rõ liệu ý thức có phải là yêu cầu bắt buộc để đạt được các cột mốc này hay không.)
Altman tin rằng, như ông đã nói với tờ Times, rằng AGI sẽ mang lại cho thế giới sự thịnh vượng và giàu có mà chưa ai từng thấy. Và Altman dường như không thể ngăn cản được nỗ lực trở thành người đầu tiên làm được điều đó. Hiện tại, công ty chắc chắn đang hướng tới mục tiêu được yêu thích và đi đầu. Khi Altman đến trước Quốc hội vào đầu năm nay để nói về tiềm năng của AI, một số người trong ngành cảm thấy ông đang thiếu trung thực với những lời kêu gọi điều chỉnh của mình. “Nó giống như mời người đứng đầu các nhà sản xuất súng đến trước Quốc hội để nói về mức độ an toàn của súng đối với xã hội,” một giám đốc điều hành AI nói với tôi về Altman. Quả thực, hành động của anh ấy đôi khi khác với lời nói thốt ra từ miệng. Trong khi Altman đang thực hiện chuyến công du vòng quanh thế giới vào tháng 6 để nói về sự cần thiết của “quy định AI toàn cầu”, thì đằng sau hậu trường, theo các tài liệu mà Time thu được, ông đã mạnh mẽ thúc ép Liên minh Châu Âu giảm bớt Đạo luật AI của mình, đặc biệt là không phân loại OpenAI. được coi là “rủi ro cao”, có thể khiến công ty phải tuân theo các yêu cầu pháp lý nghiêm ngặt—bao gồm tính minh bạch, khả năng truy xuất nguồn gốc và sự giám sát của con người.
Công bằng mà nói với Altman và OpenAI, hầu hết các nhà lãnh đạo ở Thung lũng Silicon được triệu tập trước Quốc hội đều nói rằng họ cần phải được quản lý — ahem, Mark Zuckerberg — trong khi trên thực tế, ở hậu trường, họ chiến đấu quyết liệt với nó. “Tôi nghĩ thật dễ dàng để đưa ra những tuyên bố rộng rãi về việc muốn được quản lý, biết chi tiết về ma quỷ,” Murphy nói về tất cả các công ty công nghệ ở Thung lũng Silicon đều nói về quy định và AI. “Họ sẽ chơi một trò chơi lớn khi nói đến quy định và nhược điểm nghiêm trọng tiềm ẩn, nhưng cuối cùng, họ sẽ kiếm tiền từ việc này một cách lớn và nhanh nhất có thể.”
Đối với Altman, điều đó giống như thể anh ấy đang cố gắng chạy marathon trên lưỡi dao cạo. Anh ấy cần sự hỗ trợ của các doanh nghiệp lớn để phát triển OpenAI và mở rộng, nhưng đồng thời, AI sẽ xóa sạch hàng triệu việc làm trên toàn thế giới một cách nhanh chóng. Ví dụ: các trung tâm cuộc gọi ở Ấn Độ chiếm 8% GDP của quốc gia đó. Ở Brazil, tỷ lệ này là 6,3%. Hoa Kỳ, mặc dù đã thuê hàng triệu công việc đó ở những nơi như Ấn Độ và Brazil, nhưng vẫn tuyển dụng 3,4 triệu người làm việc tại các trung tâm cuộc gọi. Tổng đài có thể là công việc đầu tiên bị thay thế hoàn toàn bởi AI và hậu quả có thể rất thảm khốc. “Lấy đi 8% GDP của một quốc gia và bạn nghĩ điều gì sẽ xảy ra?” Kedrosky nói. “Bạn sẽ nhìn thấy những chiếc chĩa ba trên đường phố.”
CÂU HỎI xung quanh Thung lũng Silicon không phải là liệu một kịch bản như vậy có đáng hay không, ngay cả với 1% CƠ HỘI, mà đúng hơn, liệu đó có thực sự là một điều tồi tệ nếu chúng ta chế tạo một cỗ máy THAY ĐỔI CUỘC SỐNG CON NGƯỜI NHƯ CHÚNG TA BIẾT NÓ
Một Giám đốc điều hành AI mà tôi đã nói chuyện đã nói rằng CIO của các công ty Fortune 500 rất lên tiếng về việc cắt giảm lực lượng lao động của họ xuống một nửa trong những năm tới—sau đó có thể sẽ cắt giảm một nửa nhiều lần, cho đến khi một số ít nhân viên giám sát LLM phải làm việc đó. cùng một công việc mà hàng ngàn người đã từng làm. Theo báo cáo của nhà cung cấp dịch vụ việc làm Challenger, Grey & Christmas, chuyên theo dõi tình trạng sa thải trên khắp nước Mỹ, 5% số người bị sa thải trong quý đầu tiên của năm nay đã mất việc vì AI. Hiện tại, mặc dù con số đó không đáng kinh ngạc theo bất kỳ tỷ lệ nào, nhưng điều đáng lo ngại là đây là lần đầu tiên trong lịch sử 30 năm, báo cáo của công ty cho rằng AI là lý do để sa thải nhân viên.
Murati dường như thực sự tin rằng nếu OpenAI làm đúng điều này, những mặt tích cực có thể cứu nhân loại khỏi chính nó, giải quyết một danh sách dài các vấn đề từ nạn đói thế giới đến giáo dục cho đến khủng hoảng năng lượng. “Có vẻ như khi vấn đề rủi ro hiện hữu này xuất hiện, nó làm giảm tầm quan trọng của những rủi ro hiện tại mà chúng ta đang đối mặt ngày nay mà chúng ta chưa giải quyết được và đòi hỏi nhiều sự tham gia cũng như sự chú ý từ mọi người trong [AI”. ] không gian,” cô nói.
Tuy nhiên, để đề phòng, Altman dường như có một kế hoạch dự phòng: Như anh ấy đã nói với The New Yorker vào năm 2016, anh ấy có “súng, vàng, kali iodua, thuốc kháng sinh, pin, nước, mặt nạ phòng độc từ Lực lượng Phòng vệ Israel và một số tiền lớn.” mảnh đất ở Big Sur mà tôi có thể bay tới.” Bạn biết đấy, đề phòng trường hợp thế giới bị phá hủy bởi AI hoặc virus tổng hợp.
“Trí tuệ nhân tạo hoàn chỉnh có thể báo hiệu sự kết thúc của loài người.” “AI sẽ cứu thế giới.” “Nguy cơ xảy ra điều gì đó nguy hiểm nghiêm trọng là trong khoảng thời gian 5 năm.” “Dễ dàng tưởng tượng ra tất cả những điều có thể sai lầm hơn là tưởng tượng những điều đúng đắn, và rất nhiều điều sẽ diễn ra đúng đắn.” “Với AI, chúng tôi đang triệu hồi con quỷ.” “Nhân loại đang bị hủy diệt do con đường AI mà chúng ta đang đi, tôi không tin điều đó.” “Chúng ta cần phải đóng cửa tất cả.”
Tất cả các quan điểm hoàn toàn khác nhau về cách điều này sẽ diễn ra. Tất cả đều từ các chuyên gia hiểu rõ nó hơn bất cứ ai. Đối với tôi, đây là điều gây tò mò nhất về những người làm việc trong lĩnh vực AI: Họ đều đọc (hoặc viết) cùng một nghiên cứu về AI; nghe (hoặc nói chuyện) cùng một podcast; tham dự (hoặc phát biểu tại) các hội nghị tương tự. Tuy nhiên, một số là kẻ hủy diệt AI và những người khác là kẻ mơ mộng về AI.
Kelly, người đồng sáng lập Wired, tin rằng mọi việc hầu như sẽ diễn ra tốt đẹp. Nhưng ngay cả như vậy, anh ấy cũng không chắc cuối cùng mọi chuyện sẽ diễn ra như thế nào. Ông giải thích: “Về cơ bản có bốn loại mối quan hệ mà chúng ta sẽ có với robot và AI. “Đầu tiên là chúng tôi đối xử với chúng như thú cưng. Hai là chúng ta coi họ như những đối tác, làm việc cùng với họ. Sau đó, phiên bản đáng sợ nhất là chúng ta đối xử với họ như nô lệ - và kiểu quan hệ đó có tính ăn mòn vô cùng đối với người chủ.” (Điều này giống như việc những đứa trẻ mới biết đi của chúng ta la mắng Alexa và Siri vì đó là cách cha mẹ chúng nói chuyện với những chiếc máy này, chỉ ở quy mô lớn hơn nhiều.) Cuối cùng, kịch bản cuối cùng là chúng ta đối xử với chúng như những vị thần. “Đó là những gì những kẻ diệt vong AI làm. Họ tin rằng AI sẽ tự biến mình thành một vị thần, với sức mạnh thần thánh, và trong một hành động tối cao đen tối, các vị thần sẽ áp đảo chúng ta và chiếm lấy vị trí của chúng ta. Vì vậy, bây giờ chúng tôi phải xoa dịu các vị thần AI và đảm bảo rằng chúng tôi 'liên kết' để họ đối xử tử tế với chúng tôi ”.
Đối với những người diệt vong, đó dường như là trường hợp tốt nhất.
Những người như Soares, từ Viện Nghiên cứu Trí tuệ Máy móc, lo lắng rằng ngày tận thế đã đến gần và có vô số cách để chúng ta có thể bị tiêu diệt. Có “Kịch bản Grey Goo”, trong đó các nanobot tự sao chép được tạo ra bởi AI với mục đích tiêu thụ các tế bào hoặc mầm bệnh có hại một cách vô tình (hoặc cố ý) vượt khỏi tầm kiểm soát, sao chép không ngừng cho đến khi chúng biến thành một chất được gọi là chất nhờn xám. Một ví dụ khác là “Vấn đề kẹp giấy” nổi tiếng, trong đó AI được hướng dẫn tối đa hóa việc sản xuất kẹp giấy và không ngừng tiếp tục nhiệm vụ của mình, cuối cùng biến toàn bộ hành tinh thành những chiếc kẹp giấy và loại bỏ con người cản đường nó. Theo bài viết của Eliezer Yudkowsky, một nhà nghiên cứu AI, ngay cả một yêu cầu tưởng chừng như vô hại về một bản sao của quả dâu tây cũng có thể giết chết tất cả chúng ta trong tích tắc. Tương tự, nếu chúng ta yêu cầu AI giải quyết vấn đề biến đổi khí hậu, nó có thể loại bỏ con người như một giải pháp đơn giản nhất. (Thành thật mà nói, chúng tôi sẽ có điều đó sắp xảy ra.)
Có rất nhiều tình huống mà chúng ta thậm chí không thể tưởng tượng được nếu không làm đúng điều này. Điều tôi nhận ra sau khi nói chuyện với hàng chục người về phát minh mới này và những gì nó có thể mang lại là, đối với hầu hết họ, nếu bạn làm việc trong lĩnh vực này đủ lâu, cuối cùng bạn sẽ thấy mọi chuyện có thể trở nên sai lầm khủng khiếp như thế nào—và nó làm bạn sợ chết khiếp.
Khi Dự án Nghiên cứu Mùa hè về Trí tuệ Nhân tạo ở Dartmouth năm 1956 được tổ chức, nơi thuật ngữ AI lần đầu tiên được đặt ra, tất cả những người tham dự đều nhìn thấy những mặt tích cực. Trong những thập kỷ tiếp theo, tất cả họ đều nhận ra những nhược điểm tiềm ẩn to lớn. Marvin Minsky, người đã cống hiến toàn bộ sự nghiệp của mình cho AI và phát triển những cỗ máy siêu thông minh, luôn lạc quan về những gì nó có thể làm được nhưng cũng lo lắng rằng AI có thể trở nên đủ mạnh để gây ra mối đe dọa cho nhân loại. Gần đây, ngày càng nhiều người, như Geoffrey Hinton, người đã làm việc trong lĩnh vực AI hơn 50 năm và những người sáng lập Anthropic, một công ty AI được thành lập bởi một nhóm cựu kỹ sư OpenAI, đã lo sợ trước những gì AI có thể làm. đến thế giới. (Anthropic vẫn tiếp tục xây dựng chatbot AI của riêng mình, được gọi là Claude, hy vọng nó sẽ không tiêu diệt loài người.)
Điều này đưa tôi trở lại với tất cả những dự đoán đó từ các chuyên gia. Bạn biết đấy, những điều có vẻ quá siêu thực để có thể là sự thật. Những người nói rằng chúng ta có 100% nguy cơ tuyệt chủng do AI trong thập kỷ tới, hoặc những người khác cho chúng ta tỷ lệ cược cao hơn: 50% trong 100 năm; 20 phần trăm, 9 hoặc thậm chí 1. Bạn không cần phải quá cường điệu để biết dù muốn hay không, tất cả chúng ta đều bị kéo qua lưỡi dao cạo đó. Suy cho cùng, con người hiện đại chỉ mới 6.000 tuổi. Chỉ 200 thế hệ. Chưa hết, chỉ trong thế kỷ trước – chỉ trong hơn 1% thời gian đó – chúng ta đã phát triển vũ khí hạt nhân, vũ khí sinh học và giờ là vũ khí tự động. Máy tính cá nhân đã khoảng 50 tuổi. IPhone, 16. AI ngày nay, năm.
Nhiều nghiên cứu của chính phủ được công bố trong 78 năm qua, kể từ khi quả bom nguyên tử đầu tiên được kích nổ ở New Mexico, đã ước tính rằng một cuộc chiến tranh hạt nhân toàn diện sẽ giết chết hàng trăm triệu người, và mùa đông hạt nhân tiếp theo, theo lý thuyết là một thời kỳ giá lạnh kéo dài. và bóng tối do bụi phóng xạ từ vụ nổ gây ra có thể giết chết hàng trăm triệu người nữa. Nhiều nhất là vài tỷ người có thể chết, nhưng không có kịch bản nào mà toàn bộ loài người chúng ta sẽ biến mất. Điều tương tự cũng đúng với vũ khí sinh học và chiến tranh hóa học, có thể giết chết hàng nghìn người. Súng, bom, tia laser, bệnh tật và nạn đói.
Tuy nhiên, trí tuệ nhân tạo được cho là công nghệ đầu tiên có thể xóa sổ tất cả mọi người trên hành tinh. Hãy tự làm phép tính: Bạn có thực sự nghĩ rằng chúng ta sẽ sống thêm được 6.000 năm nữa không? 200 thế hệ nữa? Như Kedrosky đã nói, nếu chúng ta tiếp tục vượt qua lưỡi dao cạo này thì tỷ lệ cược đơn giản là không thể tránh khỏi: “Nếu có đủ thời gian và đủ số lần tung đồng xu AI, cuối cùng mọi thứ sẽ bùng nổ.”
Tham khảo bài viết gốc tại đây:
