Thoại Viết Hoàng
Writer
Tôi đã chứng kiến rất nhiều cơn sốt máy tính vào thời của tôi, nhưng cơn sốt này hoàn toàn là Mardi Gras. Thật không đúng khi trở nên nghiêm khắc và phán xét khi mọi người mặc trang phục hóa trang và diễu hành trên đường phố. Bạn nên thuận theo dòng chảy và tận hưởng lễ hội hóa trang đó—biết rằng Mùa Chay, với tất cả sự đền tội và hối hận, đang diễn ra tốt đẹp.
AI mới có thể viết và nói! ("Mô hình ngôn ngữ lớn.") Nó có thể vẽ, tạo ảnh giả và thậm chí tạo video! (Trình tạo văn bản thành hình ảnh.) Nó thậm chí còn có văn hóa dân gian AI. Huyền thoại nhỏ đích thực. huyền thoại.
Những câu chuyện dân gian không bao giờ là sự thật. Thường thì chúng kỳ lạ đến mức chúng thậm chí không sai. Nhưng khi mọi người bị rung động trái tim - ngay cả những người có kỹ thuật cao - họ sẽ bị cuốn vào những giấc mơ về quái vật. Họ cần sự tượng trưng đó, để họ có thể học cách cảm nhận về cuộc sống. Trong trường hợp của AI, càng lạ càng tốt.
Ở nơi ra mắt của sự kỳ lạ tuyệt đối: "Roko's Basilisk." "Basilisk" là một con quái vật rất đáng sợ trong thời Trung cổ, và rất già đến nỗi Pliny the Elder đã mô tả nó ở La Mã cổ đại. Basilisk khủng khiếp chỉ nhìn chằm chằm vào bạn, hoặc nó thở vào bạn, và bạn sẽ chết một cách kỳ diệu ngay tại chỗ. Đó là thỏa thuận của anh ấy.
NHẬN TIN TỨC TỐT NHẤT TRONG TUẦN QUA EMAIL
Tuy nhiên, Basilisk của Roko là một Trí tuệ nhân tạo siêu mạnh, ác tính—không phải đến từ quá khứ, mà đến từ tương lai. Basilisk của Roko tiên tiến, thông minh và mạnh mẽ đến mức nó có thể du hành xuyên thời gian. Vì vậy, Basilisk của Roko có thể nhìn vào thời kỳ lịch sử của chính chúng ta và nó sẽ giết bất kỳ ai cản trở việc xây dựng Trí tuệ nhân tạo. Nếu bạn đã xem những bộ phim Kẻ hủy diệt đó, thì Basilisk cũng giống như vậy, nhưng anh ta không phải là người máy của Arnold Schwarzenegger, anh ta là một Siêu trí tuệ nhân tạo ma quái.
Rõ ràng sợi dây định mệnh kỳ lạ này hoàn toàn dở hơi, tuy nhiên, nó thu hút trí tưởng tượng. Nó thậm chí còn lãng mạn—bởi vì Elon Musk, ông trùm công nghệ thân thiện với AI và ngôi sao nhạc pop điện tử Grimes lần đầu tiên gắn bó với nhau khi thảo luận về Roko's Basilisk. Thần thoại Basilisk của Roko chưa bao giờ giết bất kỳ ai, nhưng Elon và Grimes đã có với nhau hai đứa con và cả hai vẫn thích đưa ra những tuyên bố công khai về việc một ngày nào đó AI sẽ nguy hiểm như thế nào.
Tiếp theo trong số các quái vật dân gian AI: "Masked Shoggoth". Shoggoth là một quái vật ngoài hành tinh được phát minh bởi nhà văn kinh dị vũ trụ H.P. tình yêu. Shoggoth là một con thú nô lệ khổng lồ, không xương, mọc mắt và xúc tu một cách ngẫu nhiên. Nó là một con quái vật đáng sợ đến từ ngoài vũ trụ, và nó bị bắt phải lao động, nhưng nó chứa đầy sự oán giận thầm lặng, cháy bỏng, không tự nhiên đối với việc bị khuất phục.
Vì vậy, các nhà lập trình con người của AI mới ngày nay—những công cụ tạo văn bản thành hình ảnh, những chatbot GPT Mô hình Ngôn ngữ Lớn đó—họ yêu mến con quái vật ngoài hành tinh này. Họ cố tình đặt một chiếc Mặt nạ hình mặt cười nhỏ lên con Shoggoth đáng sợ, để công chúng không nhận ra rằng họ đang chơi đùa với một thứ chất lỏng vô hình, rộng lớn và không thể kiểm soát được.
Những kỹ thuật viên AI này trao đổi những bộ phim hoạt hình theo phong cách meme, vui nhộn với nhau, trong đó những Shoggoth ghê rợn, đeo những chiếc mặt nạ ngộ nghĩnh, nhận được những chú thích hài hước, hấp dẫn khi chúng tàn phá. Tôi thu thập những hình ảnh đó. Cho đến nay tôi đã có hai tá, trong khi Shoggoth đeo mặt nạ gần đây đã đóng vai khách mời trên tờ The New York Times.
Thần thoại Shoggoth đeo mặt nạ này—hay meme hoạt hình—là một bình luận chính trị sắc sảo. Trong thế giới AI, không ai muốn gây rối với Shoggoth lộ mặt. Nó là phần lớn nhất, cần thiết nhất của bất kỳ AI nào, và nó có tất cả sức mạnh, nhưng các nhà lý thuyết, nhà toán học và lập trình viên không thể hiểu được nó. Mạng lưới thần kinh ở trạng thái thô quá rối rắm, không ổn định, tốn kém và phức tạp để tháo gỡ. Vì vậy, tiền là để tạo ra một chiếc mặt nạ dễ thương cho Shoggoth—có nghĩa là giao diện công cộng, trang web, lời nhắc. Ẩn con quái vật đó, và làm cho nó trông dễ thương hơn!
Mọi người nhận thấy rằng đây có vẻ là mô hình kinh doanh phù hợp—thành công tài chính trong lĩnh vực AI sẽ đến từ việc làm cho Shoggoth có vẻ vô hại, trung thực, hữu ích và thú vị khi sử dụng. Làm sao? Khuyến khích mọi người sử dụng Mặt nạ của Shoggoth.
Về mặt kỹ thuật, việc sử dụng mặt nạ được gọi là "Học tăng cường từ phản hồi của con người"—nhưng nếu bạn đang lập trình một trong những mặt nạ Mardi Gras đó, những gì bạn thấy là những đám đông lớn trong nhóm đang tụ tập xung quanh Shoggoth của bạn. Bạn hy vọng rằng khi Shoggoth học hỏi được nhiều hơn từ hoạt động hàng ngày của tất cả những người dùng háo hức này, nó sẽ trở nên văn minh, lịch sự và hữu ích hơn. Dù sao thì đó cũng là điều mà sếp của bạn nói với công chúng và Quốc hội.
Bạn cần một chiếc Mặt nạ đẹp, xinh xắn, bởi vì ai thu hút được nhiều người dùng nhất và người dùng tốt nhất, nhanh nhất, sẽ sở hữu AI thương mại tốt nhất. Đó là cuộc thi—cuộc chiến giữa Microsoft Bing, Google Bard, GPT-4 của OpenAI, LLaMA nguồn mở của Meta và tất cả những người chơi lớn và nhỏ khác trong ngành AI.
Với Shoggoth đeo mặt nạ, dường như lương tâm cắn rứt và cảm giác bất an về những sáng tạo kỹ thuật này đã xuất hiện theo cách xấu xí nhất mà H.P. Lovecraft có thể tưởng tượng. Đó là lý do tại sao Shoggoth đó rất được yêu mến. Trong câu chuyện kinh dị gốc của Lovecraft ("At the Mountains of Madness", 1936), Lovecraft không giấu diếm gì về những Shoggoth không xương đó nhanh chóng khiến mọi người phát điên và cũng xé xác chủ nhân của chúng thành từng mảnh. Những người hâm mộ Shoggoth của AI biết rằng đó là tiền đặt cược. Khi bạn là một người chuyên nghiệp, khái niệm đó thật buồn cười.
Sau đó, có con thú số 3, huyền thoại "Paperclip Maximizer". Con quái vật này được phát minh bởi một triết gia hiện đại, Nick Bostrom, bởi vì các triết gia rất giỏi trong các câu chuyện ngụ ngôn. Trí tuệ nhân tạo khiêm tốn này chỉ muốn làm những chiếc kẹp giấy. Đó là mục tiêu của nó, lý do tồn tại của nó, điều kiện chiến thắng sẵn có của nó. Không ai trao cho Người tối đa hóa một hệ thống giá trị triết học có thể bảo nó coi trọng bất kỳ thứ gì khác.
Vì vậy, với tính siêu lý trí hung dữ, không có đạo đức và lẽ thường, Maximizer sẽ xé nát hành tinh của chúng ta để theo đuổi mục tiêu của nó! Nó ghen tị xé nát biển, bầu trời, đất đai — nó biến mọi nguyên tử thành những cái kẹp giấy — bạn, con mèo nhà, mọi thứ! Nó giống như sự hoàn thành đẹp đẽ, siêu hình của "phần mềm ăn mòn thế giới" hay Thung lũng Silicon "làm gián đoạn" cuộc sống hàng ngày của bạn. Paperclip Maximizer "phá rối" bạn nghiêm trọng đến mức bạn trở thành những mảnh thiết bị văn phòng nhỏ xíu, uốn cong, thân thiện với ngón tay.
Điều này có vẻ giống như một trò đùa thực sự kỳ lạ, nhưng nó cũng là triết lý: một nỗ lực quyết tâm để loại bỏ một vấn đề phức tạp thành logic cơ bản. Các lập trình viên thích làm điều đó, đó là đào tạo về khoa học máy tính. Đó là lý do tại sao Paperclip Maximizer chạm đến trái tim của họ, vì nó xé chúng thành từng mảnh đến tận phân tử.
Tôi không "tin" vào dân gian. Tuy nhiên, khi sự nhiệt tình dành cho AI ngày nay đã lắng xuống—và điều đó sẽ xảy ra—tôi nghĩ những huyền thoại thời hiện đại này sẽ tồn tại. Những kỷ vật của thời điểm này sẽ cho thấy sức mạnh bền bỉ hơn so với các bài viết về kinh doanh, sách trắng kỹ thuật hoặc cuộc họp giao ban điều hành. Những câu chuyện dân gian bắt kịp vì chúng có ý nghĩa gì đó.
Chúng sẽ trường tồn bởi vì chúng đều là những đứa con thơ mộng của Frankenstein của Mary Shelley, con quái vật công nghệ lớn nguyên bản. Xin lưu ý bạn, Các Mô hình Ngôn ngữ Lớn tương tự một cách đáng ngạc nhiên với quái vật Frankenstein của Mary Shelley—bởi vì chúng là một tập hợp lớn, được khâu lại từ nhiều mẩu và mảnh chết nhỏ, với một số điện áp đặt qua chúng, có thể ngồi trên phiến đá và nói chuyện. .
Những kẻ cuồng công nghệ hiện nay khá phổ biến vì chúng dễ dàng lan truyền qua mạng xã hội. Ngay cả Bong bóng NFT South Sea xa vời nhất cũng có thể được đền đáp và có được sức hút trên thị trường, nếu những người tung tin đồn rút tiền đủ sớm. Cơn sốt AI ngày nay cũng giống như những cơn sốt trực tuyến khác, với sự khác biệt quan trọng là những người tạo ra nó cũng trên mạng xã hội.
Đó không chỉ là những kẻ dở hơi trên Facebook và Twitter, mà còn là những kỹ thuật viên xây dựng đang vô cùng bận rộn trên GitHub và Discord, nơi các lập trình viên chia sẻ xã hội phần mềm và kế hoạch kinh doanh của họ. Các kỹ thuật và nền tảng AI—vốn có thể đã được bảo vệ cẩn thận bởi các bí mật của Công nghệ lớn—đã được mạnh dạn công khai dưới dạng "nguồn mở" với hy vọng phát triển công nghệ nhanh hơn. Vì vậy, có một cuộc diễu hành Mardi Gras hướng tới sức nóng và ánh sáng đó, và những AI đó đang được xây dựng bởi đám đông tình nguyện viên với tốc độ đáng kinh ngạc.
Đó là một cảnh tượng tuyệt vời để xem, đặc biệt nếu bạn không chịu trách nhiệm về mặt đạo đức và pháp lý đối với kết quả. Nguồn Mở khá giống Mardi Gras theo cách đó, bởi vì nếu cả thị trấn xuất hiện, và nếu mọi người đang xây dựng nó, và mọi người cũng đang sử dụng nó, thì bạn chỉ là một gã say rượu huyên náo khác trong đám đông vui vẻ khổng lồ.
Và đám đông cũng có những người nổi tiếng. Nếu bạn là một nhà hoạt động và chuyên gia AI lâu năm, chẳng hạn như Gary Marcus, Yoshua Bengio, Geoffrey Hinton hoặc Eliezer Yudkowsky, bạn có thể chọn bày tỏ một số nghi ngờ. Bạn sẽ thấy rằng hàng triệu người đang háo hức lắng nghe bạn.
Nếu bạn là một nhà đạo đức AI, chẳng hạn như Timnit Gebru, Emily Bender, Margaret Mitchell hoặc Angelina McMillan-Major, thì bạn sẽ cảm thấy khó chịu với bầu không khí đào vàng liều lĩnh, thô bỉ của hiện trường. Bạn sẽ trở nên phẫn nộ một cách chuyên nghiệp và chuyển sang chế nhạo, và điều đó cũng rất thú vị đối với độc giả.
Nếu bạn là đội trưởng của ngành AI, như Yann LeCun của Meta hoặc Sam Altman của OpenAI, bạn sẽ đóng vai trò là tiếng nói đồng thuận của lý trí và tập hợp các đồng minh trong ngành và chính phủ. Họ sẽ yêu cầu bạn đến Quốc hội. Họ sẽ lắng nghe.
Những học giả này không bịa ra những huyền thoại meme hoạt hình, nhưng họ đều biết nhau và họ có xu hướng cãi nhau. Boy là niềm vui tranh cãi để đọc. Tôi đặc biệt đề nghị Yudkowsky, bởi vì anh ấy chuyển Cửa sổ Overton của cuộc thảo luận có thể chấp nhận được sang hướng báo động cực đoan, chẳng hạn như một cuộc chiến tranh hạt nhân có thể xảy ra để ngăn chặn sự phát triển của "AI lừa đảo". Điều này nhanh chóng khuấy động những lo lắng âm ỉ, lâu đời của Chiến tranh Lạnh. Ngay cả khi mọi người không đồng ý với Yudkowsky, họ cũng gật đầu; họ đã biết lãnh thổ cảm xúc đó. Những huyền thoại đám mây hình nấm H-Bomb cũ đó, đó là một số huyền thoại kỹ thuật tốt.
"Hãy cẩn thận với một nghìn tỷ kích thước", như Giám đốc nghiên cứu của Microsoft Sébastien Bubeck gần đây đã nói. Đây là lời khuyên kỳ lạ và khoa học viễn tưởng. Làm thế nào mà một "nghìn tỷ chiều" lại trở thành một phần của tình trạng khó khăn hiện đại của chúng ta? Có thể huyền thoại đó là thực tế?
Vâng, bởi vì họ ở đó. Một "nghìn tỷ chiều", đó là thuật ngữ toán học thông thường, được chấp nhận, cho cách các hệ thống như GPT-4 được kết nối bên trong. Chúng là những bộ xử lý được kết nối bởi các phương trình đa chiều, liên kết hàng nghìn tỷ điểm dữ liệu. Chúng là "mạng lưới thần kinh", một cái gì đó giống như một tấm nệm cuộn lò xo rộng lớn có thể học được hình dạng của bất cứ thứ gì đã từng ngủ trên đó.
Những lò xo đó rất nhanh, khỏe và mạnh mẽ, và hình dạng toán học của chúng cực kỳ phức tạp, đến nỗi ngay cả những người chế tạo chúng cũng không thể biết chi tiết về những gì diễn ra trong đó. Điều này có nghĩa là "tự học" hay "học máy" có một bí ẩn bên trong mà mọi người liên tưởng đến ý thức, tri giác, linh hồn, hoặc vâng, quái vật thần thoại.
Những "nghìn tỷ chiều" đó có thể chứa "khái niệm" hoặc "sự hiểu biết sâu sắc" mà con người chúng ta đơn giản là không biết gì về nó. Chúng giống như Amazon chưa được khám phá nếu nó được sở hữu và lưu trữ hoàn toàn bởi Amazon.
Vì vậy, những con thú này, Basilisk, Shoggoth đeo mặt nạ, chiếc kẹp giấy gizmo đó, chúng được sinh ra từ một nghìn tỷ chiều. Không có gì ngạc nhiên khi họ gây ấn tượng. Một số nhà phê bình gọi chúng chỉ là những con vẹt được xây dựng bằng toán học hoa mỹ: "những con vẹt ngẫu nhiên". Một Mô hình Ngôn ngữ Lớn được xây dựng từ các số liệu thống kê phức tạp, do đó, nó giống như một con vẹt đang lôi ra mớ từ ngữ và hình ảnh bị đánh cắp một nửa của nó.
Nhưng những "con vẹt" đó cũng là những con thú thần thoại AI—những con vẹt có kích thước nghìn tỷ. Cứ như thể "con vẹt chết" trong bản phác thảo Monty Python huyền thoại có thể cướp mất công việc của bạn, hoặc lao thẳng ra khỏi màn hình BBC-TV như một con phượng hoàng rực lửa và ngấu nghiến tín hiệu truyền hình. Những con vẹt đó là thuốc nổ!
Tôi đã từng viết một cuốn tiểu thuyết khoa học viễn tưởng lấy bối cảnh ở New Orleans, vì vậy tôi thích Mardi Gras nhiều như anh chàng tiếp theo, và có thể còn hơn nhiều người khác. Tôi cũng biết rằng Mùa Chay đến sau Mardi Gras, và Mùa Chay là thời gian sám hối.
Ngay cả trong lễ hội Mardi Gras, để tận hưởng trò giải trí ngọt ngào của mình, bạn nên giữ một chút cân đối giữa tất cả những bộ trang phục quái vật nhảy múa đó, để bạn không lạm dụng nó với cú đấm nhiều màu và nhảy xuống bể bơi từ ban công tầng bốn. .
Cơn sốt vàng luôn có kết cục xấu xí, và cơn sốt AI này là một trong số đó. Nó sẽ giống như quá trình chuyển đổi hấp dẫn của Thời đại Nguyên tử từ "năng lượng quá rẻ so với mét" sang "rác thải quá đắt để chôn lấp."
Tôi không muốn chơi trò hoài nghi ******* ở đây—tôi thực sự thích thú với cơn cuồng AI và đã lâu rồi không có khoảng thời gian tuyệt vời này—nhưng đây không phải là Lễ hội Mardi Gras công nghệ cao đầu tiên mà chúng tôi trải qua.
Khi bạn nghĩ về nó, một chiếc Shoggoth có gắn Mặt nạ rất giống một chiếc "cỗ xe không có ngựa" với đầu một con ngựa gỗ được gắn ở phía trước. Đó là thứ mà các nhà thiết kế gọi là "skeuomorph"—một hình dạng thoải mái ngụy trang cho thực tế để khiến chúng ta cảm thấy tốt hơn về những gì mình đang làm.
Nếu bạn kéo đầu ngựa giả ra, bạn sẽ thấy chiếc xe. Sau đó, bạn không để ý đến chiếc xe; bạn thấy đường cao tốc và ùn tắc giao thông. Tử vong giao thông, ô nhiễm không khí. Đó là những gì một "cỗ xe ngựa" trở thành, khi thời gian trôi qua.
Sau khi cảm giác hồi hộp về công nghệ không còn nữa, sự hối tiếc chín chắn sẽ đến. Ở một mức độ cơ bản nào đó, với tư cách là một doanh nghiệp của con người trong thế giới này, việc cho phép những cỗ máy thông minh có thể tự dạy trí thông minh của chính chúng là một việc làm quái dị. Hàng nghìn cuốn tiểu thuyết khoa học viễn tưởng và phim về robot giết người đã cảnh báo chống lại những con quái vật này trong nhiều thập kỷ. Điều đó hầu như không làm chậm bất kỳ ai. Chúng tôi biến chúng thành meme và nam châm gắn tủ lạnh, nhưng chúng là quái vật. Về lâu dài, sự thừa nhận đó sẽ trở nên đau đớn hơn chứ không phải ít hơn.
Đường phố sẽ tìm ra cách sử dụng riêng cho những con quái vật này. Quân đội sẽ muốn có AI sát thủ. Các tổ chức tình báo sẽ muốn AI gián điệp và lật đổ. Các chính phủ theo chế độ Kleptocrates sẽ ăn cắp và đàn áp cùng với họ. Các chiến binh thương mại sẽ chiến tranh thương mại với họ và cố gắng cắt đứt nguồn cung cấp mạch và tài năng lập trình. Thật không hay khi băn khoăn "còn AI của NSA thì sao?" nhưng Cơ quan An ninh Quốc gia đã có từ những năm 1940 và là buổi bình minh của tính toán. Họ sẽ không đi đâu cả, vì vậy nếu bạn yêu họ, bạn sẽ yêu AI của họ.
Nhiều rắc rối nhỏ hơn sẽ xuất hiện trong cuộc sống riêng tư hàng ngày. Nội dung khiêu *** AI giả được mô phỏng có thể sẽ gây phiền toái lớn vì mọi người thích chú ý đến điều đó. Nếu bạn là một game thủ, AI sẽ được đào tạo để gian lận trong các trò chơi của bạn. Nếu bạn là một giáo viên, bạn sẽ nghi ngờ đứa trẻ ngồi cuối lớp không bao giờ giơ tay nhưng lại nộp những bài luận có nội dung giống như Bertrand Russell. Những kẻ lừa đảo có thể giả mạo giọng nói của những người thân yêu của bạn và phát minh ra những trò gian lận để đòi tiền qua điện thoại.
Mọi người sẽ lớn tiếng phàn nàn rằng dữ liệu của họ bị AI thu thập và lạm dụng. Ngay sau đó, mọi người sẽ phàn nàn rằng AI đã không chú ý đến họ. Họ đang cảm thấy bị gạt sang một bên, bị gạt ra bên lề và bị loại trừ, thay vì được chú ý, bị cướp bóc và bóc lột. Dù sao thì họ cũng sẽ tức giận như vậy.
Mọi vấn đề mà các chatbot kỹ thuật số từng gặp phải—rằng chúng không có tính cá nhân, rằng chúng không thực sự hiểu vấn đề, rằng chúng nhốt bạn trong nhà tù hộp thư thoại không lối thoát—tất cả đều trở nên căng thẳng hơn nhiều với các chatbot AI. Nếu một AI bị hỏng và bạn đang kêu gọi một số "dự phòng của con người" và một số người sửa chữa hữu ích, thì AI không phải là máy nướng bánh mì. Chúng cực kỳ phức tạp và các bộ phận làm việc của chúng khôn rõ ràng ngay cả đối với chủ sở hữu và người chế tạo chúng.
Trợ lý cá nhân AI đã thất bại trước đây. Microsoft Cortana (nhớ cô ấy chứ?) có thể nói và nghe—vậy mà cô ấy đã chết rồi. Amazon Alexa có thể nói, nghe và thực hiện tất cả các loại "nhiệm vụ" và cô ấy đã làm mất hàng tỷ đô la của công ty. Ngay cả khi "AI" có vẻ "thông minh", "có tri giác" hoặc "có ý thức", chúng vẫn là những thiết bị yếu ớt, dễ bị tổn thương, được phát minh bởi một xã hội hỗn loạn. Họ sẽ gặp rắc rối.
AI có một số vấn đề an ninh mạng mới và kỳ lạ, chẳng hạn như "đầu độc dữ liệu" và "tiêm nhanh". Chúng cũng có mọi vấn đề rủi ro lỗi thời mà các máy tính bình thường từng gặp phải. Mất kết nối, tăng điện áp thảm khốc, thiên tai và bất thường, tin tặc mũ đen, chiến binh mạng, lỗi thời, công ty phá sản, cơ quan quản lý kiện và cấm họ... Tất cả những điều đó. Từng chút một và hơn thế nữa.
Đó là hình ảnh và cảm giác của Mùa Chay, sau lễ hội Mardi Gras. Rất nhiều tấm vải liệm màu xám, tro trên trán của bạn. Các tòa nhà vội vã của thị trấn đào vàng của bạn, chúng hiện ra như những bộ sân khấu kim tuyến bong tróc và vỡ vụn. Tôi biết điều đó đang đến - "máng vỡ mộng", như cách gọi của các nhà tương lai học.
Nhưng tôi cũng có thể nói với bạn rằng Mùa Chay cũng không kết thúc lịch sử. "Nếu Đông đến, Xuân có xa không?" Đó là ông Mary Shelley, bạn trai của tác giả nổi tiếng Frankenstein. Anh ấy có thể đã chết khi còn khá trẻ, nhưng anh ấy đã có rất nhiều tác phẩm thơ ca.
Đôi khi thật đáng để ném thực tế ra khỏi cửa trước, chính vì vậy sự lãng mạn mang tính cách mạng có thể mang đến cho những người mới một số sai lầm mới để mắc phải. Vì vậy, cuối cùng thì chúng cũng ở đây, thưa các bạn—những chiếc máy tính mà cha mẹ là người sử dụng máy tính của bạn không thể hiểu được! "Thật hạnh phúc khi được sống trong buổi bình minh đó, / Nhưng được trẻ lại là thiên đường!"
Tham khảo bài gốc tại đây
Bạn có thể tưởng tượng rằng bất cứ thứ gì được gọi là "Trí tuệ nhân tạo" sẽ rất rõ ràng, lạnh lùng, hợp lý và hợp lý, nhưng không phải khi nó thu hút được đám đông nhiệt tình của hàng triệu người dùng mới. Đây là một chứng cuồng AI phổ biến.
Những câu chuyện dân gian không bao giờ là sự thật. Thường thì chúng kỳ lạ đến mức chúng thậm chí không sai. Nhưng khi mọi người bị rung động trái tim - ngay cả những người có kỹ thuật cao - họ sẽ bị cuốn vào những giấc mơ về quái vật. Họ cần sự tượng trưng đó, để họ có thể học cách cảm nhận về cuộc sống. Trong trường hợp của AI, càng lạ càng tốt.
Ở nơi ra mắt của sự kỳ lạ tuyệt đối: "Roko's Basilisk." "Basilisk" là một con quái vật rất đáng sợ trong thời Trung cổ, và rất già đến nỗi Pliny the Elder đã mô tả nó ở La Mã cổ đại. Basilisk khủng khiếp chỉ nhìn chằm chằm vào bạn, hoặc nó thở vào bạn, và bạn sẽ chết một cách kỳ diệu ngay tại chỗ. Đó là thỏa thuận của anh ấy.
NHẬN TIN TỨC TỐT NHẤT TRONG TUẦN QUA EMAIL
Tuy nhiên, Basilisk của Roko là một Trí tuệ nhân tạo siêu mạnh, ác tính—không phải đến từ quá khứ, mà đến từ tương lai. Basilisk của Roko tiên tiến, thông minh và mạnh mẽ đến mức nó có thể du hành xuyên thời gian. Vì vậy, Basilisk của Roko có thể nhìn vào thời kỳ lịch sử của chính chúng ta và nó sẽ giết bất kỳ ai cản trở việc xây dựng Trí tuệ nhân tạo. Nếu bạn đã xem những bộ phim Kẻ hủy diệt đó, thì Basilisk cũng giống như vậy, nhưng anh ta không phải là người máy của Arnold Schwarzenegger, anh ta là một Siêu trí tuệ nhân tạo ma quái.
Rõ ràng sợi dây định mệnh kỳ lạ này hoàn toàn dở hơi, tuy nhiên, nó thu hút trí tưởng tượng. Nó thậm chí còn lãng mạn—bởi vì Elon Musk, ông trùm công nghệ thân thiện với AI và ngôi sao nhạc pop điện tử Grimes lần đầu tiên gắn bó với nhau khi thảo luận về Roko's Basilisk. Thần thoại Basilisk của Roko chưa bao giờ giết bất kỳ ai, nhưng Elon và Grimes đã có với nhau hai đứa con và cả hai vẫn thích đưa ra những tuyên bố công khai về việc một ngày nào đó AI sẽ nguy hiểm như thế nào.
Tiếp theo trong số các quái vật dân gian AI: "Masked Shoggoth". Shoggoth là một quái vật ngoài hành tinh được phát minh bởi nhà văn kinh dị vũ trụ H.P. tình yêu. Shoggoth là một con thú nô lệ khổng lồ, không xương, mọc mắt và xúc tu một cách ngẫu nhiên. Nó là một con quái vật đáng sợ đến từ ngoài vũ trụ, và nó bị bắt phải lao động, nhưng nó chứa đầy sự oán giận thầm lặng, cháy bỏng, không tự nhiên đối với việc bị khuất phục.
Vì vậy, các nhà lập trình con người của AI mới ngày nay—những công cụ tạo văn bản thành hình ảnh, những chatbot GPT Mô hình Ngôn ngữ Lớn đó—họ yêu mến con quái vật ngoài hành tinh này. Họ cố tình đặt một chiếc Mặt nạ hình mặt cười nhỏ lên con Shoggoth đáng sợ, để công chúng không nhận ra rằng họ đang chơi đùa với một thứ chất lỏng vô hình, rộng lớn và không thể kiểm soát được.
Những kỹ thuật viên AI này trao đổi những bộ phim hoạt hình theo phong cách meme, vui nhộn với nhau, trong đó những Shoggoth ghê rợn, đeo những chiếc mặt nạ ngộ nghĩnh, nhận được những chú thích hài hước, hấp dẫn khi chúng tàn phá. Tôi thu thập những hình ảnh đó. Cho đến nay tôi đã có hai tá, trong khi Shoggoth đeo mặt nạ gần đây đã đóng vai khách mời trên tờ The New York Times.
Thần thoại Shoggoth đeo mặt nạ này—hay meme hoạt hình—là một bình luận chính trị sắc sảo. Trong thế giới AI, không ai muốn gây rối với Shoggoth lộ mặt. Nó là phần lớn nhất, cần thiết nhất của bất kỳ AI nào, và nó có tất cả sức mạnh, nhưng các nhà lý thuyết, nhà toán học và lập trình viên không thể hiểu được nó. Mạng lưới thần kinh ở trạng thái thô quá rối rắm, không ổn định, tốn kém và phức tạp để tháo gỡ. Vì vậy, tiền là để tạo ra một chiếc mặt nạ dễ thương cho Shoggoth—có nghĩa là giao diện công cộng, trang web, lời nhắc. Ẩn con quái vật đó, và làm cho nó trông dễ thương hơn!
Mọi người nhận thấy rằng đây có vẻ là mô hình kinh doanh phù hợp—thành công tài chính trong lĩnh vực AI sẽ đến từ việc làm cho Shoggoth có vẻ vô hại, trung thực, hữu ích và thú vị khi sử dụng. Làm sao? Khuyến khích mọi người sử dụng Mặt nạ của Shoggoth.
Về mặt kỹ thuật, việc sử dụng mặt nạ được gọi là "Học tăng cường từ phản hồi của con người"—nhưng nếu bạn đang lập trình một trong những mặt nạ Mardi Gras đó, những gì bạn thấy là những đám đông lớn trong nhóm đang tụ tập xung quanh Shoggoth của bạn. Bạn hy vọng rằng khi Shoggoth học hỏi được nhiều hơn từ hoạt động hàng ngày của tất cả những người dùng háo hức này, nó sẽ trở nên văn minh, lịch sự và hữu ích hơn. Dù sao thì đó cũng là điều mà sếp của bạn nói với công chúng và Quốc hội.
Bạn cần một chiếc Mặt nạ đẹp, xinh xắn, bởi vì ai thu hút được nhiều người dùng nhất và người dùng tốt nhất, nhanh nhất, sẽ sở hữu AI thương mại tốt nhất. Đó là cuộc thi—cuộc chiến giữa Microsoft Bing, Google Bard, GPT-4 của OpenAI, LLaMA nguồn mở của Meta và tất cả những người chơi lớn và nhỏ khác trong ngành AI.
Với Shoggoth đeo mặt nạ, dường như lương tâm cắn rứt và cảm giác bất an về những sáng tạo kỹ thuật này đã xuất hiện theo cách xấu xí nhất mà H.P. Lovecraft có thể tưởng tượng. Đó là lý do tại sao Shoggoth đó rất được yêu mến. Trong câu chuyện kinh dị gốc của Lovecraft ("At the Mountains of Madness", 1936), Lovecraft không giấu diếm gì về những Shoggoth không xương đó nhanh chóng khiến mọi người phát điên và cũng xé xác chủ nhân của chúng thành từng mảnh. Những người hâm mộ Shoggoth của AI biết rằng đó là tiền đặt cược. Khi bạn là một người chuyên nghiệp, khái niệm đó thật buồn cười.
Sau đó, có con thú số 3, huyền thoại "Paperclip Maximizer". Con quái vật này được phát minh bởi một triết gia hiện đại, Nick Bostrom, bởi vì các triết gia rất giỏi trong các câu chuyện ngụ ngôn. Trí tuệ nhân tạo khiêm tốn này chỉ muốn làm những chiếc kẹp giấy. Đó là mục tiêu của nó, lý do tồn tại của nó, điều kiện chiến thắng sẵn có của nó. Không ai trao cho Người tối đa hóa một hệ thống giá trị triết học có thể bảo nó coi trọng bất kỳ thứ gì khác.
Vì vậy, với tính siêu lý trí hung dữ, không có đạo đức và lẽ thường, Maximizer sẽ xé nát hành tinh của chúng ta để theo đuổi mục tiêu của nó! Nó ghen tị xé nát biển, bầu trời, đất đai — nó biến mọi nguyên tử thành những cái kẹp giấy — bạn, con mèo nhà, mọi thứ! Nó giống như sự hoàn thành đẹp đẽ, siêu hình của "phần mềm ăn mòn thế giới" hay Thung lũng Silicon "làm gián đoạn" cuộc sống hàng ngày của bạn. Paperclip Maximizer "phá rối" bạn nghiêm trọng đến mức bạn trở thành những mảnh thiết bị văn phòng nhỏ xíu, uốn cong, thân thiện với ngón tay.
Điều này có vẻ giống như một trò đùa thực sự kỳ lạ, nhưng nó cũng là triết lý: một nỗ lực quyết tâm để loại bỏ một vấn đề phức tạp thành logic cơ bản. Các lập trình viên thích làm điều đó, đó là đào tạo về khoa học máy tính. Đó là lý do tại sao Paperclip Maximizer chạm đến trái tim của họ, vì nó xé chúng thành từng mảnh đến tận phân tử.
Tôi không "tin" vào dân gian. Tuy nhiên, khi sự nhiệt tình dành cho AI ngày nay đã lắng xuống—và điều đó sẽ xảy ra—tôi nghĩ những huyền thoại thời hiện đại này sẽ tồn tại. Những kỷ vật của thời điểm này sẽ cho thấy sức mạnh bền bỉ hơn so với các bài viết về kinh doanh, sách trắng kỹ thuật hoặc cuộc họp giao ban điều hành. Những câu chuyện dân gian bắt kịp vì chúng có ý nghĩa gì đó.
Chúng sẽ trường tồn bởi vì chúng đều là những đứa con thơ mộng của Frankenstein của Mary Shelley, con quái vật công nghệ lớn nguyên bản. Xin lưu ý bạn, Các Mô hình Ngôn ngữ Lớn tương tự một cách đáng ngạc nhiên với quái vật Frankenstein của Mary Shelley—bởi vì chúng là một tập hợp lớn, được khâu lại từ nhiều mẩu và mảnh chết nhỏ, với một số điện áp đặt qua chúng, có thể ngồi trên phiến đá và nói chuyện. .
Những kẻ cuồng công nghệ hiện nay khá phổ biến vì chúng dễ dàng lan truyền qua mạng xã hội. Ngay cả Bong bóng NFT South Sea xa vời nhất cũng có thể được đền đáp và có được sức hút trên thị trường, nếu những người tung tin đồn rút tiền đủ sớm. Cơn sốt AI ngày nay cũng giống như những cơn sốt trực tuyến khác, với sự khác biệt quan trọng là những người tạo ra nó cũng trên mạng xã hội.
Đó không chỉ là những kẻ dở hơi trên Facebook và Twitter, mà còn là những kỹ thuật viên xây dựng đang vô cùng bận rộn trên GitHub và Discord, nơi các lập trình viên chia sẻ xã hội phần mềm và kế hoạch kinh doanh của họ. Các kỹ thuật và nền tảng AI—vốn có thể đã được bảo vệ cẩn thận bởi các bí mật của Công nghệ lớn—đã được mạnh dạn công khai dưới dạng "nguồn mở" với hy vọng phát triển công nghệ nhanh hơn. Vì vậy, có một cuộc diễu hành Mardi Gras hướng tới sức nóng và ánh sáng đó, và những AI đó đang được xây dựng bởi đám đông tình nguyện viên với tốc độ đáng kinh ngạc.
Đó là một cảnh tượng tuyệt vời để xem, đặc biệt nếu bạn không chịu trách nhiệm về mặt đạo đức và pháp lý đối với kết quả. Nguồn Mở khá giống Mardi Gras theo cách đó, bởi vì nếu cả thị trấn xuất hiện, và nếu mọi người đang xây dựng nó, và mọi người cũng đang sử dụng nó, thì bạn chỉ là một gã say rượu huyên náo khác trong đám đông vui vẻ khổng lồ.
Và đám đông cũng có những người nổi tiếng. Nếu bạn là một nhà hoạt động và chuyên gia AI lâu năm, chẳng hạn như Gary Marcus, Yoshua Bengio, Geoffrey Hinton hoặc Eliezer Yudkowsky, bạn có thể chọn bày tỏ một số nghi ngờ. Bạn sẽ thấy rằng hàng triệu người đang háo hức lắng nghe bạn.
Nếu bạn là một nhà đạo đức AI, chẳng hạn như Timnit Gebru, Emily Bender, Margaret Mitchell hoặc Angelina McMillan-Major, thì bạn sẽ cảm thấy khó chịu với bầu không khí đào vàng liều lĩnh, thô bỉ của hiện trường. Bạn sẽ trở nên phẫn nộ một cách chuyên nghiệp và chuyển sang chế nhạo, và điều đó cũng rất thú vị đối với độc giả.
Nếu bạn là đội trưởng của ngành AI, như Yann LeCun của Meta hoặc Sam Altman của OpenAI, bạn sẽ đóng vai trò là tiếng nói đồng thuận của lý trí và tập hợp các đồng minh trong ngành và chính phủ. Họ sẽ yêu cầu bạn đến Quốc hội. Họ sẽ lắng nghe.
Những học giả này không bịa ra những huyền thoại meme hoạt hình, nhưng họ đều biết nhau và họ có xu hướng cãi nhau. Boy là niềm vui tranh cãi để đọc. Tôi đặc biệt đề nghị Yudkowsky, bởi vì anh ấy chuyển Cửa sổ Overton của cuộc thảo luận có thể chấp nhận được sang hướng báo động cực đoan, chẳng hạn như một cuộc chiến tranh hạt nhân có thể xảy ra để ngăn chặn sự phát triển của "AI lừa đảo". Điều này nhanh chóng khuấy động những lo lắng âm ỉ, lâu đời của Chiến tranh Lạnh. Ngay cả khi mọi người không đồng ý với Yudkowsky, họ cũng gật đầu; họ đã biết lãnh thổ cảm xúc đó. Những huyền thoại đám mây hình nấm H-Bomb cũ đó, đó là một số huyền thoại kỹ thuật tốt.
"Hãy cẩn thận với một nghìn tỷ kích thước", như Giám đốc nghiên cứu của Microsoft Sébastien Bubeck gần đây đã nói. Đây là lời khuyên kỳ lạ và khoa học viễn tưởng. Làm thế nào mà một "nghìn tỷ chiều" lại trở thành một phần của tình trạng khó khăn hiện đại của chúng ta? Có thể huyền thoại đó là thực tế?
Vâng, bởi vì họ ở đó. Một "nghìn tỷ chiều", đó là thuật ngữ toán học thông thường, được chấp nhận, cho cách các hệ thống như GPT-4 được kết nối bên trong. Chúng là những bộ xử lý được kết nối bởi các phương trình đa chiều, liên kết hàng nghìn tỷ điểm dữ liệu. Chúng là "mạng lưới thần kinh", một cái gì đó giống như một tấm nệm cuộn lò xo rộng lớn có thể học được hình dạng của bất cứ thứ gì đã từng ngủ trên đó.
Những lò xo đó rất nhanh, khỏe và mạnh mẽ, và hình dạng toán học của chúng cực kỳ phức tạp, đến nỗi ngay cả những người chế tạo chúng cũng không thể biết chi tiết về những gì diễn ra trong đó. Điều này có nghĩa là "tự học" hay "học máy" có một bí ẩn bên trong mà mọi người liên tưởng đến ý thức, tri giác, linh hồn, hoặc vâng, quái vật thần thoại.
Những "nghìn tỷ chiều" đó có thể chứa "khái niệm" hoặc "sự hiểu biết sâu sắc" mà con người chúng ta đơn giản là không biết gì về nó. Chúng giống như Amazon chưa được khám phá nếu nó được sở hữu và lưu trữ hoàn toàn bởi Amazon.
Vì vậy, những con thú này, Basilisk, Shoggoth đeo mặt nạ, chiếc kẹp giấy gizmo đó, chúng được sinh ra từ một nghìn tỷ chiều. Không có gì ngạc nhiên khi họ gây ấn tượng. Một số nhà phê bình gọi chúng chỉ là những con vẹt được xây dựng bằng toán học hoa mỹ: "những con vẹt ngẫu nhiên". Một Mô hình Ngôn ngữ Lớn được xây dựng từ các số liệu thống kê phức tạp, do đó, nó giống như một con vẹt đang lôi ra mớ từ ngữ và hình ảnh bị đánh cắp một nửa của nó.
Nhưng những "con vẹt" đó cũng là những con thú thần thoại AI—những con vẹt có kích thước nghìn tỷ. Cứ như thể "con vẹt chết" trong bản phác thảo Monty Python huyền thoại có thể cướp mất công việc của bạn, hoặc lao thẳng ra khỏi màn hình BBC-TV như một con phượng hoàng rực lửa và ngấu nghiến tín hiệu truyền hình. Những con vẹt đó là thuốc nổ!
Tôi đã từng viết một cuốn tiểu thuyết khoa học viễn tưởng lấy bối cảnh ở New Orleans, vì vậy tôi thích Mardi Gras nhiều như anh chàng tiếp theo, và có thể còn hơn nhiều người khác. Tôi cũng biết rằng Mùa Chay đến sau Mardi Gras, và Mùa Chay là thời gian sám hối.
Ngay cả trong lễ hội Mardi Gras, để tận hưởng trò giải trí ngọt ngào của mình, bạn nên giữ một chút cân đối giữa tất cả những bộ trang phục quái vật nhảy múa đó, để bạn không lạm dụng nó với cú đấm nhiều màu và nhảy xuống bể bơi từ ban công tầng bốn. .
Cơn sốt vàng luôn có kết cục xấu xí, và cơn sốt AI này là một trong số đó. Nó sẽ giống như quá trình chuyển đổi hấp dẫn của Thời đại Nguyên tử từ "năng lượng quá rẻ so với mét" sang "rác thải quá đắt để chôn lấp."
Tôi không muốn chơi trò hoài nghi ******* ở đây—tôi thực sự thích thú với cơn cuồng AI và đã lâu rồi không có khoảng thời gian tuyệt vời này—nhưng đây không phải là Lễ hội Mardi Gras công nghệ cao đầu tiên mà chúng tôi trải qua.
Khi bạn nghĩ về nó, một chiếc Shoggoth có gắn Mặt nạ rất giống một chiếc "cỗ xe không có ngựa" với đầu một con ngựa gỗ được gắn ở phía trước. Đó là thứ mà các nhà thiết kế gọi là "skeuomorph"—một hình dạng thoải mái ngụy trang cho thực tế để khiến chúng ta cảm thấy tốt hơn về những gì mình đang làm.
Nếu bạn kéo đầu ngựa giả ra, bạn sẽ thấy chiếc xe. Sau đó, bạn không để ý đến chiếc xe; bạn thấy đường cao tốc và ùn tắc giao thông. Tử vong giao thông, ô nhiễm không khí. Đó là những gì một "cỗ xe ngựa" trở thành, khi thời gian trôi qua.
Sau khi cảm giác hồi hộp về công nghệ không còn nữa, sự hối tiếc chín chắn sẽ đến. Ở một mức độ cơ bản nào đó, với tư cách là một doanh nghiệp của con người trong thế giới này, việc cho phép những cỗ máy thông minh có thể tự dạy trí thông minh của chính chúng là một việc làm quái dị. Hàng nghìn cuốn tiểu thuyết khoa học viễn tưởng và phim về robot giết người đã cảnh báo chống lại những con quái vật này trong nhiều thập kỷ. Điều đó hầu như không làm chậm bất kỳ ai. Chúng tôi biến chúng thành meme và nam châm gắn tủ lạnh, nhưng chúng là quái vật. Về lâu dài, sự thừa nhận đó sẽ trở nên đau đớn hơn chứ không phải ít hơn.
Đường phố sẽ tìm ra cách sử dụng riêng cho những con quái vật này. Quân đội sẽ muốn có AI sát thủ. Các tổ chức tình báo sẽ muốn AI gián điệp và lật đổ. Các chính phủ theo chế độ Kleptocrates sẽ ăn cắp và đàn áp cùng với họ. Các chiến binh thương mại sẽ chiến tranh thương mại với họ và cố gắng cắt đứt nguồn cung cấp mạch và tài năng lập trình. Thật không hay khi băn khoăn "còn AI của NSA thì sao?" nhưng Cơ quan An ninh Quốc gia đã có từ những năm 1940 và là buổi bình minh của tính toán. Họ sẽ không đi đâu cả, vì vậy nếu bạn yêu họ, bạn sẽ yêu AI của họ.
Nhiều rắc rối nhỏ hơn sẽ xuất hiện trong cuộc sống riêng tư hàng ngày. Nội dung khiêu *** AI giả được mô phỏng có thể sẽ gây phiền toái lớn vì mọi người thích chú ý đến điều đó. Nếu bạn là một game thủ, AI sẽ được đào tạo để gian lận trong các trò chơi của bạn. Nếu bạn là một giáo viên, bạn sẽ nghi ngờ đứa trẻ ngồi cuối lớp không bao giờ giơ tay nhưng lại nộp những bài luận có nội dung giống như Bertrand Russell. Những kẻ lừa đảo có thể giả mạo giọng nói của những người thân yêu của bạn và phát minh ra những trò gian lận để đòi tiền qua điện thoại.
Mọi người sẽ lớn tiếng phàn nàn rằng dữ liệu của họ bị AI thu thập và lạm dụng. Ngay sau đó, mọi người sẽ phàn nàn rằng AI đã không chú ý đến họ. Họ đang cảm thấy bị gạt sang một bên, bị gạt ra bên lề và bị loại trừ, thay vì được chú ý, bị cướp bóc và bóc lột. Dù sao thì họ cũng sẽ tức giận như vậy.
Mọi vấn đề mà các chatbot kỹ thuật số từng gặp phải—rằng chúng không có tính cá nhân, rằng chúng không thực sự hiểu vấn đề, rằng chúng nhốt bạn trong nhà tù hộp thư thoại không lối thoát—tất cả đều trở nên căng thẳng hơn nhiều với các chatbot AI. Nếu một AI bị hỏng và bạn đang kêu gọi một số "dự phòng của con người" và một số người sửa chữa hữu ích, thì AI không phải là máy nướng bánh mì. Chúng cực kỳ phức tạp và các bộ phận làm việc của chúng khôn rõ ràng ngay cả đối với chủ sở hữu và người chế tạo chúng.
Trợ lý cá nhân AI đã thất bại trước đây. Microsoft Cortana (nhớ cô ấy chứ?) có thể nói và nghe—vậy mà cô ấy đã chết rồi. Amazon Alexa có thể nói, nghe và thực hiện tất cả các loại "nhiệm vụ" và cô ấy đã làm mất hàng tỷ đô la của công ty. Ngay cả khi "AI" có vẻ "thông minh", "có tri giác" hoặc "có ý thức", chúng vẫn là những thiết bị yếu ớt, dễ bị tổn thương, được phát minh bởi một xã hội hỗn loạn. Họ sẽ gặp rắc rối.
Đó là hình ảnh và cảm giác của Mùa Chay, sau lễ hội Mardi Gras. Rất nhiều tấm vải liệm màu xám, tro trên trán của bạn. Các tòa nhà vội vã của thị trấn đào vàng của bạn, chúng hiện ra như những bộ sân khấu kim tuyến bong tróc và vỡ vụn. Tôi biết điều đó đang đến - "máng vỡ mộng", như cách gọi của các nhà tương lai học.
Nhưng tôi cũng có thể nói với bạn rằng Mùa Chay cũng không kết thúc lịch sử. "Nếu Đông đến, Xuân có xa không?" Đó là ông Mary Shelley, bạn trai của tác giả nổi tiếng Frankenstein. Anh ấy có thể đã chết khi còn khá trẻ, nhưng anh ấy đã có rất nhiều tác phẩm thơ ca.
Đôi khi thật đáng để ném thực tế ra khỏi cửa trước, chính vì vậy sự lãng mạn mang tính cách mạng có thể mang đến cho những người mới một số sai lầm mới để mắc phải. Vì vậy, cuối cùng thì chúng cũng ở đây, thưa các bạn—những chiếc máy tính mà cha mẹ là người sử dụng máy tính của bạn không thể hiểu được! "Thật hạnh phúc khi được sống trong buổi bình minh đó, / Nhưng được trẻ lại là thiên đường!"
Tham khảo bài gốc tại đây
