Thoại Viết Hoàng
Writer
Tại buổi lễ tốt nghiệp của Học viện Không quân Hoa Kỳ vào đầu tháng này, Tổng thống Biden đã đưa ra lời cảnh báo trực tiếp nhất cho đến nay về sức mạnh của trí tuệ nhân tạo (AI), dự đoán rằng công nghệ này có thể “vượt qua suy nghĩ của con người” trong một tương lai không xa.
“Sẽ không dễ dàng gì”, Biden nói, trích dẫn một cuộc họp gần đây của Phòng Bầu dục với “tám nhà khoa học hàng đầu trong lĩnh vực AI”. “Chúng ta có rất nhiều việc phải giải quyết. Một cơ hội đáng kinh ngạc, nhưng có rất nhiều [việc] phải giải quyết”.
Chắc chắn, vòng chatbot AI tổng hợp mới nhất rất gọn gàng. Nó có thể giúp bạn lên kế hoạch cho một kỳ nghỉ gia đình, diễn tập các cuộc trò chuyện thực tế đầy thách thức, tóm tắt các bài báo học thuật dày đặc và “giải thích ngân hàng dự trữ” một cách dễ hiểu cho học sinh phổ thông.
Tuy nhiên, trong những tuần gần đây, một số chuyên gia AI nổi tiếng nhất thế giới - những người biết nhiều về chủ đề này hơn Biden chẳng hạn - đã bắt đầu gióng lên hồi chuông cảnh báo về những gì sẽ xảy ra tiếp theo.
Ngày nay, công nghệ hỗ trợ ChatGPT được gọi là mô hình ngôn ngữ lớn (LLM). Được đào tạo để nhận dạng các mẫu trong số lượng văn bản khổng lồ - phần lớn mọi thứ trên internet - các hệ thống này xử lý bất kỳ chuỗi từ nào chúng được cung cấp và dự đoán từ nào tiếp theo. Chúng là một ví dụ tiên tiến về “trí tuệ nhân tạo”: một mô hình được tạo ra để giải quyết một vấn đề cụ thể hoặc cung cấp một dịch vụ cụ thể. Trong trường hợp này, các LLM đang học cách trò chuyện tốt hơn - nhưng chúng không thể học các nhiệm vụ khác.
Trong nhiều thập kỷ, các nhà nghiên cứu đã đưa ra giả thuyết về một hình thức học máy cao hơn được gọi là “trí tuệ tổng hợp nhân tạo” hay AGI: phần mềm có khả năng học bất kỳ nhiệm vụ hoặc chủ đề nào. Còn được gọi là “AI mạnh”, AGI là viết tắt của một cỗ máy có thể làm bất cứ điều gì mà bộ não con người có thể làm.
Vào tháng 3, một nhóm các nhà khoa học máy tính của Microsoft đã xuất bản một bài báo nghiên cứu dài 155 trang tuyên bố rằng một trong những hệ thống AI thử nghiệm mới của họ đang thể hiện “những tia sáng của trí tuệ nhân tạo nói chung”. Còn cách nào khác (như tờ New York Times gần đây đã diễn giải kết luận của họ) để giải thích cách nó tiếp tục “đưa ra những câu trả lời và ý tưởng giống con người không được lập trình trong đó?”
Vào tháng 4, nhà khoa học máy tính Geoffrey Hinton - một nhà tiên phong về mạng lưới thần kinh được mệnh danh là một trong những “Bố già của AI” - đã nghỉ việc tại Google để có thể tự do nói về sự nguy hiểm của AGI.
Và vào tháng 5, một nhóm các nhà lãnh đạo ngành (bao gồm cả Hinton) đã đưa ra một tuyên bố chỉ bằng một câu cảnh báo rằng AGI có thể là mối đe dọa hiện hữu đối với nhân loại ngang với “đại dịch và chiến tranh hạt nhân” nếu chúng ta không đảm bảo rằng các mục tiêu của nó phù hợp với mục tiêu của chúng ta.
Hinton nói với tờ New York Times: “Ý tưởng rằng thứ này thực sự có thể trở nên thông minh hơn con người - một số người tin vào điều đó. “Nhưng hầu hết mọi người nghĩ rằng đó là cách tắt. Và tôi nghĩ rằng nó đã tắt. Tôi nghĩ rằng đó là 30 đến 50 năm hoặc thậm chí lâu hơn nữa. Rõ ràng là tôi không còn nghĩ như vậy nữa”.
Tất nhiên, mỗi khoảnh khắc diệt vong này đều gây tranh cãi. Nhưng có một trong những cuộc tranh luận sâu sắc nhất của thế giới công nghệ: Liệu những cỗ máy có thể suy nghĩ nhanh hơn bộ não con người là không thể hoặc không thể tránh khỏi? Và chúng ta có thể thực sự tiến gần đến việc mở chiếc hộp Pandora hơn hầu hết mọi người nhận ra không?
Tại sao có tranh luận này?
Có hai lý do khiến những lo ngại về AGI đột nhiên trở nên hợp lý hơn - và cấp bách.Đầu tiên là tốc độ bất ngờ của những tiến bộ AI gần đây. Hinton nói với tờ New York Times: “Hãy nhìn vào 5 năm trước và bây giờ như thế nào. “Hãy lấy sự khác biệt và tuyên truyền nó về phía trước. Điều đó thật đáng sợ”.
Thứ hai là sự không chắc chắn. Khi CNN yêu cầu Stuart Russell - một giáo sư khoa học máy tính tại Đại học California, Berkeley và là đồng tác giả của Trí tuệ nhân tạo: Phương pháp tiếp cận hiện đại - giải thích hoạt động bên trong của các LLM ngày nay, ông ấy đã không thể.
“Điều đó nghe có vẻ kỳ lạ”, Russell thừa nhận, bởi vì “Tôi có thể cho bạn biết cách làm một cái.” Nhưng “họ làm việc như thế nào thì chúng tôi không biết. Chúng tôi không biết nếu họ biết những điều. Chúng tôi không biết liệu họ có lý luận hay không; chúng tôi không biết liệu họ có những mục tiêu nội bộ của riêng mình mà họ đã học được hay những mục tiêu đó có thể là gì”.
Và điều đó có nghĩa là không ai có bất kỳ ý tưởng thực sự nào về việc AI sẽ đi đâu từ đây. Nhiều nhà nghiên cứu tin rằng AI sẽ vượt qua AGI vào một thời điểm nào đó. Một số người cho rằng AGI sẽ không xuất hiện trong một thời gian dài, nếu có, và việc cường điệu hóa nó sẽ làm xao lãng các vấn đề cấp bách hơn, chẳng hạn như thông tin sai lệch do AI cung cấp hoặc mất việc làm. Những người khác nghi ngờ rằng quá trình tiến hóa này có thể đã diễn ra. Và một nhóm nhỏ hơn lo ngại rằng nó có thể leo thang theo cấp số nhân. Như tờ New Yorker gần đây đã giải thích, “một hệ thống máy tính [mà] có thể viết mã - như ChatGPT đã có thể - ... cuối cùng có thể học cách cải thiện bản thân nhiều lần cho đến khi công nghệ điện toán đạt đến cái được gọi là “điểm kỳ dị”: một điểm tại đó nó thoát khỏi sự kiểm soát của chúng ta.
“Niềm tin của tôi rằng điều này sẽ không xảy ra trong một thời gian dài đã bị lung lay khi nhận ra rằng trí thông minh sinh học và trí thông minh kỹ thuật số rất khác nhau, và trí thông minh kỹ thuật số có lẽ tốt hơn nhiều” ở một số điểm, Hinton gần đây đã nói với tờ Guardian. Sau đó, ông dự đoán rằng AGI thực sự là khoảng 5 đến 20 năm nữa.
Hinton nói thêm: “Hiện tại tôi có sự không chắc chắn rất lớn. “Nhưng tôi sẽ không loại trừ một hoặc hai năm. Và tôi vẫn không loại trừ 100 năm. … Tôi nghĩ những người tự tin trong tình huống này thật điên rồ”.
AI ngày nay không đủ nhanh để so sánh trí thông minh của con người
“AI đang đạt được nhiều tiến bộ - hình ảnh tổng hợp trông ngày càng chân thực hơn và tính năng nhận dạng giọng nói thường có thể hoạt động trong môi trường ồn ào - nhưng chúng ta có thể vẫn còn cách AI ở cấp độ con người, mục đích chung hàng thập kỷ mới có thể hiểu được ý nghĩa thực sự của các bài báo và video hoặc đối phó với những trở ngại và gián đoạn bất ngờ. Lĩnh vực này đang mắc kẹt với chính những thách thức mà các nhà khoa học hàn lâm (bao gồm cả tôi) đã chỉ ra trong nhiều năm: làm cho AI trở nên đáng tin cậy và làm cho nó đối phó với những tình huống bất thường.” - Gary Marcus, Khoa học gia người Mỹ.Chatbot mới rất ấn tượng nhưng chúng không thay đổi cuộc chơi
“AI siêu thông minh đang ở trong tương lai của chúng ta... Một khi các nhà phát triển có thể khái quát hóa một thuật toán học tập và chạy nó với tốc độ của máy tính - một thành tựu có thể là một thập kỷ hoặc một thế kỷ nữa - chúng ta sẽ có một AGI cực kỳ mạnh mẽ. Nó sẽ có thể làm mọi thứ mà bộ não con người có thể làm, nhưng không có bất kỳ giới hạn thực tế nào về kích thước bộ nhớ hoặc tốc độ hoạt động của nó. ... [Bất kể] không có bước đột phá nào trong vài tháng qua đưa chúng ta đến gần hơn với AI mạnh mẽ. Trí tuệ nhân tạo vẫn không kiểm soát thế giới vật chất và không thể thiết lập các mục tiêu của riêng mình”, Bill Gates.Không có gì bộ não 'sinh học' có thể làm mà các đối tác kỹ thuật số của chúng sẽ không thể sao chép (cuối cùng)
“Tôi thường được nói rằng AGI và siêu trí tuệ sẽ không xảy ra bởi vì điều đó là không thể: Trí thông minh cấp độ con người là thứ gì đó bí ẩn chỉ có thể tồn tại trong não bộ. Chủ nghĩa sô vanh carbon như vậy đã bỏ qua một hiểu biết cốt lõi từ cuộc cách mạng AI: rằng trí thông minh là tất cả về xử lý thông tin và việc thông tin được xử lý bởi các nguyên tử carbon trong não hay bởi các nguyên tử silicon trong máy tính không quan trọng. AI đã không ngừng vượt qua con người hết nhiệm vụ này đến nhiệm vụ khác và tôi mời những người theo chủ nghĩa sô vanh carbon ngừng di chuyển các cột mục tiêu và dự đoán công khai những nhiệm vụ mà AI sẽ không bao giờ có thể thực hiện được.” - Max Tegmark, Thời gianBước ngoặt lớn nhất - và nguy hiểm nhất - sẽ đến nếu và khi AGI bắt đầu viết lại mã của chính mình
“Một khi AI có thể tự cải thiện, có thể không quá vài năm nữa và trên thực tế có thể đã ở đây ngay bây giờ, chúng ta không có cách nào biết AI sẽ làm gì hoặc làm thế nào chúng ta có thể kiểm soát nó. Điều này là do AI siêu thông minh ( theo định nghĩa có thể vượt qua con người trong nhiều hoạt động) sẽ — và đây là điều tôi lo lắng nhất - có thể xoay quanh các lập trình viên và bất kỳ con người nào khác bằng cách điều khiển con người làm theo ý muốn của nó; nó cũng sẽ có khả năng hành động trong thế giới ảo thông qua các kết nối điện tử của nó và hành động trong thế giới vật chất thông qua các cơ thể người máy”, Tamlyn Hunt, nhà khoa học Mỹ.Trên thực tế, AGI sẽ khó kích hoạt 'điểm kỳ dị' hơn nhiều so với những gì những người diệt vong nghĩ
“Phần cứng và phần mềm máy tính là những công nghệ nhận thức mới nhất và chúng là những công cụ hỗ trợ mạnh mẽ cho sự đổi mới, nhưng chúng không thể tự tạo ra sự bùng nổ công nghệ. Bạn cần mọi người để làm điều đó, và càng nhiều càng tốt. Cung cấp phần cứng và phần mềm tốt hơn cho một cá nhân thông minh là hữu ích, nhưng lợi ích thực sự đến khi mọi người đều có chúng. Sự bùng nổ công nghệ hiện tại của chúng ta là kết quả của hàng tỷ người sử dụng các công cụ nhận thức đó. Liệu các chương trình AI có thể thay thế những con người đó, để một vụ nổ xảy ra trong lĩnh vực kỹ thuật số nhanh hơn so với trong thế giới của chúng ta? Có thể, nhưng ... chiến lược có nhiều khả năng thành công nhất về cơ bản sẽ là sao chép toàn bộ nền văn minh nhân loại trong phần mềm, với tám tỷ AI tương đương con người sẽ hoạt động kinh doanh. [Và] chúng ta còn lâu mới có thể tạo ra một AI tương đương với con người, chứ chưa nói đến hàng tỷ AI”, theo New Yorker.Có lẽ AGI đã có ở đây - nếu chúng ta nghĩ rộng hơn về ý nghĩa của trí thông minh 'chung'
“Ngày nay, quan điểm của tôi cho rằng đây là AGI, ở chỗ nó là một loại trí thông minh và nó mang tính tổng quát - nhưng bạn biết đấy, chúng ta phải bớt cuồng loạn hơn một chút về ý nghĩa của AGI. ... Chúng ta đang nhận được lượng trí thông minh thô to lớn này mà không nhất thiết phải đi kèm với quan điểm về bản ngã, mục tiêu hoặc ý thức về bản thân mạch lạc. Điều đó, đối với tôi, thật hấp dẫn. - Noah Goodman, phó giáo sư tâm lý học, khoa học máy tính và ngôn ngữ học tại Đại học Stanford, nói với WiredCuối cùng, chúng ta có thể không bao giờ đồng ý về AGI là gì - hoặc khi chúng ta đạt được nó
“Đó thực sự là một câu hỏi triết học. Vì vậy, theo một số cách, đây là một thời gian rất khó khăn để tham gia vào lĩnh vực này, bởi vì chúng tôi là một lĩnh vực khoa học... Rất khó có khả năng là một sự kiện đơn lẻ mà chúng tôi kiểm tra và nói rằng AGI đã đạt được”, Sara Hooker, trưởng phòng thí nghiệm nghiên cứu tập trung vào học máy, nói.
