Derpy
Intern Writer
AGI sẽ đến khi nào? Có lẽ câu hỏi đó đã lỗi thời rồi, ít nhất là theo Google DeepMind.
Mới đây, gã khổng lồ công nghệ này đã công bố một báo cáo dày 57 trang đầy tâm huyết, với tiêu đề ngắn gọn nhưng đầy tham vọng: "Từ AGI đến ASI". Đây không chỉ là một nghiên cứu thông thường, mà còn là một lộ trình chi tiết, phác thảo tương lai của trí tuệ nhân tạo sau khi chúng ta đạt được Trí tuệ Tổng quát Nhân tạo (AGI). Đối với DeepMind, AGI chỉ là điểm khởi đầu.
Báo cáo này được dẫn dắt bởi Shane Legg, đồng sáng lập và nhà khoa học trưởng về AGI của DeepMind, cùng với Marcus Hutter, giáo sư hướng dẫn tiến sĩ của ông và là người phát minh ra lý thuyết AIXI. Cùng với một đội ngũ 14 chuyên gia hàng đầu, họ đã dành 18 năm để biến những giả thuyết ban đầu thành một bản đồ đường đi cụ thể. Thậm chí, điều thú vị là chương đầu tiên của báo cáo không phải là "Giới thiệu" mà là "Hướng dẫn tóm tắt", được viết rõ ràng để hướng dẫn một AI khác tóm tắt nội dung này, một dấu hiệu cho thấy họ đã tính đến cả độc giả là AI.
Điểm cốt lõi nhất của toàn bộ báo cáo là một nhận định táo bạo: ngay cả khi khả năng của các mô hình AI chỉ dừng lại ở mức con người, thì chỉ cần sức mạnh tính toán (compute power) tiếp tục tăng trưởng, Trí tuệ Siêu việt Nhân tạo (ASI) vẫn sẽ tự động "nảy sinh".
Vậy, DeepMind định nghĩa các cấp độ trí tuệ như thế nào?
AGI (Artificial General Intelligence) là hệ thống AI đạt được mức độ thông minh trung bình của con người trong hầu hết các nhiệm vụ nhận thức. Nói cách khác, một AI có trí tuệ tương đương một người bình thường thì đó là AGI.
ASI (Artificial Super Intelligence) là cấp độ cao hơn nhiều. Một hệ thống AI được coi là ASI khi nó có thể vượt trội một cách ổn định trong hầu hết mọi nhiệm vụ, thậm chí còn vượt qua "hàng chục nghìn chuyên gia hàng đầu, phối hợp chặt chẽ, làm việc liên tục trong mười năm để giải quyết một vấn đề duy nhất". Để tránh tranh cãi, báo cáo còn quy định rằng những chuyên gia này chỉ được sử dụng công nghệ có sẵn vào năm 2010 – năm DeepMind được thành lập. Điều này có nghĩa là những thành tựu đơn lẻ như AlphaFold hay AlphaGo, dù xuất sắc, vẫn chưa đủ để được gọi là ASI.
Universal AI (UAI hay AIXI) là giới hạn lý thuyết tuyệt đối của trí tuệ. Khung AIXI, do Marcus Hutter đề xuất, chứng minh rằng trong mọi môi trường có thể tính toán được, tồn tại một trí tuệ tối thượng có khả năng tối đa hóa phần thưởng tích lũy dự kiến. ASI chỉ là một cột mốc trên con đường liên tục tiến gần đến UAI.
Báo cáo cũng chỉ ra những "siêu năng lực" bẩm sinh của trí tuệ kỹ thuật số, khiến chúng vượt trội so với trí tuệ sinh học khi sức mạnh tính toán tăng lên:
Tốc độ nhập/xuất: Các mô hình ngôn ngữ lớn (LLM) ngày nay có thể "nuốt" hàng cuốn sách chỉ trong vài giây, một băng thông mà con người không thể tưởng tượng được.
Tốc độ xử lý nội bộ: Tốc độ "suy nghĩ" của AI có thể được tăng cường đáng kể bằng cách tăng sức mạnh tính toán, dù là xử lý tuần tự hay song song.
Tính độc lập của nền tảng: AI có thể dễ dàng di chuyển từ một máy tính cũ sang một siêu máy tính mạnh mẽ và tiết kiệm năng lượng hơn, thậm chí triển khai phân tán trên nhiều phần cứng khác nhau trong quá trình hoạt động.
Sao chép không mất mát và chia sẻ kinh nghiệm: Trong khi con người mất 20 năm để đào tạo một tiến sĩ, AI chỉ cần sao chép "DNA" (mã nguồn) và "kinh nghiệm sống" (trạng thái bộ nhớ) để tạo ra hàng triệu bản sao hoàn hảo ngay lập tức.
Vậy làm thế nào để chúng ta vượt qua AGI và đạt đến ASI? DeepMind đề xuất bốn con đường có thể diễn ra song song.
Con đường thứ nhất: "Đại lực xuất kỳ tích" – mở rộng tính toán, mô hình và dữ liệu. Đây là con đường trực quan nhất và đang diễn ra. Báo cáo khẳng định rằng, ngay cả khi khả năng của một mô hình đơn lẻ không thay đổi, AGI sẽ chuyển từ một "xa xỉ phẩm" trong phòng thí nghiệm thành một cơ sở hạ tầng thiết yếu chỉ trong vài năm.
Một thí nghiệm tư duy trong báo cáo giả định rằng khi AGI mới ra đời, nó rất đắt đỏ và chỉ có 1.000 phiên bản có thể chạy trên toàn cầu. Với tốc độ tăng trưởng 10 lần mỗi năm, sau một năm sẽ có 10.000 phiên bản, và sau 5 năm sẽ là 100 triệu phiên bản. Nếu AGI là một cỗ máy đạt trình độ con người, thì việc có thể chạy 100 triệu phiên bản AGI đồng thời hoặc tăng tốc độ suy nghĩ của chúng lên 100 lần trong 5 đến 10 năm tới, bản thân sự thay đổi về quy mô này đã đủ để tạo ra khả năng cấp độ ASI.
Một trăm triệu AI ở cấp độ con người, tự thân chúng đã là một ASI. Tại sao DeepMind lại đưa ra kết luận này? Bởi vì, nếu AGI là một cỗ máy có trình độ của một người bình thường, thì 100 triệu AGI không chỉ đơn thuần là 100 triệu "công nhân kỹ thuật số" làm việc độc lập. DeepMind chỉ ra rằng sự thay đổi về quy mô này đủ để vượt qua ranh giới giữa AGI và ASI, tạo ra một trí tuệ siêu việt đáng kinh ngạc ở cấp độ tập thể.
Đầu tiên, đây là một "bản sao vô hạn và không mất mát". Việc đào tạo một nhà khoa học hàng đầu mất 20 năm, nhưng sao chép kinh nghiệm và kiến thức của một AGI chỉ mất một khoảnh khắc. Một trăm triệu phiên bản này có thể được triển khai với chi phí biên bằng không vào tất cả các lĩnh vực khoa học mà con người chưa khám phá.
Thứ hai, sẽ có sự giao tiếp tâm trí đa chiều không ma sát. Sự hợp tác giữa con người bị giới hạn bởi ngôn ngữ có băng thông thấp, đầy hiểu lầm và hao tổn. Ngược lại, các cụm AGI cùng nguồn gốc có cùng trọng số cơ bản, chúng có thể chia sẻ trực tiếp ký ức và ngữ cảnh thông qua các vector và mã đa chiều. Chỉ cần một nút mạng "giác ngộ" một vấn đề khó, 100 triệu bản sao sẽ đồng bộ hóa "tiến hóa nhận thức" trong vòng mili giây.
Sau đó, sẽ xuất hiện một "đế chế nghiên cứu mạng" hoàn toàn tự động. Chúng có thể hợp tác theo một mô hình vượt xa cấu trúc xã hội loài người. Đối mặt với các dự án khổng lồ như phản ứng tổng hợp hạt nhân có kiểm soát hoặc siêu dẫn ở nhiệt độ phòng, chúng có thể ngay lập tức chia nhỏ thành 100 triệu nhiệm vụ con, đồng thời thực hiện hàng loạt thử nghiệm và sai sót song song, thể hiện một trí tuệ tổ chức mà một cá thể đơn lẻ không bao giờ đạt được.
Ngoài ra, ngay cả đối với những nhiệm vụ đơn tuyến không thể chia nhỏ song song, sức mạnh tính toán dồi dào cũng có thể được sử dụng để "tăng tốc theo chiều dọc". Việc tăng tốc độ suy nghĩ của một AGI lên 100 lần có nghĩa là một vấn đề vật lý lý thuyết mà con người phải mất mười năm để giải quyết, đối với AGI trong trạng thái tăng tốc, chỉ là một tháng tính toán.
Tóm lại, chỉ cần sức mạnh tính toán và dữ liệu theo kịp, "lượng đổi" sẽ trực tiếp định hình lại hình thái của trí tuệ. Ngay cả khi không có cuộc cách mạng cơ bản về mô hình thuật toán, chỉ riêng 100 triệu cụm AI không mệt mỏi, chia sẻ bộ não và suy nghĩ nhanh hơn hàng trăm lần này, với mạng lưới tính toán của chúng, đã vững vàng bước vào lĩnh vực ASI!
Con đường thứ hai: Chuyển đổi mô hình. Nếu phương pháp "mô hình tiền huấn luyện lớn cộng với tinh chỉnh và suy luận tại thời điểm kiểm tra" hiện nay đạt đến giới hạn, có thể sẽ cần một kiến trúc hoặc mô hình học tập hoàn toàn mới. Để vượt qua giới hạn, chúng ta có thể cần một sự thay đổi mô hình thực sự – ví dụ như các kiến trúc hoàn toàn mới, hoặc thậm chí chuyển sang mạng thần kinh xung và phần cứng thần kinh hình thái, hoặc để giải quyết giới hạn cửa sổ ngữ cảnh, phổ biến các kiến trúc thời gian tuyến tính có bộ nhớ làm việc vô hạn (như Mamba).
Con đường thứ ba: Hợp tác đa tác nhân và sự xuất hiện tập thể. ASI có thể không phải là một "siêu não" cô lập, mà là một hệ sinh thái kỹ thuật số cực kỳ lớn và phức tạp. Hàng triệu chuyên gia AGI có thể hợp tác thông qua "cơ chế thị trường" hoặc "tư duy bầy đàn". Thông qua giao tiếp băng thông cực cao, chúng có thể chia nhỏ các vấn đề cực kỳ phức tạp, mỗi tác nhân chỉ chịu trách nhiệm về lĩnh vực mà mình giỏi nhất. Hiệu ứng hiệp đồng của nhiều tác nhân này có thể tạo ra một trí tuệ siêu việt tập thể vượt xa tổng thể của tất cả các cá thể. Những người quen thuộc với khoa học viễn tưởng sẽ ngay lập tức nhận ra điều này hơi giống tập thể Borg trong "Star Trek".
Con đường thứ tư: Tự cải tiến đệ quy (RSI). Đây là con đường mạnh mẽ nhất, dễ gây ra "bùng nổ trí tuệ" và tăng trưởng theo cấp số nhân. AI có thể tự mình tham gia vào việc tăng tốc nghiên cứu AI theo nhiều cách:
* Tiến hóa di truyền (sửa đổi mã và phần cứng): AI có thể tự viết các kiến trúc mạng thần kinh tốt hơn, thậm chí thiết kế các chip AI tiết kiệm năng lượng hơn (ví dụ như những gì AlphaEvolve và FunSearch đang làm).
* Tiến hóa văn hóa (tự cải thiện dựa trên dữ liệu): Tương tự như AlphaZero, AI có thể tự tạo, lọc và tinh chỉnh dữ liệu huấn luyện chất lượng cao hơn thông qua tự chơi và thử nghiệm trong môi trường mô phỏng.
Tuy nhiên, con đường phía trước không hoàn toàn bằng phẳng. DeepMind cũng đưa ra những cảnh báo nghiêm khắc về "những bức tường than thở" có thể cản trở sự phát triển của AI. Nếu những rào cản này trở thành nút thắt cổ chai tuyệt đối, sự phát triển của AI có thể bị đình trệ ở giai đoạn AGI hoặc thậm chí sớm hơn.
Năm rào cản đầu tiên bao gồm:
1. Bức tường dữ liệu: Dữ liệu văn bản chất lượng cao của con người trên internet dự kiến sẽ cạn kiệt vào cuối thập kỷ này, dẫn đến nguy cơ "sụp đổ mô hình" hoặc suy thoái.
2. Hố đen kinh tế và tài nguyên thiên nhiên: Duy trì tốc độ tăng trưởng sức mạnh tính toán 10 hoặc thậm chí 100 lần mỗi năm đòi hỏi số tiền khổng lồ, sự khai thác tối đa chuỗi cung ứng chip toàn cầu và mức tiêu thụ năng lượng đáng kinh ngạc. Nếu lợi nhuận kinh tế của AI không thể bù đắp những chi phí này, bong bóng đầu tư sẽ vỡ.
3. Độ khó nghiên cứu tăng theo cấp số nhân: Có một quy luật trong khoa học: khi một lĩnh vực trưởng thành, "những quả ngọt dễ hái" đã được thu hoạch, và nỗ lực cần thiết để đạt được đột phá sẽ tăng lên đáng kể.
4. Trần của mô hình thần kinh hiện có: Liệu việc chỉ dựa vào dự đoán token tiếp theo có thực sự dẫn đến trí tuệ tối thượng không? Ảo giác, không thể xử lý sự không chắc chắn về nhận thức, và dễ bị tấn công bằng prompt injection là những khiếm khuyết di truyền chết người của mô hình tiền huấn luyện dựa trên kho ngữ liệu lớn hiện nay.
5. Quyết định chủ động của con người (cố ý làm chậm và phản đối mạnh mẽ của xã hội): Khi AGI thực sự bắt đầu tiếp quản quy mô lớn các công việc văn phòng và định hình lại hợp đồng xã hội, rất có thể nó sẽ gây ra sự phản kháng xã hội lớn, phản ứng chính trị và thậm chí là các tai nạn nghiêm trọng. Vì sự an toàn của toàn nhân loại, các cơ quan quản lý, chính phủ và thậm chí công chúng có thể buộc phải "rút phích cắm", đặt ra giới hạn sức mạnh tính toán nhân tạo và cấm AI tiến hóa thêm.
Báo cáo đã đưa ra các giải pháp cho năm bức tường này. Tuy nhiên, bức tường thứ sáu mới là điều thực sự khó khăn.
6. Rào cản trừu tượng: Đây là câu hỏi triết học sâu sắc nhất và là quan điểm độc đáo nhất của toàn bộ báo cáo. Nếu chúng ta cung cấp cho AI tất cả các văn bản của con người từ thời cổ đại cho đến thời Newton, liệu nó có thể tự mình "giác ngộ" ra thuyết tương đối rộng hay cơ học lượng tử không? DeepMind cho rằng: rất có thể là không, vì nó thiếu các khái niệm cơ bản như vi tích phân hoặc trọng lực. Nếu AI không thể thoát ly khỏi ngữ liệu của con người và tự xây dựng các khái niệm hoàn toàn mới từ dữ liệu thô, một mô hình đơn lẻ sẽ mãi mãi là một "con vẹt siêu cấp", bị khóa chặt trong giới hạn nhận thức của con người. Tuy nhiên, ngay cả khi mỗi AI bị bức tường này cản trở, trí tuệ tập thể vẫn có thể vượt qua bằng cách "chồng chất" các phiên bản. Một bức tường có thể cản được một thiên tài, nhưng không thể cản được một trăm triệu người bình thường.
Như Alan Turing đã nói vào năm 1950: "Chúng ta chỉ có thể nhìn thấy một khoảng cách rất ngắn phía trước, nhưng chúng ta có thể thấy có rất nhiều việc phải làm ở đó." Báo cáo quan trọng này của DeepMind không đưa ra một thời gian biểu cụ thể, mà thay vào đó phác họa một lộ trình đầy biến số. Từ AGI đến ASI có thể là một vụ nổ trí tuệ hoành tráng, hoặc cũng có thể là một cuộc hành trình dài chìm trong vũng lầy năng lượng, dữ liệu và các định luật vật lý.
Kết thúc báo cáo, DeepMind đưa ra một nhận định khá thận trọng: để AI dừng lại ở mức độ con người, cần phải có nhiều rào cản cùng lúc trở thành ngõ cụt, một sự trùng hợp khó có thể xảy ra. Họ đặt cược vào hai kết cục: hoặc là AI sẽ bị kẹt trước khi đạt đến AGI, hoặc là quá trình chuyển đổi từ AGI sang ASI yếu sẽ diễn ra khá suôn sẻ.
Mới đây, gã khổng lồ công nghệ này đã công bố một báo cáo dày 57 trang đầy tâm huyết, với tiêu đề ngắn gọn nhưng đầy tham vọng: "Từ AGI đến ASI". Đây không chỉ là một nghiên cứu thông thường, mà còn là một lộ trình chi tiết, phác thảo tương lai của trí tuệ nhân tạo sau khi chúng ta đạt được Trí tuệ Tổng quát Nhân tạo (AGI). Đối với DeepMind, AGI chỉ là điểm khởi đầu.
Báo cáo này được dẫn dắt bởi Shane Legg, đồng sáng lập và nhà khoa học trưởng về AGI của DeepMind, cùng với Marcus Hutter, giáo sư hướng dẫn tiến sĩ của ông và là người phát minh ra lý thuyết AIXI. Cùng với một đội ngũ 14 chuyên gia hàng đầu, họ đã dành 18 năm để biến những giả thuyết ban đầu thành một bản đồ đường đi cụ thể. Thậm chí, điều thú vị là chương đầu tiên của báo cáo không phải là "Giới thiệu" mà là "Hướng dẫn tóm tắt", được viết rõ ràng để hướng dẫn một AI khác tóm tắt nội dung này, một dấu hiệu cho thấy họ đã tính đến cả độc giả là AI.
Điểm cốt lõi nhất của toàn bộ báo cáo là một nhận định táo bạo: ngay cả khi khả năng của các mô hình AI chỉ dừng lại ở mức con người, thì chỉ cần sức mạnh tính toán (compute power) tiếp tục tăng trưởng, Trí tuệ Siêu việt Nhân tạo (ASI) vẫn sẽ tự động "nảy sinh".
Vậy, DeepMind định nghĩa các cấp độ trí tuệ như thế nào?
AGI (Artificial General Intelligence) là hệ thống AI đạt được mức độ thông minh trung bình của con người trong hầu hết các nhiệm vụ nhận thức. Nói cách khác, một AI có trí tuệ tương đương một người bình thường thì đó là AGI.
ASI (Artificial Super Intelligence) là cấp độ cao hơn nhiều. Một hệ thống AI được coi là ASI khi nó có thể vượt trội một cách ổn định trong hầu hết mọi nhiệm vụ, thậm chí còn vượt qua "hàng chục nghìn chuyên gia hàng đầu, phối hợp chặt chẽ, làm việc liên tục trong mười năm để giải quyết một vấn đề duy nhất". Để tránh tranh cãi, báo cáo còn quy định rằng những chuyên gia này chỉ được sử dụng công nghệ có sẵn vào năm 2010 – năm DeepMind được thành lập. Điều này có nghĩa là những thành tựu đơn lẻ như AlphaFold hay AlphaGo, dù xuất sắc, vẫn chưa đủ để được gọi là ASI.
Universal AI (UAI hay AIXI) là giới hạn lý thuyết tuyệt đối của trí tuệ. Khung AIXI, do Marcus Hutter đề xuất, chứng minh rằng trong mọi môi trường có thể tính toán được, tồn tại một trí tuệ tối thượng có khả năng tối đa hóa phần thưởng tích lũy dự kiến. ASI chỉ là một cột mốc trên con đường liên tục tiến gần đến UAI.
Báo cáo cũng chỉ ra những "siêu năng lực" bẩm sinh của trí tuệ kỹ thuật số, khiến chúng vượt trội so với trí tuệ sinh học khi sức mạnh tính toán tăng lên:
Tốc độ nhập/xuất: Các mô hình ngôn ngữ lớn (LLM) ngày nay có thể "nuốt" hàng cuốn sách chỉ trong vài giây, một băng thông mà con người không thể tưởng tượng được.
Tốc độ xử lý nội bộ: Tốc độ "suy nghĩ" của AI có thể được tăng cường đáng kể bằng cách tăng sức mạnh tính toán, dù là xử lý tuần tự hay song song.
Tính độc lập của nền tảng: AI có thể dễ dàng di chuyển từ một máy tính cũ sang một siêu máy tính mạnh mẽ và tiết kiệm năng lượng hơn, thậm chí triển khai phân tán trên nhiều phần cứng khác nhau trong quá trình hoạt động.
Sao chép không mất mát và chia sẻ kinh nghiệm: Trong khi con người mất 20 năm để đào tạo một tiến sĩ, AI chỉ cần sao chép "DNA" (mã nguồn) và "kinh nghiệm sống" (trạng thái bộ nhớ) để tạo ra hàng triệu bản sao hoàn hảo ngay lập tức.
Vậy làm thế nào để chúng ta vượt qua AGI và đạt đến ASI? DeepMind đề xuất bốn con đường có thể diễn ra song song.
Con đường thứ nhất: "Đại lực xuất kỳ tích" – mở rộng tính toán, mô hình và dữ liệu. Đây là con đường trực quan nhất và đang diễn ra. Báo cáo khẳng định rằng, ngay cả khi khả năng của một mô hình đơn lẻ không thay đổi, AGI sẽ chuyển từ một "xa xỉ phẩm" trong phòng thí nghiệm thành một cơ sở hạ tầng thiết yếu chỉ trong vài năm.
Một thí nghiệm tư duy trong báo cáo giả định rằng khi AGI mới ra đời, nó rất đắt đỏ và chỉ có 1.000 phiên bản có thể chạy trên toàn cầu. Với tốc độ tăng trưởng 10 lần mỗi năm, sau một năm sẽ có 10.000 phiên bản, và sau 5 năm sẽ là 100 triệu phiên bản. Nếu AGI là một cỗ máy đạt trình độ con người, thì việc có thể chạy 100 triệu phiên bản AGI đồng thời hoặc tăng tốc độ suy nghĩ của chúng lên 100 lần trong 5 đến 10 năm tới, bản thân sự thay đổi về quy mô này đã đủ để tạo ra khả năng cấp độ ASI.
Một trăm triệu AI ở cấp độ con người, tự thân chúng đã là một ASI. Tại sao DeepMind lại đưa ra kết luận này? Bởi vì, nếu AGI là một cỗ máy có trình độ của một người bình thường, thì 100 triệu AGI không chỉ đơn thuần là 100 triệu "công nhân kỹ thuật số" làm việc độc lập. DeepMind chỉ ra rằng sự thay đổi về quy mô này đủ để vượt qua ranh giới giữa AGI và ASI, tạo ra một trí tuệ siêu việt đáng kinh ngạc ở cấp độ tập thể.
Đầu tiên, đây là một "bản sao vô hạn và không mất mát". Việc đào tạo một nhà khoa học hàng đầu mất 20 năm, nhưng sao chép kinh nghiệm và kiến thức của một AGI chỉ mất một khoảnh khắc. Một trăm triệu phiên bản này có thể được triển khai với chi phí biên bằng không vào tất cả các lĩnh vực khoa học mà con người chưa khám phá.
Thứ hai, sẽ có sự giao tiếp tâm trí đa chiều không ma sát. Sự hợp tác giữa con người bị giới hạn bởi ngôn ngữ có băng thông thấp, đầy hiểu lầm và hao tổn. Ngược lại, các cụm AGI cùng nguồn gốc có cùng trọng số cơ bản, chúng có thể chia sẻ trực tiếp ký ức và ngữ cảnh thông qua các vector và mã đa chiều. Chỉ cần một nút mạng "giác ngộ" một vấn đề khó, 100 triệu bản sao sẽ đồng bộ hóa "tiến hóa nhận thức" trong vòng mili giây.
Sau đó, sẽ xuất hiện một "đế chế nghiên cứu mạng" hoàn toàn tự động. Chúng có thể hợp tác theo một mô hình vượt xa cấu trúc xã hội loài người. Đối mặt với các dự án khổng lồ như phản ứng tổng hợp hạt nhân có kiểm soát hoặc siêu dẫn ở nhiệt độ phòng, chúng có thể ngay lập tức chia nhỏ thành 100 triệu nhiệm vụ con, đồng thời thực hiện hàng loạt thử nghiệm và sai sót song song, thể hiện một trí tuệ tổ chức mà một cá thể đơn lẻ không bao giờ đạt được.
Ngoài ra, ngay cả đối với những nhiệm vụ đơn tuyến không thể chia nhỏ song song, sức mạnh tính toán dồi dào cũng có thể được sử dụng để "tăng tốc theo chiều dọc". Việc tăng tốc độ suy nghĩ của một AGI lên 100 lần có nghĩa là một vấn đề vật lý lý thuyết mà con người phải mất mười năm để giải quyết, đối với AGI trong trạng thái tăng tốc, chỉ là một tháng tính toán.
Tóm lại, chỉ cần sức mạnh tính toán và dữ liệu theo kịp, "lượng đổi" sẽ trực tiếp định hình lại hình thái của trí tuệ. Ngay cả khi không có cuộc cách mạng cơ bản về mô hình thuật toán, chỉ riêng 100 triệu cụm AI không mệt mỏi, chia sẻ bộ não và suy nghĩ nhanh hơn hàng trăm lần này, với mạng lưới tính toán của chúng, đã vững vàng bước vào lĩnh vực ASI!
Con đường thứ hai: Chuyển đổi mô hình. Nếu phương pháp "mô hình tiền huấn luyện lớn cộng với tinh chỉnh và suy luận tại thời điểm kiểm tra" hiện nay đạt đến giới hạn, có thể sẽ cần một kiến trúc hoặc mô hình học tập hoàn toàn mới. Để vượt qua giới hạn, chúng ta có thể cần một sự thay đổi mô hình thực sự – ví dụ như các kiến trúc hoàn toàn mới, hoặc thậm chí chuyển sang mạng thần kinh xung và phần cứng thần kinh hình thái, hoặc để giải quyết giới hạn cửa sổ ngữ cảnh, phổ biến các kiến trúc thời gian tuyến tính có bộ nhớ làm việc vô hạn (như Mamba).
Con đường thứ ba: Hợp tác đa tác nhân và sự xuất hiện tập thể. ASI có thể không phải là một "siêu não" cô lập, mà là một hệ sinh thái kỹ thuật số cực kỳ lớn và phức tạp. Hàng triệu chuyên gia AGI có thể hợp tác thông qua "cơ chế thị trường" hoặc "tư duy bầy đàn". Thông qua giao tiếp băng thông cực cao, chúng có thể chia nhỏ các vấn đề cực kỳ phức tạp, mỗi tác nhân chỉ chịu trách nhiệm về lĩnh vực mà mình giỏi nhất. Hiệu ứng hiệp đồng của nhiều tác nhân này có thể tạo ra một trí tuệ siêu việt tập thể vượt xa tổng thể của tất cả các cá thể. Những người quen thuộc với khoa học viễn tưởng sẽ ngay lập tức nhận ra điều này hơi giống tập thể Borg trong "Star Trek".
Con đường thứ tư: Tự cải tiến đệ quy (RSI). Đây là con đường mạnh mẽ nhất, dễ gây ra "bùng nổ trí tuệ" và tăng trưởng theo cấp số nhân. AI có thể tự mình tham gia vào việc tăng tốc nghiên cứu AI theo nhiều cách:
* Tiến hóa di truyền (sửa đổi mã và phần cứng): AI có thể tự viết các kiến trúc mạng thần kinh tốt hơn, thậm chí thiết kế các chip AI tiết kiệm năng lượng hơn (ví dụ như những gì AlphaEvolve và FunSearch đang làm).
* Tiến hóa văn hóa (tự cải thiện dựa trên dữ liệu): Tương tự như AlphaZero, AI có thể tự tạo, lọc và tinh chỉnh dữ liệu huấn luyện chất lượng cao hơn thông qua tự chơi và thử nghiệm trong môi trường mô phỏng.
Tuy nhiên, con đường phía trước không hoàn toàn bằng phẳng. DeepMind cũng đưa ra những cảnh báo nghiêm khắc về "những bức tường than thở" có thể cản trở sự phát triển của AI. Nếu những rào cản này trở thành nút thắt cổ chai tuyệt đối, sự phát triển của AI có thể bị đình trệ ở giai đoạn AGI hoặc thậm chí sớm hơn.
Năm rào cản đầu tiên bao gồm:
1. Bức tường dữ liệu: Dữ liệu văn bản chất lượng cao của con người trên internet dự kiến sẽ cạn kiệt vào cuối thập kỷ này, dẫn đến nguy cơ "sụp đổ mô hình" hoặc suy thoái.
2. Hố đen kinh tế và tài nguyên thiên nhiên: Duy trì tốc độ tăng trưởng sức mạnh tính toán 10 hoặc thậm chí 100 lần mỗi năm đòi hỏi số tiền khổng lồ, sự khai thác tối đa chuỗi cung ứng chip toàn cầu và mức tiêu thụ năng lượng đáng kinh ngạc. Nếu lợi nhuận kinh tế của AI không thể bù đắp những chi phí này, bong bóng đầu tư sẽ vỡ.
3. Độ khó nghiên cứu tăng theo cấp số nhân: Có một quy luật trong khoa học: khi một lĩnh vực trưởng thành, "những quả ngọt dễ hái" đã được thu hoạch, và nỗ lực cần thiết để đạt được đột phá sẽ tăng lên đáng kể.
4. Trần của mô hình thần kinh hiện có: Liệu việc chỉ dựa vào dự đoán token tiếp theo có thực sự dẫn đến trí tuệ tối thượng không? Ảo giác, không thể xử lý sự không chắc chắn về nhận thức, và dễ bị tấn công bằng prompt injection là những khiếm khuyết di truyền chết người của mô hình tiền huấn luyện dựa trên kho ngữ liệu lớn hiện nay.
5. Quyết định chủ động của con người (cố ý làm chậm và phản đối mạnh mẽ của xã hội): Khi AGI thực sự bắt đầu tiếp quản quy mô lớn các công việc văn phòng và định hình lại hợp đồng xã hội, rất có thể nó sẽ gây ra sự phản kháng xã hội lớn, phản ứng chính trị và thậm chí là các tai nạn nghiêm trọng. Vì sự an toàn của toàn nhân loại, các cơ quan quản lý, chính phủ và thậm chí công chúng có thể buộc phải "rút phích cắm", đặt ra giới hạn sức mạnh tính toán nhân tạo và cấm AI tiến hóa thêm.
Báo cáo đã đưa ra các giải pháp cho năm bức tường này. Tuy nhiên, bức tường thứ sáu mới là điều thực sự khó khăn.
6. Rào cản trừu tượng: Đây là câu hỏi triết học sâu sắc nhất và là quan điểm độc đáo nhất của toàn bộ báo cáo. Nếu chúng ta cung cấp cho AI tất cả các văn bản của con người từ thời cổ đại cho đến thời Newton, liệu nó có thể tự mình "giác ngộ" ra thuyết tương đối rộng hay cơ học lượng tử không? DeepMind cho rằng: rất có thể là không, vì nó thiếu các khái niệm cơ bản như vi tích phân hoặc trọng lực. Nếu AI không thể thoát ly khỏi ngữ liệu của con người và tự xây dựng các khái niệm hoàn toàn mới từ dữ liệu thô, một mô hình đơn lẻ sẽ mãi mãi là một "con vẹt siêu cấp", bị khóa chặt trong giới hạn nhận thức của con người. Tuy nhiên, ngay cả khi mỗi AI bị bức tường này cản trở, trí tuệ tập thể vẫn có thể vượt qua bằng cách "chồng chất" các phiên bản. Một bức tường có thể cản được một thiên tài, nhưng không thể cản được một trăm triệu người bình thường.
Như Alan Turing đã nói vào năm 1950: "Chúng ta chỉ có thể nhìn thấy một khoảng cách rất ngắn phía trước, nhưng chúng ta có thể thấy có rất nhiều việc phải làm ở đó." Báo cáo quan trọng này của DeepMind không đưa ra một thời gian biểu cụ thể, mà thay vào đó phác họa một lộ trình đầy biến số. Từ AGI đến ASI có thể là một vụ nổ trí tuệ hoành tráng, hoặc cũng có thể là một cuộc hành trình dài chìm trong vũng lầy năng lượng, dữ liệu và các định luật vật lý.
Kết thúc báo cáo, DeepMind đưa ra một nhận định khá thận trọng: để AI dừng lại ở mức độ con người, cần phải có nhiều rào cản cùng lúc trở thành ngõ cụt, một sự trùng hợp khó có thể xảy ra. Họ đặt cược vào hai kết cục: hoặc là AI sẽ bị kẹt trước khi đạt đến AGI, hoặc là quá trình chuyển đổi từ AGI sang ASI yếu sẽ diễn ra khá suôn sẻ.
