Loài người hãy cảnh giác: các siêu AI đang đến rồi

myle.vnreview
Mỹ Lệ
Phản hồi: 0
Trong vài năm qua, các hệ thống AI đã bắt đầu vượt qua con người trong một số lĩnh vực như toán học, viết phần mềm và chẩn đoán y khoa. Đây chỉ là một vài ví dụ cho thấy các AI đang ngày càng tốt hơn.

1742179185687.png

Nhiều chuyên gia dự đoán rất sớm, có thể là vào năm 2026 hoặc 2027, nhưng có thể là sớm nhất là trong năm nay, một hoặc nhiều công ty AI sẽ tuyên bố rằng họ đã tạo ra một trí tuệ nhân tạo tổng quát (AGI - artificial general intelligence), thường được định nghĩa là thứ gì đó giống như "một hệ thống AI có thể thực hiện hầu hết mọi nhiệm vụ nhận thức mà con người có thể làm".

Khi AGI được công bố, sẽ có những cuộc tranh luận về định nghĩa và lập luận về việc liệu nó có được coi là AGI "thực sự" hay không, nhưng những điều này phần lớn sẽ không quan trọng, bởi vì chúng ta đang mất đi sự độc quyền về trí thông minh ở cấp độ con người và chuyển sang một thế giới có các hệ thống AI rất mạnh mẽ.

Trong thập kỷ tới, các hệ thống AI mạnh mẽ sẽ tạo ra hàng nghìn tỷ đô la giá trị kinh tế và làm nghiêng cán cân quyền lực chính trị và quân sự về phía các quốc gia kiểm soát các hệ thống này. Hầu hết các chính phủ và tập đoàn lớn đã coi điều này là hiển nhiên, bằng chứng là số tiền khổng lồ mà họ đang chi để đạt được điều đó trước tiên.

Xét ở bối cảnh thực tại, hầu hết mọi người và các tổ chức đều hoàn toàn không chuẩn bị cho các hệ thống AI hiện có, chứ đừng nói đến các hệ thống mạnh hơn, và không có kế hoạch thực tế nào ở bất kỳ cấp chính quyền nào để giảm thiểu rủi ro hoặc nắm bắt lợi ích của các hệ thống này.

Người trong cuộc cảnh báo về AGI

Các công ty AI hàng đầu đang tích cực chuẩn bị cho sự xuất hiện của AGI và đang nghiên cứu các đặc tính có khả năng đáng sợ trong các mô hình của họ, chẳng hạn như liệu chúng có khả năng lập mưu và lừa dối hay không, để dự đoán rằng chúng sẽ trở nên có khả năng và tự chủ hơn.

Sam Altman, giám đốc điều hành của OpenAI, đã viết rằng "các hệ thống bắt đầu chỉ ra AGI đang xuất hiện".

Demis Hassabis, giám đốc điều hành của Google DeepMind, cho biết AGI có lẽ "còn cách ba đến năm năm nữa".

Dario Amodei, giám đốc điều hành của Anthropic (người không thích thuật ngữ AGI nhưng đồng ý với nguyên tắc chung), tin rằng chúng ta còn cách một hoặc hai năm nữa để có "một số lượng rất lớn các hệ thống AI thông minh hơn con người ở hầu hết mọi thứ".

Có lẽ chúng ta nên bỏ qua những dự đoán này. Suy cho cùng, các giám đốc điều hành AI sẽ hưởng lợi từ sự cường điệu quá mức về AGI và có thể có động cơ để phóng đại.

Nhưng rất nhiều chuyên gia độc lập — bao gồm Geoffrey Hinton và Yoshua Bengio, hai trong số những nhà nghiên cứu AI có ảnh hưởng nhất thế giới, và Ben Buchanan, chuyên gia AI hàng đầu của chính quyền Biden — đang nói những điều tương tự. Cũng như một loạt các nhà kinh tế, nhà toán học và quan chức an ninh quốc gia nổi tiếng khác.

Công bằng mà nói, một số chuyên gia nghi ngờ rằng AGI sắp xảy ra. Nhưng ngay cả khi bạn bỏ qua tất cả những người làm việc tại các công ty AI hoặc có cổ phần trong các công ty AI, vẫn có đủ tiếng nói độc lập đáng tin cậy với mốc thời gian AGI đang đến rất gần.

Các mô hình AI ngày càng tốt hơn

Vào năm 2022, khi OpenAI phát hành ChatGPT, các mô hình AI hàng đầu gặp khó khăn với số học cơ bản, thường xuyên thất bại trong các vấn đề lý luận phức tạp và thường "ảo giác" hoặc bịa ra những sự thật không tồn tại. Các chatbot từ thời đại đó có thể làm những điều ấn tượng với sự nhắc nhở phù hợp, nhưng bạn sẽ không bao giờ sử dụng chúng cho bất kỳ điều gì cực kỳ quan trọng.

1742179266654.png

Các mô hình AI ngày nay đã tốt hơn nhiều. Hiện nay, các mô hình chuyên biệt đang đạt điểm số ở cấp độ huy chương tại Kỳ thi Olympic Toán quốc tế, và các mô hình đa năng đã trở nên quá giỏi trong việc giải quyết các vấn đề phức tạp đến mức chúng ta phải tạo ra các bài kiểm tra mới, khó hơn để đo lường khả năng của chúng. Ảo giác và lỗi thực tế vẫn xảy ra, nhưng chúng hiếm hơn ở các mô hình mới. Và nhiều doanh nghiệp hiện tin tưởng các mô hình AI đủ để xây dựng chúng thành các chức năng cốt lõi hướng đến khách hàng.

Trong AI, các mô hình lớn hơn, được đào tạo bằng nhiều dữ liệu và sức mạnh xử lý hơn, có xu hướng tạo ra kết quả tốt hơn và các mô hình hàng đầu hiện nay lớn hơn đáng kể so với các mô hình tiền nhiệm của chúng.

Nhưng nó cũng bắt nguồn từ những đột phá mà các nhà nghiên cứu AI đã thực hiện trong những năm gần đây, đáng chú ý nhất là sự ra đời của các mô hình "lý luận", được xây dựng để thực hiện thêm một bước tính toán trước khi đưa ra phản hồi.

Các mô hình lý luận, bao gồm o1 của OpenAI và R1 của DeepSeek, được đào tạo để giải quyết các vấn đề phức tạp và được xây dựng bằng cách sử dụng học tăng cường — một kỹ thuật được sử dụng để dạy AI chơi trò chơi cờ vây ở cấp độ siêu phàm. Chúng dường như đang thành công trong những điều đã làm vấp ngã các mô hình trước đó. Chỉ một ví dụ: GPT-4o, một mô hình chuẩn do OpenAI phát hành, đạt 9 phần trăm trong AIME 2024, một tập hợp các bài toán thi đấu cực kỳ khó. o1, một mô hình lý luận mà OpenAI phát hành vài tháng sau đó, đạt 74% trong cùng một bài kiểm tra.

Nếu bạn thực sự muốn nắm bắt được mức độ cải thiện của AI gần đây, hãy nói chuyện với một lập trình viên. Một hoặc hai năm trước, các công cụ mã hóa AI đã tồn tại, nhưng nhằm mục đích tăng tốc cho các lập trình viên con người hơn là thay thế họ. Ngày nay, AI thực hiện được hầu hết công việc viết code thực tế cho lập trình viên và các coder ngày càng cảm thấy rằng công việc của họ là giám sát các hệ thống AI.

Jared Friedman, đối tác tại Y Combinator, một công ty tăng tốc khởi nghiệp, gần đây cho biết một phần tư số công ty khởi nghiệp hiện tại của công ty tăng tốc này đang sử dụng AI để viết gần như toàn bộ mã phần mềm của họ.

"Một năm trước, họ sẽ xây dựng sản phẩm của mình từ đầu nhưng hiện tại 95% sản phẩm được xây dựng bởi AI", ông nói.

Chuẩn bị quá mức còn tốt hơn là chuẩn bị không đủ

Có thể sự tiến bộ của AI sẽ gặp phải một nút thắt mà chúng ta không ngờ tới như tình trạng thiếu năng lượng ngăn cản các công ty AI xây dựng các trung tâm dữ liệu lớn hơn hoặc hạn chế quyền truy cập vào các chip mạnh mẽ được sử dụng để đào tạo các mô hình AI. Có lẽ các kiến trúc mô hình và kỹ thuật đào tạo ngày nay không thể đưa chúng ta đến tận AGI và cần có nhiều đột phá hơn nữa.

Nhưng ngay cả khi AGI đến muộn hơn một thập kỷ so với dự kiến, vào năm 2036 thay vì năm 2026, chúng ta vẫn nên bắt đầu chuẩn bị cho nó ngay từ bây giờ.

Theo các chuyên gia, các tổ chức nên chuẩn bị cho AGI bằng cách: hiện đại hóa cơ sở hạ tầng năng lượng, tăng cường phòng thủ an ninh mạng, đẩy nhanh quá trình phê duyệt các loại thuốc do AI thiết kế, viết các quy định để ngăn ngừa những tác hại nghiêm trọng nhất của AI, giảng dạy kiến thức về AI trong trường học, ưu tiên phát triển xã hội và cảm xúc hơn các kỹ năng kỹ thuật sắp lỗi thời. Đây đều là những ý tưởng hợp lý, có hoặc không có AGI.

Một số nhà lãnh đạo công nghệ lo ngại rằng nỗi sợ hãi sớm về AGI sẽ khiến chúng ta quản lý AI quá tích cực. Nhưng chính quyền Trump đã ra tín hiệu rằng họ muốn đẩy nhanh AI phát triển, không làm chậm lại. Và rất nhiều tiền đang được chi để tạo ra thế hệ mô hình AI tiếp theo — hàng trăm tỷ đô la, và còn nhiều hơn nữa — nên có vẻ như các công ty AI hàng đầu sẽ không tự nguyện dừng lại.

Với các cá nhân, các chuyên gia khuyên rằng từng người nên nghiêm túc xem xét khả năng của AGI ngay bây giờ, ngay cả khi chúng ta không biết chính xác khi nào nó sẽ xuất hiện.

Nguồn: NYTimes​
 


Đăng nhập một lần thảo luận tẹt ga
Thành viên mới đăng
Top