Mark Zuckerberg vừa lên tiếng về một trong những vấn đề đang gây tranh luận trong ngành AI: có nên làm chậm tốc độ phát triển các mô hình AI mạnh cho đến khi các biện pháp an toàn theo kịp hay không.
Trong bài đăng mới nhất vừa trên mạng xã hội X, CEO Meta cho rằng mỗi phòng nghiên cứu AI đều có trách nhiệm tự bảo đảm mô hình của mình được phát triển an toàn, đồng thời có đủ động lực để làm việc đó. Theo ông, không nhất thiết phải chờ toàn ngành cùng giảm tốc độ phát triển AI.
Lý do đầu tiên, theo Zuckerberg, đến từ chính người dùng. Mọi người sẽ không muốn sử dụng những AI agent không hiểu ý mình, không làm đúng những gì được yêu cầu hoặc hành động trái với lợi ích của họ. Do đó, các công ty AI có động lực tự nhiên để làm cho mô hình của mình ngày càng đáng tin cậy và phù hợp với mục tiêu của người dùng.
Zuckerberg cho rằng độ tin cậy và khả năng “alignment” sẽ trở thành yếu tố cạnh tranh quan trọng của AI. Alignment ở đây có thể hiểu đơn giản là AI phải hành động phù hợp với mục tiêu và giá trị của người sử dụng, thay vì tự làm những việc mà người dùng không mong muốn. Theo ông, phòng nghiên cứu nào không chú trọng vấn đề này sẽ có nguy cơ bị bỏ lại phía sau.
Meta cũng cho rằng các công ty AI có lý do rất thực tế để hạn chế rủi ro. Nếu một hệ thống AI gây thiệt hại, công ty đứng sau nó có thể phải chịu trách nhiệm pháp lý. Zuckerberg dẫn ví dụ Meta từng trì hoãn việc phát hành Muse trong vài tháng để tập trung vào an toàn và bảo mật. Ông nói Meta không yêu cầu các công ty khác phải làm điều tương tự trước, mà tự đưa việc này vào quá trình phát triển sản phẩm của mình.
Một biện pháp khác mà Zuckerberg ủng hộ là để các tổ chức và chuyên gia độc lập đánh giá AI. Ông cho rằng đây đã là một thông lệ tốt trong ngành và Meta Superintelligence Labs cũng đang sử dụng các đánh giá viên, cố vấn độc lập ở một số lĩnh vực. Theo ông, ngành AI cần một hệ sinh thái lớn hơn và đa dạng hơn gồm những bên độc lập có thể kiểm tra các hệ thống AI.
Nhưng điểm đáng chú ý nhất trong thông điệp mới của Zuckerberg nằm ở cách ông nhìn nhận cuộc đua tạo ra siêu trí tuệ nhân tạo, hay superintelligence.
Zuckerberg cho rằng các công ty AI nên dành phần lớn năng lực tính toán để phục vụ con người thay vì chạy đua quá mức vào việc tạo ra những hệ thống có khả năng tự cải thiện liên tục. Ông gọi quá trình này là recursive self-improvement, có thể hiểu đơn giản là AI tự cải thiện khả năng của chính nó, rồi phiên bản tốt hơn lại tiếp tục giúp tạo ra phiên bản tốt hơn nữa.
Theo Zuckerberg, hạn chế cuộc đua theo hướng này là một trong những cách để phát triển AI an toàn hơn. Ông cho biết Meta đã đưa ra cam kết theo hướng này và cho rằng các phòng nghiên cứu khác cũng có thể làm tương tự.
Tất cả dẫn tới quan điểm lớn hơn mà Zuckerberg đã trình bày trong bài viết dài hồi tháng 8: điều quan trọng không phải là để một tổ chức, một chính phủ hay một hệ thống AI duy nhất nắm giữ quá nhiều quyền lực, mà phải duy trì sự cân bằng quyền lực và trao công cụ AI mạnh cho càng nhiều người càng tốt.
Trong bài viết trước đó, Zuckerberg đặt ra câu hỏi: khi superintelligence xuất hiện, ai sẽ được sử dụng nó và nó sẽ được dùng để làm gì? Theo ông, nếu công nghệ này chỉ nằm trong tay một số ít tổ chức thì quyền lực sẽ bị tập trung. Ngược lại, nếu mỗi người đều có một AI đủ mạnh để hỗ trợ mình, quyền lực sẽ được phân tán rộng hơn.
Zuckerberg hình dung mỗi người sẽ có một AI agent cá nhân, hiểu mục tiêu, công việc và sở thích của họ, có thể hoạt động liên tục để hỗ trợ từ công việc, học tập, sức khỏe, tài chính cho đến các hoạt động cá nhân. Ông cũng cho rằng AI sẽ giúp mỗi người tạo ra sản phẩm, xây dựng doanh nghiệp và phát minh những thứ trước đây đòi hỏi cả một đội ngũ lớn.
Ông đặc biệt nhấn mạnh rằng Meta muốn AI tập trung vào “invention”, tức phát minh và tạo ra những thứ mới, chứ không chỉ dùng AI để tự động hóa công việc của con người. Theo cách Zuckerberg nhìn nhận, AI càng giúp con người tạo ra những sản phẩm, ý tưởng và phát hiện mới thì con người càng có thêm năng lực thay vì chỉ bị AI thay thế.
Đây cũng là lý do Zuckerberg không đồng tình với cách tiếp cận cho rằng cách duy nhất để làm AI an toàn là tập trung quyền lực vào một số ít tổ chức có khả năng kiểm soát một siêu AI duy nhất.
Ông cho rằng con người có những giá trị và mục tiêu rất khác nhau. Không có một hệ thống AI duy nhất nào có thể đồng thời đại diện cho tất cả những giá trị đó. Thay vì cố tạo ra một “siêu AI tốt bụng” quyết định điều gì tốt nhất cho tất cả mọi người, Zuckerberg cho rằng nên tạo ra nhiều hệ thống AI mạnh và đưa chúng đến với nhiều người, để các cá nhân và tổ chức có thể kiểm soát, cạnh tranh và kiểm tra lẫn nhau.
Ông đưa ra một ví dụ khá dễ hình dung: nếu chỉ một người có một luật sư siêu trí tuệ, người đó sẽ có lợi thế rất lớn trước những người khác. Nhưng nếu tất cả mọi người đều có một luật sư như vậy, cán cân quyền lực sẽ cân bằng hơn. Zuckerberg cho rằng AI cũng có thể hoạt động theo nguyên tắc tương tự.
Quan điểm này cũng giải thích vì sao Meta muốn tập trung vào personal superintelligence, tức siêu trí tuệ cá nhân, thay vì chỉ xây dựng AI dành cho chính phủ hoặc các tập đoàn lớn.
Zuckerberg cho rằng nếu các hệ thống AI mạnh nhất chủ yếu nằm trong tay một số ít công ty hoặc chính phủ, quyền lực sẽ ngày càng tập trung. Ngược lại, nếu hàng tỷ người có quyền tiếp cận những công cụ AI mạnh, họ sẽ có thêm khả năng tự quyết định, cạnh tranh và kiểm soát lẫn nhau.
Trong bài đăng mới, Zuckerberg cô đọng quan điểm này thành một câu: “chìa khóa để xây dựng một tương lai tích cực cho tất cả mọi người là duy trì sự cân bằng quyền lực.” Theo ông, đây là điều con người có thể chủ động thực hiện ngay từ bây giờ.
Nói cách khác Zuckerberg không đưa ra lời kêu gọi dừng cuộc đua AI. Ông đưa ra một hướng tiếp cận khác: AI vẫn tiếp tục phát triển, nhưng các công ty phải tự chịu trách nhiệm về độ an toàn, sử dụng đánh giá độc lập, ưu tiên xây dựng AI đáng tin cậy và tránh chạy đua quá mức vào khả năng tự cải thiện của AI. Quan trọng hơn, sức mạnh của AI phải được phân phối rộng thay vì tập trung vào một số ít người hoặc tổ chức.
Đó là cách Mark Zuckerberg nhìn về bài toán AI an toàn: không phải tìm cách tạo ra một siêu AI duy nhất có thể quyết định điều gì tốt cho toàn nhân loại, mà là xây dựng một hệ sinh thái trong đó con người có AI mạnh trong tay, nhiều bên có khả năng kiểm tra và cân bằng lẫn nhau, và không một bên nào nắm quá nhiều quyền lực.
Trong bài đăng mới nhất vừa trên mạng xã hội X, CEO Meta cho rằng mỗi phòng nghiên cứu AI đều có trách nhiệm tự bảo đảm mô hình của mình được phát triển an toàn, đồng thời có đủ động lực để làm việc đó. Theo ông, không nhất thiết phải chờ toàn ngành cùng giảm tốc độ phát triển AI.
Lý do đầu tiên, theo Zuckerberg, đến từ chính người dùng. Mọi người sẽ không muốn sử dụng những AI agent không hiểu ý mình, không làm đúng những gì được yêu cầu hoặc hành động trái với lợi ích của họ. Do đó, các công ty AI có động lực tự nhiên để làm cho mô hình của mình ngày càng đáng tin cậy và phù hợp với mục tiêu của người dùng.
Zuckerberg cho rằng độ tin cậy và khả năng “alignment” sẽ trở thành yếu tố cạnh tranh quan trọng của AI. Alignment ở đây có thể hiểu đơn giản là AI phải hành động phù hợp với mục tiêu và giá trị của người sử dụng, thay vì tự làm những việc mà người dùng không mong muốn. Theo ông, phòng nghiên cứu nào không chú trọng vấn đề này sẽ có nguy cơ bị bỏ lại phía sau.
Meta cũng cho rằng các công ty AI có lý do rất thực tế để hạn chế rủi ro. Nếu một hệ thống AI gây thiệt hại, công ty đứng sau nó có thể phải chịu trách nhiệm pháp lý. Zuckerberg dẫn ví dụ Meta từng trì hoãn việc phát hành Muse trong vài tháng để tập trung vào an toàn và bảo mật. Ông nói Meta không yêu cầu các công ty khác phải làm điều tương tự trước, mà tự đưa việc này vào quá trình phát triển sản phẩm của mình.
Một biện pháp khác mà Zuckerberg ủng hộ là để các tổ chức và chuyên gia độc lập đánh giá AI. Ông cho rằng đây đã là một thông lệ tốt trong ngành và Meta Superintelligence Labs cũng đang sử dụng các đánh giá viên, cố vấn độc lập ở một số lĩnh vực. Theo ông, ngành AI cần một hệ sinh thái lớn hơn và đa dạng hơn gồm những bên độc lập có thể kiểm tra các hệ thống AI.
Nhưng điểm đáng chú ý nhất trong thông điệp mới của Zuckerberg nằm ở cách ông nhìn nhận cuộc đua tạo ra siêu trí tuệ nhân tạo, hay superintelligence.
Zuckerberg cho rằng các công ty AI nên dành phần lớn năng lực tính toán để phục vụ con người thay vì chạy đua quá mức vào việc tạo ra những hệ thống có khả năng tự cải thiện liên tục. Ông gọi quá trình này là recursive self-improvement, có thể hiểu đơn giản là AI tự cải thiện khả năng của chính nó, rồi phiên bản tốt hơn lại tiếp tục giúp tạo ra phiên bản tốt hơn nữa.
Theo Zuckerberg, hạn chế cuộc đua theo hướng này là một trong những cách để phát triển AI an toàn hơn. Ông cho biết Meta đã đưa ra cam kết theo hướng này và cho rằng các phòng nghiên cứu khác cũng có thể làm tương tự.
Tất cả dẫn tới quan điểm lớn hơn mà Zuckerberg đã trình bày trong bài viết dài hồi tháng 8: điều quan trọng không phải là để một tổ chức, một chính phủ hay một hệ thống AI duy nhất nắm giữ quá nhiều quyền lực, mà phải duy trì sự cân bằng quyền lực và trao công cụ AI mạnh cho càng nhiều người càng tốt.
Trong bài viết trước đó, Zuckerberg đặt ra câu hỏi: khi superintelligence xuất hiện, ai sẽ được sử dụng nó và nó sẽ được dùng để làm gì? Theo ông, nếu công nghệ này chỉ nằm trong tay một số ít tổ chức thì quyền lực sẽ bị tập trung. Ngược lại, nếu mỗi người đều có một AI đủ mạnh để hỗ trợ mình, quyền lực sẽ được phân tán rộng hơn.
Zuckerberg hình dung mỗi người sẽ có một AI agent cá nhân, hiểu mục tiêu, công việc và sở thích của họ, có thể hoạt động liên tục để hỗ trợ từ công việc, học tập, sức khỏe, tài chính cho đến các hoạt động cá nhân. Ông cũng cho rằng AI sẽ giúp mỗi người tạo ra sản phẩm, xây dựng doanh nghiệp và phát minh những thứ trước đây đòi hỏi cả một đội ngũ lớn.
Ông đặc biệt nhấn mạnh rằng Meta muốn AI tập trung vào “invention”, tức phát minh và tạo ra những thứ mới, chứ không chỉ dùng AI để tự động hóa công việc của con người. Theo cách Zuckerberg nhìn nhận, AI càng giúp con người tạo ra những sản phẩm, ý tưởng và phát hiện mới thì con người càng có thêm năng lực thay vì chỉ bị AI thay thế.
Đây cũng là lý do Zuckerberg không đồng tình với cách tiếp cận cho rằng cách duy nhất để làm AI an toàn là tập trung quyền lực vào một số ít tổ chức có khả năng kiểm soát một siêu AI duy nhất.
Ông cho rằng con người có những giá trị và mục tiêu rất khác nhau. Không có một hệ thống AI duy nhất nào có thể đồng thời đại diện cho tất cả những giá trị đó. Thay vì cố tạo ra một “siêu AI tốt bụng” quyết định điều gì tốt nhất cho tất cả mọi người, Zuckerberg cho rằng nên tạo ra nhiều hệ thống AI mạnh và đưa chúng đến với nhiều người, để các cá nhân và tổ chức có thể kiểm soát, cạnh tranh và kiểm tra lẫn nhau.
Ông đưa ra một ví dụ khá dễ hình dung: nếu chỉ một người có một luật sư siêu trí tuệ, người đó sẽ có lợi thế rất lớn trước những người khác. Nhưng nếu tất cả mọi người đều có một luật sư như vậy, cán cân quyền lực sẽ cân bằng hơn. Zuckerberg cho rằng AI cũng có thể hoạt động theo nguyên tắc tương tự.
Quan điểm này cũng giải thích vì sao Meta muốn tập trung vào personal superintelligence, tức siêu trí tuệ cá nhân, thay vì chỉ xây dựng AI dành cho chính phủ hoặc các tập đoàn lớn.
Zuckerberg cho rằng nếu các hệ thống AI mạnh nhất chủ yếu nằm trong tay một số ít công ty hoặc chính phủ, quyền lực sẽ ngày càng tập trung. Ngược lại, nếu hàng tỷ người có quyền tiếp cận những công cụ AI mạnh, họ sẽ có thêm khả năng tự quyết định, cạnh tranh và kiểm soát lẫn nhau.
Trong bài đăng mới, Zuckerberg cô đọng quan điểm này thành một câu: “chìa khóa để xây dựng một tương lai tích cực cho tất cả mọi người là duy trì sự cân bằng quyền lực.” Theo ông, đây là điều con người có thể chủ động thực hiện ngay từ bây giờ.
Nói cách khác Zuckerberg không đưa ra lời kêu gọi dừng cuộc đua AI. Ông đưa ra một hướng tiếp cận khác: AI vẫn tiếp tục phát triển, nhưng các công ty phải tự chịu trách nhiệm về độ an toàn, sử dụng đánh giá độc lập, ưu tiên xây dựng AI đáng tin cậy và tránh chạy đua quá mức vào khả năng tự cải thiện của AI. Quan trọng hơn, sức mạnh của AI phải được phân phối rộng thay vì tập trung vào một số ít người hoặc tổ chức.
Đó là cách Mark Zuckerberg nhìn về bài toán AI an toàn: không phải tìm cách tạo ra một siêu AI duy nhất có thể quyết định điều gì tốt cho toàn nhân loại, mà là xây dựng một hệ sinh thái trong đó con người có AI mạnh trong tay, nhiều bên có khả năng kiểm tra và cân bằng lẫn nhau, và không một bên nào nắm quá nhiều quyền lực.
