Thoại Viết Hoàng
Writer
Geoffrey Hinton, một trong những người được gọi là cha đỡ đầu của trí tuệ nhân tạo, hôm thứ Tư đã thúc giục các chính phủ can thiệp và đảm bảo rằng máy móc không nắm quyền kiểm soát xã hội.
Hinton đã gây chú ý vào tháng 5 khi tuyên bố rời Google sau một thập kỷ làm việc để nói chuyện thoải mái hơn về sự nguy hiểm của AI, ngay sau khi phát hành ChatGPT đã thu hút trí tưởng tượng của thế giới.
Nhà khoa học AI rất được kính trọng, làm việc tại Đại học Toronto, đã phát biểu trước rất nhiều khán giả tại hội nghị công nghệ Collision ở thành phố Canada.
Hội nghị quy tụ hơn 30.000 nhà sáng lập công ty khởi nghiệp, nhà đầu tư và nhân viên công nghệ, hầu hết đều muốn tìm hiểu cách điều khiển làn sóng AI và không nghe thấy bài học nào về sự nguy hiểm của nó.
Hinton nói: “Trước khi AI thông minh hơn chúng ta, tôi nghĩ những người phát triển nó nên được khuyến khích nỗ lực nhiều hơn để hiểu làm thế nào nó có thể cố gắng và lấy đi quyền kiểm soát.
"Ngay bây giờ có 99 người rất thông minh đang cố gắng làm cho AI tốt hơn và một người rất thông minh đang cố gắng tìm ra cách ngăn chặn nó tiếp quản và có thể bạn muốn trở nên cân bằng hơn," anh ấy nói.
Hinton cảnh báo rằng những rủi ro của AI nên được xem xét một cách nghiêm túc bất chấp những người chỉ trích ông, những người tin rằng ông đang đánh giá quá cao những rủi ro.
"Tôi nghĩ điều quan trọng là mọi người hiểu rằng đây không phải là khoa học viễn tưởng, đây không chỉ là nỗi sợ hãi gieo rắc," anh nhấn mạnh. "Đó là một rủi ro thực sự mà chúng ta phải nghĩ đến, và chúng ta cần tìm ra cách đối phó trước."
Hinton cũng bày tỏ lo ngại rằng AI sẽ làm sâu sắc thêm sự bất bình đẳng, với năng suất lớn đạt được từ việc triển khai nó sẽ mang lại lợi ích cho người giàu chứ không phải người lao động.
"Sự giàu có sẽ không đến với những người làm việc. Nó sẽ khiến người giàu trở nên giàu hơn chứ không phải người nghèo hơn và điều đó rất tệ cho xã hội", ông nói thêm.
Ông ấy cũng chỉ ra sự nguy hiểm của tin tức giả mạo do các bot kiểu ChatGPT tạo ra và nói rằng anh ấy hy vọng rằng nội dung do AI tạo ra có thể được đánh dấu theo cách tương tự như cách các ngân hàng trung ương đánh dấu tiền mặt.
"Ví dụ, điều rất quan trọng là cố gắng đánh dấu mọi thứ giả mạo là giả mạo. Liệu chúng ta có thể làm điều đó về mặt kỹ thuật hay không, tôi không biết", ông nói.
Liên minh Châu Âu đang xem xét một kỹ thuật như vậy trong Đạo luật AI của mình, một đạo luật sẽ đặt ra các quy tắc cho AI ở Châu Âu, hiện đang được các nhà lập pháp đàm phán.
'Quá tải dân số trên sao Hỏa'
Danh sách các mối nguy hiểm AI của Hinton trái ngược với các cuộc thảo luận trong hội nghị không tập trung vào sự an toàn và các mối đe dọa mà nhiều hơn về việc nắm bắt cơ hội được tạo ra sau ChatGPT.
Nhà đầu tư mạo hiểm Sarah Guo cho biết việc nói về sự diệt vong và u ám về AI như một mối đe dọa hiện hữu là quá sớm và so sánh nó với việc "nói về dân số quá mức trên sao Hỏa", trích lời một chuyên gia AI khác, Andrew Ng.
Cô ấy cũng cảnh báo chống lại "việc nắm bắt quy định" sẽ chứng kiến sự can thiệp của chính phủ bảo vệ những người đương nhiệm trước khi nó có cơ hội mang lại lợi ích cho các lĩnh vực như y tế, giáo dục hoặc khoa học.
Các ý kiến khác nhau về việc liệu những gã khổng lồ AI thế hệ hiện tại - chủ yếu là OpenAI và Google do Microsoft hậu thuẫn - sẽ vẫn là vô địch hay liệu các tác nhân mới sẽ mở rộng lĩnh vực này bằng các mô hình và cải tiến của riêng họ.
“Trong 5 năm nữa, tôi vẫn hình dung rằng nếu bạn muốn đi tìm mô hình chung tốt nhất, chính xác nhất, tiên tiến nhất, có lẽ bạn vẫn sẽ phải đến một trong số ít công ty có đủ vốn để làm việc đó. ", Leigh Marie Braswell của công ty đầu tư mạo hiểm Kleiner Perkins cho biết.
Zachary Bratun-Glennon của Gradient Ventures cho biết ông đã thấy trước một tương lai nơi "sẽ có hàng triệu mô hình trên một mạng lưới giống như chúng ta có một mạng lưới các trang web ngày nay."
Tham khảo bài gốc tại đây
[IMG alt="
'Bố già của AI' kêu gọi các chính phủ ngừng tiếp quản máy móc"]https://cdn.vnreview.vn/917504_6337...1281b31328c9a60b2268c053f433&width=1080[/IMG]
Nhà khoa học máy tính Geoffrey Hinton, được mệnh danh là 'cha đỡ đầu của AI' phát biểu trong Hội nghị Công nghệ Collision ở Toronto, Canada. © Geoff Robins / AFP'Bố già của AI' kêu gọi các chính phủ ngừng tiếp quản máy móc"]https://cdn.vnreview.vn/917504_6337...1281b31328c9a60b2268c053f433&width=1080[/IMG]
Hinton đã gây chú ý vào tháng 5 khi tuyên bố rời Google sau một thập kỷ làm việc để nói chuyện thoải mái hơn về sự nguy hiểm của AI, ngay sau khi phát hành ChatGPT đã thu hút trí tưởng tượng của thế giới.
Nhà khoa học AI rất được kính trọng, làm việc tại Đại học Toronto, đã phát biểu trước rất nhiều khán giả tại hội nghị công nghệ Collision ở thành phố Canada.
Hội nghị quy tụ hơn 30.000 nhà sáng lập công ty khởi nghiệp, nhà đầu tư và nhân viên công nghệ, hầu hết đều muốn tìm hiểu cách điều khiển làn sóng AI và không nghe thấy bài học nào về sự nguy hiểm của nó.
Hinton nói: “Trước khi AI thông minh hơn chúng ta, tôi nghĩ những người phát triển nó nên được khuyến khích nỗ lực nhiều hơn để hiểu làm thế nào nó có thể cố gắng và lấy đi quyền kiểm soát.
"Ngay bây giờ có 99 người rất thông minh đang cố gắng làm cho AI tốt hơn và một người rất thông minh đang cố gắng tìm ra cách ngăn chặn nó tiếp quản và có thể bạn muốn trở nên cân bằng hơn," anh ấy nói.
Hinton cảnh báo rằng những rủi ro của AI nên được xem xét một cách nghiêm túc bất chấp những người chỉ trích ông, những người tin rằng ông đang đánh giá quá cao những rủi ro.
"Tôi nghĩ điều quan trọng là mọi người hiểu rằng đây không phải là khoa học viễn tưởng, đây không chỉ là nỗi sợ hãi gieo rắc," anh nhấn mạnh. "Đó là một rủi ro thực sự mà chúng ta phải nghĩ đến, và chúng ta cần tìm ra cách đối phó trước."
Hinton cũng bày tỏ lo ngại rằng AI sẽ làm sâu sắc thêm sự bất bình đẳng, với năng suất lớn đạt được từ việc triển khai nó sẽ mang lại lợi ích cho người giàu chứ không phải người lao động.
"Sự giàu có sẽ không đến với những người làm việc. Nó sẽ khiến người giàu trở nên giàu hơn chứ không phải người nghèo hơn và điều đó rất tệ cho xã hội", ông nói thêm.
Ông ấy cũng chỉ ra sự nguy hiểm của tin tức giả mạo do các bot kiểu ChatGPT tạo ra và nói rằng anh ấy hy vọng rằng nội dung do AI tạo ra có thể được đánh dấu theo cách tương tự như cách các ngân hàng trung ương đánh dấu tiền mặt.
"Ví dụ, điều rất quan trọng là cố gắng đánh dấu mọi thứ giả mạo là giả mạo. Liệu chúng ta có thể làm điều đó về mặt kỹ thuật hay không, tôi không biết", ông nói.
Liên minh Châu Âu đang xem xét một kỹ thuật như vậy trong Đạo luật AI của mình, một đạo luật sẽ đặt ra các quy tắc cho AI ở Châu Âu, hiện đang được các nhà lập pháp đàm phán.
'Quá tải dân số trên sao Hỏa'
Danh sách các mối nguy hiểm AI của Hinton trái ngược với các cuộc thảo luận trong hội nghị không tập trung vào sự an toàn và các mối đe dọa mà nhiều hơn về việc nắm bắt cơ hội được tạo ra sau ChatGPT.
Nhà đầu tư mạo hiểm Sarah Guo cho biết việc nói về sự diệt vong và u ám về AI như một mối đe dọa hiện hữu là quá sớm và so sánh nó với việc "nói về dân số quá mức trên sao Hỏa", trích lời một chuyên gia AI khác, Andrew Ng.
Cô ấy cũng cảnh báo chống lại "việc nắm bắt quy định" sẽ chứng kiến sự can thiệp của chính phủ bảo vệ những người đương nhiệm trước khi nó có cơ hội mang lại lợi ích cho các lĩnh vực như y tế, giáo dục hoặc khoa học.
Các ý kiến khác nhau về việc liệu những gã khổng lồ AI thế hệ hiện tại - chủ yếu là OpenAI và Google do Microsoft hậu thuẫn - sẽ vẫn là vô địch hay liệu các tác nhân mới sẽ mở rộng lĩnh vực này bằng các mô hình và cải tiến của riêng họ.
“Trong 5 năm nữa, tôi vẫn hình dung rằng nếu bạn muốn đi tìm mô hình chung tốt nhất, chính xác nhất, tiên tiến nhất, có lẽ bạn vẫn sẽ phải đến một trong số ít công ty có đủ vốn để làm việc đó. ", Leigh Marie Braswell của công ty đầu tư mạo hiểm Kleiner Perkins cho biết.
Zachary Bratun-Glennon của Gradient Ventures cho biết ông đã thấy trước một tương lai nơi "sẽ có hàng triệu mô hình trên một mạng lưới giống như chúng ta có một mạng lưới các trang web ngày nay."
Tham khảo bài gốc tại đây
