Dũng Đỗ
Writer
Yoshua Bengio, nhà khoa học máy tính hàng đầu và là chủ nhân giải thưởng Turing danh giá năm 2018, đã đưa ra cảnh báo nghiêm trọng về nguy cơ con người mất kiểm soát đối với các hệ thống trí tuệ nhân tạo (AI) trong tương lai, thậm chí có thể dẫn đến sự diệt vong của nhân loại trong vòng một thập kỷ tới.
Lời kêu gọi tại Hội nghị thượng đỉnh về AI
Phát biểu tại Hội nghị thượng đỉnh Hành động về AI diễn ra tại Paris (Pháp) ngày 7/2, ông Bengio kêu gọi các quốc gia cần có quy định quốc tế chặt chẽ hơn và tăng cường nghiên cứu về an toàn AI. Ông nhấn mạnh rằng nghiên cứu về an toàn AI hiện chỉ chiếm một phần nhỏ trong số các khoản đầu tư khổng lồ đang đổ vào lĩnh vực này.
Theo ông Bengio, sự xuất hiện của mô hình AI hiệu suất cao, chi phí thấp DeepSeek vào tháng trước đã đẩy nhanh cuộc đua phát triển AI, nhưng lại không đi kèm với sự quan tâm tương xứng đến vấn đề an toàn.
Báo cáo an toàn AI quốc tế do ông Bengio trình bày tại hội nghị đã chỉ ra những rủi ro đã được biết đến như việc sử dụng AI để tạo nội dung giả mạo, thông tin sai lệch trên mạng. Đồng thời, báo cáo cũng cảnh báo về những rủi ro mới xuất hiện, như các cuộc tấn công sinh học hoặc tấn công mạng do AI thực hiện.
Báo cáo này là kết quả hợp tác của khoảng 100 chuyên gia từ 30 quốc gia, Liên hợp quốc, Liên minh châu Âu và Tổ chức Hợp tác và Phát triển Kinh tế (OECD). Đây là báo cáo đầu tiên về vấn đề an toàn AI quốc tế, được thực hiện sau hội nghị thượng đỉnh về an toàn AI tại Anh vào tháng 11/2023.
Trước đó, Thủ tướng Anh Rishi Sunak cũng từng cảnh báo "nhân loại có thể mất hoàn toàn quyền kiểm soát AI" nếu công nghệ này không được giám sát thích hợp.
Tỷ phú Elon Musk cũng bày tỏ lo ngại: "Lần đầu tiên trong lịch sử loài người, chúng ta thực sự đối mặt với một thứ sẽ thông minh hơn chúng ta rất nhiều. Tôi không rõ chúng ta có thể thực sự kiểm soát nó thế nào... Tôi thực sự nghĩ nó là một trong những nguy cơ đối với sự tồn tại của con người, có thể là nguy cơ lớn nhất".
Thị trường AI và yêu cầu về hành lang pháp lý
Theo ước tính, đến năm 2028, giá trị thị trường AI có thể vượt ngưỡng 1.000 tỷ USD. Điều này càng làm tăng tính cấp thiết của việc xây dựng hành lang pháp lý để kiểm soát và ngăn ngừa những nguy cơ tiềm ẩn từ AI.
Liên hợp quốc từng khẳng định các công nghệ AI cần được giám sát chặt chẽ, đảm bảo khía cạnh quyền con người luôn là yếu tố trung tâm, bất kể công nghệ phát triển đến mức độ nào.
Cảnh báo của Yoshua Bengio và các chuyên gia hàng đầu về AI cho thấy mức độ nghiêm trọng của những nguy cơ tiềm ẩn từ sự phát triển AI không được kiểm soát. Việc kêu gọi quy định quốc tế chặt chẽ và tăng cường nghiên cứu về an toàn AI là một hành động cần thiết để đảm bảo AI phát triển theo hướng có lợi cho nhân loại, thay vì trở thành mối đe dọa đối với sự tồn vong của con người.
Lời kêu gọi tại Hội nghị thượng đỉnh về AI
Phát biểu tại Hội nghị thượng đỉnh Hành động về AI diễn ra tại Paris (Pháp) ngày 7/2, ông Bengio kêu gọi các quốc gia cần có quy định quốc tế chặt chẽ hơn và tăng cường nghiên cứu về an toàn AI. Ông nhấn mạnh rằng nghiên cứu về an toàn AI hiện chỉ chiếm một phần nhỏ trong số các khoản đầu tư khổng lồ đang đổ vào lĩnh vực này.
Theo ông Bengio, sự xuất hiện của mô hình AI hiệu suất cao, chi phí thấp DeepSeek vào tháng trước đã đẩy nhanh cuộc đua phát triển AI, nhưng lại không đi kèm với sự quan tâm tương xứng đến vấn đề an toàn.
Báo cáo an toàn AI quốc tế do ông Bengio trình bày tại hội nghị đã chỉ ra những rủi ro đã được biết đến như việc sử dụng AI để tạo nội dung giả mạo, thông tin sai lệch trên mạng. Đồng thời, báo cáo cũng cảnh báo về những rủi ro mới xuất hiện, như các cuộc tấn công sinh học hoặc tấn công mạng do AI thực hiện.
Báo cáo này là kết quả hợp tác của khoảng 100 chuyên gia từ 30 quốc gia, Liên hợp quốc, Liên minh châu Âu và Tổ chức Hợp tác và Phát triển Kinh tế (OECD). Đây là báo cáo đầu tiên về vấn đề an toàn AI quốc tế, được thực hiện sau hội nghị thượng đỉnh về an toàn AI tại Anh vào tháng 11/2023.
Trước đó, Thủ tướng Anh Rishi Sunak cũng từng cảnh báo "nhân loại có thể mất hoàn toàn quyền kiểm soát AI" nếu công nghệ này không được giám sát thích hợp.
Tỷ phú Elon Musk cũng bày tỏ lo ngại: "Lần đầu tiên trong lịch sử loài người, chúng ta thực sự đối mặt với một thứ sẽ thông minh hơn chúng ta rất nhiều. Tôi không rõ chúng ta có thể thực sự kiểm soát nó thế nào... Tôi thực sự nghĩ nó là một trong những nguy cơ đối với sự tồn tại của con người, có thể là nguy cơ lớn nhất".
Thị trường AI và yêu cầu về hành lang pháp lý
Theo ước tính, đến năm 2028, giá trị thị trường AI có thể vượt ngưỡng 1.000 tỷ USD. Điều này càng làm tăng tính cấp thiết của việc xây dựng hành lang pháp lý để kiểm soát và ngăn ngừa những nguy cơ tiềm ẩn từ AI.
Liên hợp quốc từng khẳng định các công nghệ AI cần được giám sát chặt chẽ, đảm bảo khía cạnh quyền con người luôn là yếu tố trung tâm, bất kể công nghệ phát triển đến mức độ nào.
Cảnh báo của Yoshua Bengio và các chuyên gia hàng đầu về AI cho thấy mức độ nghiêm trọng của những nguy cơ tiềm ẩn từ sự phát triển AI không được kiểm soát. Việc kêu gọi quy định quốc tế chặt chẽ và tăng cường nghiên cứu về an toàn AI là một hành động cần thiết để đảm bảo AI phát triển theo hướng có lợi cho nhân loại, thay vì trở thành mối đe dọa đối với sự tồn vong của con người.
