Nhà nghiên cứu hàng đầu Yoshua Bengio cảnh báo rằng cuộc chạy đua điên cuồng của các gã khổng lồ công nghệ nhằm phát triển trí tuệ nhân tạo (AI) ngày càng mạnh mẽ hơn có thể gây ra những tác động "có hại" khi các nhà khoa học khai mạc hội nghị thượng đỉnh toàn cầu về công nghệ này tại Paris.
Nhà khoa học máy tính và là người chiến thắng Giải thưởng Turing danh giá năm 2018 đã trình bày Báo cáo an toàn AI quốc tế đầu tiên, được biên soạn dưới sự giám sát của ông, tại trường đại học ENS ở Paris.
Bengio chỉ ra những rủi ro của AI vốn đã được thừa nhận rộng rãi, chẳng hạn như việc sử dụng AI để tạo nội dung giả mạo hoặc gây hiểu lầm trực tuyến.
Nhưng giáo sư tại Đại học Montreal nói thêm rằng "ngày càng có nhiều bằng chứng cho thấy có thêm những rủi ro khác, như tấn công sinh học hoặc tấn công mạng".
Về lâu dài, ông lo ngại con người có thể "mất kiểm soát" đối với các hệ thống AI, có khả năng bị thúc đẩy bởi "ý chí sinh tồn của chính họ".
Bengio nói thêm rằng sự xuất hiện của mô hình AI hiệu suất cao, chi phí thấp DeepSeek của Trung Quốc vào tháng trước đã "đẩy nhanh cuộc đua, điều này không tốt cho vấn đề an toàn".
Ông kêu gọi áp dụng quy định quốc tế chặt chẽ hơn và nghiên cứu sâu rộng hơn về an toàn AI, hiện chỉ chiếm "một phần rất nhỏ" trong số các khoản đầu tư lớn đang được thực hiện trong lĩnh vực này.
"Nếu không có sự can thiệp của chính phủ , tôi không biết chúng ta sẽ vượt qua được điều này như thế nào", Bengio nói.
Vẫn là quốc gia dẫn đầu thế giới về AI hiện nay, Hoa Kỳ đã hủy bỏ nỗ lực của cựu tổng thống Joe Biden nhằm áp đặt một số quy tắc về phát triển kể từ khi Donald Trump nhậm chức.
Khi ChatGPT của OpenAI xuất hiện trên trường công cộng cách đây hai năm, Bengio cho biết "Tôi cảm thấy cấp thiết phải suy nghĩ về vấn đề an toàn này" khi trình bày báo cáo - được thiết kế để khớp với các tài liệu hiện đã quen thuộc của Ủy ban liên chính phủ về biến đổi khí hậu (IPCC).
"Điều khiến tôi sợ nhất là khả năng loài người có thể biến mất trong vòng 10 năm. Thật kinh hoàng. Tôi không biết tại sao nhiều người lại không nhận ra điều đó", ông nói.
Khoảng 100 chuyên gia từ 30 quốc gia, Liên hợp quốc, Liên minh châu Âu và OECD đã đóng góp vào báo cáo do Bengio đứng đầu, được công bố vào cuối tháng 1.
Công việc này đã được khởi động tại hội nghị thượng đỉnh về an toàn AI trước đó ở Anh vào tháng 11 năm 2023.
Nguồn: AFP
Nhà khoa học máy tính và là người chiến thắng Giải thưởng Turing danh giá năm 2018 đã trình bày Báo cáo an toàn AI quốc tế đầu tiên, được biên soạn dưới sự giám sát của ông, tại trường đại học ENS ở Paris.
Bengio chỉ ra những rủi ro của AI vốn đã được thừa nhận rộng rãi, chẳng hạn như việc sử dụng AI để tạo nội dung giả mạo hoặc gây hiểu lầm trực tuyến.
Nhưng giáo sư tại Đại học Montreal nói thêm rằng "ngày càng có nhiều bằng chứng cho thấy có thêm những rủi ro khác, như tấn công sinh học hoặc tấn công mạng".
Về lâu dài, ông lo ngại con người có thể "mất kiểm soát" đối với các hệ thống AI, có khả năng bị thúc đẩy bởi "ý chí sinh tồn của chính họ".
Bengio nói thêm rằng sự xuất hiện của mô hình AI hiệu suất cao, chi phí thấp DeepSeek của Trung Quốc vào tháng trước đã "đẩy nhanh cuộc đua, điều này không tốt cho vấn đề an toàn".
Ông kêu gọi áp dụng quy định quốc tế chặt chẽ hơn và nghiên cứu sâu rộng hơn về an toàn AI, hiện chỉ chiếm "một phần rất nhỏ" trong số các khoản đầu tư lớn đang được thực hiện trong lĩnh vực này.
"Nếu không có sự can thiệp của chính phủ , tôi không biết chúng ta sẽ vượt qua được điều này như thế nào", Bengio nói.
Vẫn là quốc gia dẫn đầu thế giới về AI hiện nay, Hoa Kỳ đã hủy bỏ nỗ lực của cựu tổng thống Joe Biden nhằm áp đặt một số quy tắc về phát triển kể từ khi Donald Trump nhậm chức.
Khi ChatGPT của OpenAI xuất hiện trên trường công cộng cách đây hai năm, Bengio cho biết "Tôi cảm thấy cấp thiết phải suy nghĩ về vấn đề an toàn này" khi trình bày báo cáo - được thiết kế để khớp với các tài liệu hiện đã quen thuộc của Ủy ban liên chính phủ về biến đổi khí hậu (IPCC).
"Điều khiến tôi sợ nhất là khả năng loài người có thể biến mất trong vòng 10 năm. Thật kinh hoàng. Tôi không biết tại sao nhiều người lại không nhận ra điều đó", ông nói.
Khoảng 100 chuyên gia từ 30 quốc gia, Liên hợp quốc, Liên minh châu Âu và OECD đã đóng góp vào báo cáo do Bengio đứng đầu, được công bố vào cuối tháng 1.
Công việc này đã được khởi động tại hội nghị thượng đỉnh về an toàn AI trước đó ở Anh vào tháng 11 năm 2023.
Nguồn: AFP
