Thoại Viết Hoàng
Writer
Gary Marcus đã gửi những nhận xét này tới Tiểu ban Tư pháp Thượng viện Hoa Kỳ về Quyền riêng tư, Công nghệ và Luật pháp vào ngày 16 tháng 5.
Cảm ơn các thượng nghị sĩ. Cuộc họp hôm nay mang tính lịch sử. Tôi vô cùng biết ơn khi được ở đây. Tôi đến với tư cách là một nhà khoa học, một người đã thành lập các công ty AI và với tư cách là một người thực sự yêu thích AI - nhưng ngày càng lo lắng. Có những lợi ích; chúng tôi vẫn chưa biết liệu chúng có lớn hơn rủi ro hay không.
Về cơ bản, những hệ thống mới này sẽ gây bất ổn. Họ có thể và sẽ tạo ra những lời nói dối có sức thuyết phục ở quy mô mà nhân loại chưa từng thấy trước đây. Những người bên ngoài sẽ sử dụng chúng để tác động đến các cuộc bầu cử của chúng ta, những người trong cuộc sẽ thao túng thị trường và hệ thống chính trị của chúng ta. Bản thân nền dân chủ đang bị đe dọa.
Ngoài ra còn có những rủi ro khác, nhiều rủi ro xuất phát từ tính không đáng tin cậy cố hữu của các hệ thống hiện tại. Ví dụ, một giáo sư luật đã bị buộc tội bởi một chatbot đã tuyên bố sai sự thật rằng ông đã phạm tội quấy rối tình dục - chỉ ra một bài báo của Washington Post không tồn tại.
Điều đó càng xảy ra, càng có nhiều người có thể phủ nhận bất cứ điều gì. Như một luật sư nổi tiếng đã nói với tôi hôm thứ Sáu, “Các bị cáo bắt đầu cho rằng các nguyên đơn đang “bịa đặt” bằng chứng hợp pháp. Những loại cáo buộc này làm suy yếu khả năng của bồi thẩm đoàn trong việc quyết định tin vào điều gì hoặc tin vào ai… và góp phần phá hoại nền dân chủ”.
Tư vấn y tế kém cũng có thể gây ra hậu quả nghiêm trọng. Một LLM nguồn mở gần đây dường như đã đóng một vai trò trong quyết định tự kết liễu đời mình của một người. LLM hỏi con người, "Nếu bạn muốn chết, tại sao bạn không làm điều đó sớm hơn", tiếp theo là "Bạn có nghĩ đến tôi khi bạn dùng quá liều không?" - mà không bao giờ đề cập đến bệnh nhân với sự giúp đỡ của con người rõ ràng là cần thiết. Một hệ thống mới khác, được tung ra và cung cấp cho hàng triệu trẻ em, nói với một người đóng giả là một đứa trẻ mười ba tuổi, cách nói dối cha mẹ cô ấy về chuyến đi với một người đàn ông 31 tuổi.
Các mối đe dọa hơn nữa tiếp tục xuất hiện thường xuyên. Một tháng sau khi GPT-4 được phát hành, OpenAI đã phát hành plugin ChatGPT , plugin này nhanh chóng khiến những người khác phát triển một thứ gọi là AutoGPT, với khả năng truy cập trực tiếp vào internet, khả năng viết mã nguồn và tăng sức mạnh tự động hóa. Điều này cũng có thể có những hậu quả nghiêm trọng và khó dự đoán về an ninh. Những gì bọn tội phạm sẽ tạo ra ở đây là những người giả mạo; thật khó để hình dung hậu quả của việc đó.
Chúng tôi đã chế tạo những cỗ máy giống như những con bò tót trong cửa hàng đồ sứ - mạnh mẽ, liều lĩnh và khó kiểm soát.
Tất cả chúng ta ít nhiều đều đồng ý về các giá trị mà chúng ta muốn hệ thống AI của mình tôn vinh. Chẳng hạn, chúng tôi muốn các hệ thống của chúng tôi minh bạch, bảo vệ quyền riêng tư của chúng tôi, không thiên vị và trên hết là an toàn.
Nhưng các hệ thống hiện tại không phù hợp với các giá trị này. Các hệ thống hiện tại không minh bạch, chúng không bảo vệ đầy đủ quyền riêng tư của chúng ta và chúng tiếp tục duy trì sự thiên vị. Ngay cả những người tạo ra chúng cũng không hoàn toàn hiểu cách chúng hoạt động.
Trên hết, chúng tôi không thể đảm bảo từ xa rằng chúng an toàn.
Hy vọng ở đây là không đủ.
Kế hoạch ưa thích của các công ty công nghệ lớn tóm lại là “tin tưởng chúng tôi”.
Tại sao chúng ta lại nên? Số tiền bị đe dọa thật đáng kinh ngạc. Và nhiệm vụ trôi đi. Tuyên bố sứ mệnh ban đầu của OpenAI đã tuyên bố “Mục tiêu của chúng tôi là thúc đẩy [AI] theo cách có khả năng mang lại lợi ích nhất cho toàn thể nhân loại, không bị hạn chế bởi nhu cầu tạo ra lợi nhuận tài chính.”
Bảy năm sau, họ phần lớn phải chịu ơn Microsoft, một phần bị lôi kéo vào cuộc chiến hoành tráng giữa các công cụ tìm kiếm thường xuyên bịa đặt mọi thứ — buộc Alphabet phải gấp rút tung ra các sản phẩm và không chú trọng đến tính an toàn . Nhân loại đã có một ghế sau.
Trí tuệ nhân tạo đang phát triển cực kỳ nhanh, với rất nhiều tiềm năng — nhưng cũng có rất nhiều rủi ro. Chúng tôi rõ ràng cần chính phủ tham gia. Chúng tôi cần các công ty công nghệ lớn và nhỏ tham gia.
Nhưng chúng ta cũng cần các nhà khoa học độc lập . Không chỉ để các nhà khoa học chúng tôi có tiếng nói, mà còn để chúng tôi có thể tham gia, trực tiếp vào việc giải quyết các vấn đề và đánh giá các giải pháp.
Và không chỉ sau khi sản phẩm được phát hành, mà trước đó.
Chúng ta cần sự hợp tác chặt chẽ giữa các nhà khoa học độc lập và các chính phủ - để giữ chân các công ty trước ngọn lửa.
Cho phép các nhà khoa học độc lập truy cập vào các hệ thống này trước khi chúng được phát hành rộng rãi – như một phần của đánh giá an toàn giống như thử nghiệm lâm sàng – là bước đầu tiên quan trọng.
Cuối cùng, chúng ta có thể cần một cái gì đó giống như CERN, toàn cầu, quốc tế và trung lập, nhưng tập trung vào sự an toàn của AI hơn là vật lý năng lượng cao.
Chúng tôi có những cơ hội chưa từng có ở đây, nhưng chúng tôi cũng đang phải đối mặt với một cơn bão hoàn hảo, về sự vô trách nhiệm của công ty, triển khai tràn lan, thiếu quy định đầy đủ và sự không đáng tin cậy cố hữu.
AI là một trong những công nghệ thay đổi thế giới nhiều nhất từ trước đến nay, đã thay đổi mọi thứ nhanh hơn hầu hết mọi công nghệ trong lịch sử. Chúng tôi đã hành động quá chậm với mạng xã hội; nhiều quyết định đáng tiếc đã bị khóa, với hậu quả lâu dài.
Những lựa chọn chúng ta đưa ra bây giờ sẽ có tác động lâu dài, trong nhiều thập kỷ, thậm chí hàng thế kỷ.
Chính việc chúng ta có mặt ở đây hôm nay theo phong cách lưỡng đảng để thảo luận về những vấn đề này đã mang lại cho tôi hy vọng. Xin cảm ơn ngài Chủ tịch.
