Lizzie
Writer
Mới đây, hàng trăm nhà lãnh đạo trong lĩnh vực AI đã cùng ký vào một bức thư chung vỏn vẹn như sau: "Giảm thiểu nguy cơ tuyệt chủng trí tuệ nhân tạo nên trở thành ưu tiên toàn cầu cùng với các rủi ro quy mô xã hội khác như dịch bệnh và chiến tranh hạt nhân".
Sam Altman
Theo AP, bức thư ngỏ đã được ký bởi hơn 350 nhà nghiên cứu và giám đốc điều hành, bao gồm cả Giám đốc điều hành OpenAI Sam Altman và 38 thành viên của bộ phận trí tuệ nhân tạo DeepMind của Google.
Bức thư đã được đăng trên trang web của Trung tâm An toàn AI, một tổ chức phi lợi nhuận. Trang web cho biết: Các chuyên gia AI, nhà báo, nhà hoạch định chính sách và công chúng đang ngày càng thảo luận về những rủi ro quan trọng và cấp bách trên diện rộng do trí tuệ nhân tạo gây ra. Mặc dù vậy, thật khó để nói lên mối lo ngại về một số rủi ro nghiêm trọng nhất của trí tuệ nhân tạo tiên tiến. Tuyên bố ngắn gọn dưới đây nhằm khắc phục trở ngại này và mở ra cuộc thảo luận. Nó cũng nhằm mục đích cung cấp ý thức chung cho ngày càng nhiều chuyên gia và nhân vật của công chúng, những người cũng coi trọng một số rủi ro nghiêm trọng nhất của trí tuệ nhân tạo tiên tiến.
Điều đáng nói là nhiều người trong số những người ký tên này đã tham gia vào bức thư ngỏ "tạm ngừng phát triển AI thông minh hơn GPT-4 trong 6 tháng", trong đó có tỷ phú Elon Musk vào tháng Ba.
Hiện nay, việc ứng dụng rộng rãi các chatbot như ChatGPT đã làm dấy lên lo ngại của mọi người, nhiều người cho rằng trí tuệ nhân tạo có thể khiến nhiều công việc dựa trên tri thức trở nên lỗi thời, nhiều người cảm thấy mối đe dọa của nó đối với con người về mọi mặt ngày càng rõ ràng hơn.
Giám đốc điều hành OpenAI Sam Altman đã đề xuất trong một bài đăng trên blog gần đây rằng thế giới có thể cần một tổ chức quốc tế để kiểm tra các hệ thống AI, kiểm tra việc tuân thủ các tiêu chuẩn an toàn và hạn chế sử dụng chúng - tương tự như việc thành lập Cơ quan Năng lượng Nguyên tử Quốc tế để điều chỉnh công nghệ hạt nhân.
Tuy nhiên, cũng giống như một số nghi ngờ về hai bức thư ngỏ, nhiều người trong ngành cho rằng việc Sam Altman so sánh AI với công nghệ hạt nhân là đáng báo động. Tim Wu, cựu cố vấn công nghệ của Nhà Trắng, cho biết thật sai lầm khi ví mối đe dọa do AI gây ra với bụi phóng xạ hạt nhân và bằng cách chuyển sự tập trung của công chúng từ tác hại mà nó có thể gây ra sang cuộc thảo luận về các công cụ kiểm soát nó. "AI có những tác hại rõ ràng, chúng ta đã thấy việc lạm dụng AI và tôi nghĩ chúng ta nên làm gì đó với nó, nhưng tôi không nghĩ chúng đã được chứng minh là nguy hiểm như công nghệ hạt nhân", Wu nói.
Theo AP, bức thư ngỏ đã được ký bởi hơn 350 nhà nghiên cứu và giám đốc điều hành, bao gồm cả Giám đốc điều hành OpenAI Sam Altman và 38 thành viên của bộ phận trí tuệ nhân tạo DeepMind của Google.
Bức thư đã được đăng trên trang web của Trung tâm An toàn AI, một tổ chức phi lợi nhuận. Trang web cho biết: Các chuyên gia AI, nhà báo, nhà hoạch định chính sách và công chúng đang ngày càng thảo luận về những rủi ro quan trọng và cấp bách trên diện rộng do trí tuệ nhân tạo gây ra. Mặc dù vậy, thật khó để nói lên mối lo ngại về một số rủi ro nghiêm trọng nhất của trí tuệ nhân tạo tiên tiến. Tuyên bố ngắn gọn dưới đây nhằm khắc phục trở ngại này và mở ra cuộc thảo luận. Nó cũng nhằm mục đích cung cấp ý thức chung cho ngày càng nhiều chuyên gia và nhân vật của công chúng, những người cũng coi trọng một số rủi ro nghiêm trọng nhất của trí tuệ nhân tạo tiên tiến.
Điều đáng nói là nhiều người trong số những người ký tên này đã tham gia vào bức thư ngỏ "tạm ngừng phát triển AI thông minh hơn GPT-4 trong 6 tháng", trong đó có tỷ phú Elon Musk vào tháng Ba.
Hiện nay, việc ứng dụng rộng rãi các chatbot như ChatGPT đã làm dấy lên lo ngại của mọi người, nhiều người cho rằng trí tuệ nhân tạo có thể khiến nhiều công việc dựa trên tri thức trở nên lỗi thời, nhiều người cảm thấy mối đe dọa của nó đối với con người về mọi mặt ngày càng rõ ràng hơn.
Giám đốc điều hành OpenAI Sam Altman đã đề xuất trong một bài đăng trên blog gần đây rằng thế giới có thể cần một tổ chức quốc tế để kiểm tra các hệ thống AI, kiểm tra việc tuân thủ các tiêu chuẩn an toàn và hạn chế sử dụng chúng - tương tự như việc thành lập Cơ quan Năng lượng Nguyên tử Quốc tế để điều chỉnh công nghệ hạt nhân.
Tuy nhiên, cũng giống như một số nghi ngờ về hai bức thư ngỏ, nhiều người trong ngành cho rằng việc Sam Altman so sánh AI với công nghệ hạt nhân là đáng báo động. Tim Wu, cựu cố vấn công nghệ của Nhà Trắng, cho biết thật sai lầm khi ví mối đe dọa do AI gây ra với bụi phóng xạ hạt nhân và bằng cách chuyển sự tập trung của công chúng từ tác hại mà nó có thể gây ra sang cuộc thảo luận về các công cụ kiểm soát nó. "AI có những tác hại rõ ràng, chúng ta đã thấy việc lạm dụng AI và tôi nghĩ chúng ta nên làm gì đó với nó, nhưng tôi không nghĩ chúng đã được chứng minh là nguy hiểm như công nghệ hạt nhân", Wu nói.
