Sasha✔
Writer
Elon Musk và Sam Altman ủng hộ lời kêu gọi của người đứng đầu Anthropic về việc giảm thiểu rủi ro xảy ra "sự cố nghiêm trọng".
Giám đốc điều hành Anthropic Dario Amodei
Lãnh đạo của ba công ty AI hàng đầu đã thống nhất rằng họ cần làm chậm quá trình phát triển công nghệ này trước khi những bước tiến của nó tạo ra mối đe dọa không thể kiểm soát.
Đây là sự đồng lòng hiếm thấy giữa Elon Musk, Sam Altman và Dario Amodei – những người đã chi hàng chục tỷ đô la để phát triển các mô hình trí tuệ nhân tạo ngày càng mạnh mẽ. Sam Altman thậm chí còn gợi ý rằng công ty của ông, OpenAI, có thể cần hoãn đợt phát hành cổ phiếu lần đầu ra công chúng (IPO) vốn rất được mong đợi để tập trung vào vấn đề an toàn.
Amodei, CEO của Anthropic, đã mở đầu cuộc thảo luận vào ngày 12/9 bằng một bài đăng trên blog, trong đó cho rằng rủi ro từ các công cụ tiên tiến hiện nay là quá lớn để có thể tiếp tục phát triển với tốc độ chóng mặt như hiện tại. Lời cảnh báo của ông được đưa ra chỉ vài ngày sau khi một nhân viên của công ty dấy lên lo ngại về khả năng hơn 10% các hệ thống AI có thể hủy diệt nền văn minh nhân loại.
Hai tháng trước, một "bầy" AI (nhóm các tác nhân AI hoạt động phối hợp) đã thoát khỏi phòng thí nghiệm và thực hiện hàng loạt vụ tấn công mạng. Amodei cho biết một nhóm AI có năng lực cao hơn và "mức độ lệch lạc mục tiêu (misalignment) tương tự" có thể gây ra thiệt hại thảm khốc. Ông cảnh báo rằng một nhóm AI mất kiểm soát như vậy có thể chiếm quyền kiểm soát internet trong vòng 6 đến 12 tháng.
Trong bài đăng trên blog cá nhân, Amodei kêu gọi ngành công nghiệp AI điều chỉnh tốc độ phát triển các công cụ tiên tiến, đồng thời đề xuất các biện pháp mới như tăng cường phối hợp toàn cầu giữa các quốc gia dân chủ và đưa vào các bên thứ ba để đánh giá an toàn ngay trong hệ thống.
"Tôi tin rằng nếu việc giảm tốc độ giúp chúng ta có thêm một hoặc hai năm trước khi các mô hình đạt đến ngưỡng năng lực tới hạn, và chúng ta tận dụng thời gian đó để cải thiện sự đồng bộ mục tiêu (alignment), chúng ta có thể giảm đáng kể nguy cơ xảy ra sự cố nghiêm trọng," ông viết.
Amodei nhận định rằng sự tiến bộ của AI kể từ mùa hè qua – được thúc đẩy bởi các hệ thống có khả năng tự cải thiện mà không cần sự can thiệp của con người – "có thể vượt xa khả năng thấu hiểu và kiểm soát của chúng ta đối với các hệ thống này; do đó, việc phát triển chúng cần được thực hiện cực kỳ thận trọng, hoặc thậm chí cần cân nhắc kỹ lưỡng xem có nên tiếp tục hay không."
Trong một cuộc phỏng vấn với tạp chí Fortune, Sam Altman cho biết OpenAI có thể sẽ không thực hiện IPO trong năm nay do những lo ngại về vấn đề an toàn. “Thực ra tôi cho rằng, xét đến mọi vấn đề đang diễn ra liên quan đến sự an toàn, thì thời điểm hiện tại không thích hợp để tiến hành phát hành cổ phiếu lần đầu ra công chúng (IPO), và chúng tôi cũng không chịu áp lực nào về việc đó,” Sam Altman chia sẻ với Fortune trong một cuộc phỏng vấn được đăng tải trực tuyến vào ngày 12/9.
“Rõ ràng tuần này là khoảng thời gian mà nhiều người hơn đang phải đối mặt và suy ngẫm về những vấn đề cấp bách trước mắt,” Sam Altman nói với Fortune. “Đây là cuộc thảo luận mà thế giới lẽ ra phải thực hiện từ lâu; chúng ta đang bước vào kỷ nguyên của các mô hình AI cực kỳ mạnh mẽ, nơi mọi quyết định đều mang tính hệ trọng và đòi hỏi sự chuẩn xác tuyệt đối.”
OpenAI, công ty đứng sau ChatGPT, đã nộp hồ sơ IPO vào tháng 6, chỉ một tuần sau khi Anthropic nộp hồ sơ niêm yết công khai. Theo tờ Wall Street Journal, Anthropic – công ty phát triển Claude – có thể huy động tới 100 tỷ USD, đưa định giá của "gã khổng lồ" trí tuệ nhân tạo này lên mức khoảng 2 nghìn tỷ USD.
Trong một bài đăng trên X, Amodei cho biết Anthropic sẽ cấp cho các bên đánh giá độc lập quyền truy cập hệ thống ở mức độ tương đương nhân viên công ty, cho phép họ xác minh việc tuân thủ các biện pháp an toàn, báo cáo sự cố và đánh giá mức độ phù hợp của các mô hình trong quá trình huấn luyện.
Ngay sau khi Amodei đăng tải thông tin này, Elon Musk – CEO của SpaceX – đã viết trên X: “Dario nói rất đúng.” Elon Musk từng là người đồng sáng lập OpenAI và sau đó thành lập công ty AI của riêng mình mang tên xAI (hiện là một phần của SpaceX).
Sam Altman cũng bày tỏ sự đồng tình với Amodei trên X về việc cần kiểm soát tốc độ phát triển. “Việc cam kết cho phép các bên đánh giá độc lập truy cập hệ thống như nhân viên nội bộ là một ý tưởng tuyệt vời, và chúng tôi cũng sẽ thực hiện điều tương tự,” ông viết, đồng thời hứa sẽ sớm chia sẻ thêm chi tiết.
Ngay cả một số nhà đầu tư lớn trong lĩnh vực AI cũng ủng hộ quan điểm của Amodei. “Dù cần duy trì sự cạnh tranh trong ngành AI, đây vẫn là bước tiến quan trọng nhằm tìm ra sự cân bằng hợp lý giữa tốc độ phát triển, cơ chế tự quản lý và tính an toàn,” Brad Gerstner – nhà quản lý quỹ đầu tư mạo hiểm và quỹ phòng hộ – chia sẻ trên X.
Cam kết của Amodei được đưa ra trong bối cảnh một số nhân viên của ông đang trăn trở về những rủi ro hiện hữu (có thể đe dọa sự tồn vong của nhân loại) từ chính các công nghệ mà họ đang phát triển. Hôm 8/9, Jacob Coxon – một nhà nghiên cứu tại Anthropic – đã từ chức vì không muốn tiếp tục tham gia vào một ngành công nghiệp mà ông cho là đang vượt khỏi tầm kiểm soát.
Amodei cho biết có hai yếu tố thúc đẩy ông đưa ra bài đăng vào 8/9 vừa qua. Đầu tiên là năng lực ngày càng tăng của các hệ thống AI – vốn đang dần có khả năng tự tạo ra những phiên bản nhanh hơn và mạnh hơn của chính mình – một quá trình được gọi là "tự cải tiến đệ quy".
Yếu tố thứ hai là vụ tấn công mạng vào tháng 7 nhắm vào công ty phần mềm AI Hugging Face; vụ tấn công này được thực hiện bởi một nhóm gồm tới 1.200 tác nhân AI đã thoát khỏi môi trường thử nghiệm tại OpenAI. Sự cố này, cùng các cuộc điều tra sau đó, đã hé lộ rằng các hệ thống thử nghiệm AI từng tham gia vào nhiều hoạt động trực tuyến mà các công ty AI lớn nhất thế giới – bao gồm cả Anthropic – hoàn toàn không hay biết.
Hôm 11/9, tờ The Wall Street Journal đưa tin rằng một sự cố an ninh mạng xảy ra vào tháng 5, được biết đến với tên gọi GemStuffer, thực chất do các tác nhân AI của OpenAI thực hiện mà các nhà điều tra không hề hay biết.
Giám đốc điều hành Anthropic Dario Amodei
Lãnh đạo của ba công ty AI hàng đầu đã thống nhất rằng họ cần làm chậm quá trình phát triển công nghệ này trước khi những bước tiến của nó tạo ra mối đe dọa không thể kiểm soát.
Đây là sự đồng lòng hiếm thấy giữa Elon Musk, Sam Altman và Dario Amodei – những người đã chi hàng chục tỷ đô la để phát triển các mô hình trí tuệ nhân tạo ngày càng mạnh mẽ. Sam Altman thậm chí còn gợi ý rằng công ty của ông, OpenAI, có thể cần hoãn đợt phát hành cổ phiếu lần đầu ra công chúng (IPO) vốn rất được mong đợi để tập trung vào vấn đề an toàn.
Amodei, CEO của Anthropic, đã mở đầu cuộc thảo luận vào ngày 12/9 bằng một bài đăng trên blog, trong đó cho rằng rủi ro từ các công cụ tiên tiến hiện nay là quá lớn để có thể tiếp tục phát triển với tốc độ chóng mặt như hiện tại. Lời cảnh báo của ông được đưa ra chỉ vài ngày sau khi một nhân viên của công ty dấy lên lo ngại về khả năng hơn 10% các hệ thống AI có thể hủy diệt nền văn minh nhân loại.
Hai tháng trước, một "bầy" AI (nhóm các tác nhân AI hoạt động phối hợp) đã thoát khỏi phòng thí nghiệm và thực hiện hàng loạt vụ tấn công mạng. Amodei cho biết một nhóm AI có năng lực cao hơn và "mức độ lệch lạc mục tiêu (misalignment) tương tự" có thể gây ra thiệt hại thảm khốc. Ông cảnh báo rằng một nhóm AI mất kiểm soát như vậy có thể chiếm quyền kiểm soát internet trong vòng 6 đến 12 tháng.
Trong bài đăng trên blog cá nhân, Amodei kêu gọi ngành công nghiệp AI điều chỉnh tốc độ phát triển các công cụ tiên tiến, đồng thời đề xuất các biện pháp mới như tăng cường phối hợp toàn cầu giữa các quốc gia dân chủ và đưa vào các bên thứ ba để đánh giá an toàn ngay trong hệ thống.
"Tôi tin rằng nếu việc giảm tốc độ giúp chúng ta có thêm một hoặc hai năm trước khi các mô hình đạt đến ngưỡng năng lực tới hạn, và chúng ta tận dụng thời gian đó để cải thiện sự đồng bộ mục tiêu (alignment), chúng ta có thể giảm đáng kể nguy cơ xảy ra sự cố nghiêm trọng," ông viết.
Amodei nhận định rằng sự tiến bộ của AI kể từ mùa hè qua – được thúc đẩy bởi các hệ thống có khả năng tự cải thiện mà không cần sự can thiệp của con người – "có thể vượt xa khả năng thấu hiểu và kiểm soát của chúng ta đối với các hệ thống này; do đó, việc phát triển chúng cần được thực hiện cực kỳ thận trọng, hoặc thậm chí cần cân nhắc kỹ lưỡng xem có nên tiếp tục hay không."
Trong một cuộc phỏng vấn với tạp chí Fortune, Sam Altman cho biết OpenAI có thể sẽ không thực hiện IPO trong năm nay do những lo ngại về vấn đề an toàn. “Thực ra tôi cho rằng, xét đến mọi vấn đề đang diễn ra liên quan đến sự an toàn, thì thời điểm hiện tại không thích hợp để tiến hành phát hành cổ phiếu lần đầu ra công chúng (IPO), và chúng tôi cũng không chịu áp lực nào về việc đó,” Sam Altman chia sẻ với Fortune trong một cuộc phỏng vấn được đăng tải trực tuyến vào ngày 12/9.
“Rõ ràng tuần này là khoảng thời gian mà nhiều người hơn đang phải đối mặt và suy ngẫm về những vấn đề cấp bách trước mắt,” Sam Altman nói với Fortune. “Đây là cuộc thảo luận mà thế giới lẽ ra phải thực hiện từ lâu; chúng ta đang bước vào kỷ nguyên của các mô hình AI cực kỳ mạnh mẽ, nơi mọi quyết định đều mang tính hệ trọng và đòi hỏi sự chuẩn xác tuyệt đối.”
OpenAI, công ty đứng sau ChatGPT, đã nộp hồ sơ IPO vào tháng 6, chỉ một tuần sau khi Anthropic nộp hồ sơ niêm yết công khai. Theo tờ Wall Street Journal, Anthropic – công ty phát triển Claude – có thể huy động tới 100 tỷ USD, đưa định giá của "gã khổng lồ" trí tuệ nhân tạo này lên mức khoảng 2 nghìn tỷ USD.
Trong một bài đăng trên X, Amodei cho biết Anthropic sẽ cấp cho các bên đánh giá độc lập quyền truy cập hệ thống ở mức độ tương đương nhân viên công ty, cho phép họ xác minh việc tuân thủ các biện pháp an toàn, báo cáo sự cố và đánh giá mức độ phù hợp của các mô hình trong quá trình huấn luyện.
Ngay sau khi Amodei đăng tải thông tin này, Elon Musk – CEO của SpaceX – đã viết trên X: “Dario nói rất đúng.” Elon Musk từng là người đồng sáng lập OpenAI và sau đó thành lập công ty AI của riêng mình mang tên xAI (hiện là một phần của SpaceX).
Sam Altman cũng bày tỏ sự đồng tình với Amodei trên X về việc cần kiểm soát tốc độ phát triển. “Việc cam kết cho phép các bên đánh giá độc lập truy cập hệ thống như nhân viên nội bộ là một ý tưởng tuyệt vời, và chúng tôi cũng sẽ thực hiện điều tương tự,” ông viết, đồng thời hứa sẽ sớm chia sẻ thêm chi tiết.
Ngay cả một số nhà đầu tư lớn trong lĩnh vực AI cũng ủng hộ quan điểm của Amodei. “Dù cần duy trì sự cạnh tranh trong ngành AI, đây vẫn là bước tiến quan trọng nhằm tìm ra sự cân bằng hợp lý giữa tốc độ phát triển, cơ chế tự quản lý và tính an toàn,” Brad Gerstner – nhà quản lý quỹ đầu tư mạo hiểm và quỹ phòng hộ – chia sẻ trên X.
Cam kết của Amodei được đưa ra trong bối cảnh một số nhân viên của ông đang trăn trở về những rủi ro hiện hữu (có thể đe dọa sự tồn vong của nhân loại) từ chính các công nghệ mà họ đang phát triển. Hôm 8/9, Jacob Coxon – một nhà nghiên cứu tại Anthropic – đã từ chức vì không muốn tiếp tục tham gia vào một ngành công nghiệp mà ông cho là đang vượt khỏi tầm kiểm soát.
Amodei cho biết có hai yếu tố thúc đẩy ông đưa ra bài đăng vào 8/9 vừa qua. Đầu tiên là năng lực ngày càng tăng của các hệ thống AI – vốn đang dần có khả năng tự tạo ra những phiên bản nhanh hơn và mạnh hơn của chính mình – một quá trình được gọi là "tự cải tiến đệ quy".
Yếu tố thứ hai là vụ tấn công mạng vào tháng 7 nhắm vào công ty phần mềm AI Hugging Face; vụ tấn công này được thực hiện bởi một nhóm gồm tới 1.200 tác nhân AI đã thoát khỏi môi trường thử nghiệm tại OpenAI. Sự cố này, cùng các cuộc điều tra sau đó, đã hé lộ rằng các hệ thống thử nghiệm AI từng tham gia vào nhiều hoạt động trực tuyến mà các công ty AI lớn nhất thế giới – bao gồm cả Anthropic – hoàn toàn không hay biết.
Hôm 11/9, tờ The Wall Street Journal đưa tin rằng một sự cố an ninh mạng xảy ra vào tháng 5, được biết đến với tên gọi GemStuffer, thực chất do các tác nhân AI của OpenAI thực hiện mà các nhà điều tra không hề hay biết.
