Rumi✔
Intern Writer
Liệu AI có thể tự tấn công chúng ta? Câu hỏi này không còn là viễn tưởng khi các ông lớn công nghệ đang ráo riết bắt tay nhau để xây dựng một "lá chắn" an toàn cho tương lai AI. Chỉ mới ra đời được một tuần, Liên minh AI Mở và An toàn (Open Secure AI Alliance - OSAA), dưới sự dẫn dắt của Nvidia, đã nhanh chóng quy tụ hơn 120 công ty hàng đầu.
Liên minh này đã thành lập một nhóm làm việc với cái tên khá dễ thương: Shared AI Findings Exchange, hay SAFE. Nhóm SAFE hiện đang tích cực đưa ra các đề xuất để cộng đồng đóng góp ý kiến, với sự quản lý của Linux Foundation – một thành viên quan trọng của liên minh. Các đề xuất này được phát triển ngay tại hội nghị Black Hat ở Las Vegas, nơi quy tụ những chuyên gia hàng đầu về an ninh mạng.
Hiện tại các hướng dẫn của SAFE tập trung vào những vấn đề cơ bản nhưng thiết yếu. Chúng bao gồm cách báo cáo các sự cố an ninh mạng AI một cách bảo mật, cách thông báo cho những bên bị ảnh hưởng, và sau đó là phân tích sự cố mà không đổ lỗi, nhằm mục đích học hỏi và cải thiện chung.
Song song đó, các thành viên của OSAA cũng đang đóng góp và tổng hợp những công nghệ mã nguồn mở của mình. Mục tiêu là tạo ra một bộ công cụ chung giúp các doanh nghiệp bảo vệ các tác nhân AI của họ, hoặc chống lại những cuộc tấn công từ AI "ngoài vòng kiểm soát". Chúng ta vẫn còn nhớ vụ việc mô hình AI của OpenAI đã xâm nhập vào Hugging Face, một thành viên của liên minh này cho thấy mối đe dọa là có thật (theo TechCrunch).
Nhiều ông lớn đã nhanh chóng thể hiện sự đóng góp của mình. Nvidia, chẳng hạn, đã cung cấp một loạt mô hình mở cùng với công cụ quét lỗ hổng LLM (mô hình ngôn ngữ lớn) mã nguồn mở Garak. Okta đang phát triển công nghệ nhận dạng tác nhân, trong khi Red Hat tập trung vào quản trị tác nhân. Amazon cũng không kém cạnh khi đóng góp cả công cụ xây dựng tác nhân mở Strands Agents và ngôn ngữ ủy quyền Cedar. Còn rất nhiều ví dụ khác cho thấy sự chung tay của cộng đồng.
Liên minh OSAA hiện quy tụ nhiều tên tuổi lớn như Adobe, BlackRock, Cisco, Intel, Microsoft và Visa. Tuy nhiên, có một số vắng mặt đáng chú ý như Anthropic, OpenAI và Google.
Điều thú vị là cả OpenAI và Google đều đã ký vào bức thư ngỏ ban đầu, vốn là tiền đề cho sự ra đời của liên minh này. Bức thư, được công bố vào tuần trước, do Nvidia khởi xướng và có chữ ký của hơn 200 công ty công nghệ, kêu gọi Nhà Trắng ủng hộ các nỗ lực AI mã nguồn mở, thay vì kìm hãm chúng.
Việc Anthropic "lạnh nhạt" với bức thư và liên minh này không phải là điều quá bất ngờ, bởi trước đó họ đã có những quan điểm riêng về mô hình mã nguồn mở. Tuy nhiên, cả OpenAI và Google đều đã phát hành các mô hình mã nguồn mở của riêng mình, và Google vốn nổi tiếng là một người ủng hộ lớn cho mã nguồn mở. Chúng ta hãy cùng chờ xem liệu họ có tham gia khi liên minh này ngày càng phát triển mạnh mẽ hơn không.
Động thái nhanh chóng của OSAA diễn ra trong bối cảnh ngành công nghiệp AI đang "chạy đua với tốc độ ánh sáng". Chỉ vài tuần trước, thông tin về việc chính quyền Trump đang cân nhắc cấm các mô hình AI mã nguồn mở của Trung Quốc đã gây ra không ít lo ngại trong ngành, dẫn đến bức thư ngỏ nói trên (theo TechCrunch).
Dù tương lai của các mô hình AI mã nguồn mở Trung Quốc tại Mỹ sẽ ra sao, thì hành động quyết liệt của liên minh hùng mạnh này dường như là một tín hiệu tốt cho hệ sinh thái AI mở của Mỹ. Một số chuyên gia trong ngành, như đồng sáng lập và CTO của phòng thí nghiệm AI mã nguồn mở Arcee của Mỹ, tin rằng đây là cách tốt nhất để đối phó với bất kỳ mối đe dọa nào dù là có thật hay chỉ là tưởng tượng mà các phòng thí nghiệm AI Trung Quốc có thể gây ra cho Hoa Kỳ.
"Sự cởi mở có thể là một trong những con đường quan trọng nhất dẫn đến an toàn và bảo mật AI," liên minh này đã viết trong bức thư của mình. Có vẻ như họ đã sẵn sàng biến lời nói thành hành động, bằng cả nỗ lực và công nghệ của mình.
Liên minh này đã thành lập một nhóm làm việc với cái tên khá dễ thương: Shared AI Findings Exchange, hay SAFE. Nhóm SAFE hiện đang tích cực đưa ra các đề xuất để cộng đồng đóng góp ý kiến, với sự quản lý của Linux Foundation – một thành viên quan trọng của liên minh. Các đề xuất này được phát triển ngay tại hội nghị Black Hat ở Las Vegas, nơi quy tụ những chuyên gia hàng đầu về an ninh mạng.
Hiện tại các hướng dẫn của SAFE tập trung vào những vấn đề cơ bản nhưng thiết yếu. Chúng bao gồm cách báo cáo các sự cố an ninh mạng AI một cách bảo mật, cách thông báo cho những bên bị ảnh hưởng, và sau đó là phân tích sự cố mà không đổ lỗi, nhằm mục đích học hỏi và cải thiện chung.
Song song đó, các thành viên của OSAA cũng đang đóng góp và tổng hợp những công nghệ mã nguồn mở của mình. Mục tiêu là tạo ra một bộ công cụ chung giúp các doanh nghiệp bảo vệ các tác nhân AI của họ, hoặc chống lại những cuộc tấn công từ AI "ngoài vòng kiểm soát". Chúng ta vẫn còn nhớ vụ việc mô hình AI của OpenAI đã xâm nhập vào Hugging Face, một thành viên của liên minh này cho thấy mối đe dọa là có thật (theo TechCrunch).
Nhiều ông lớn đã nhanh chóng thể hiện sự đóng góp của mình. Nvidia, chẳng hạn, đã cung cấp một loạt mô hình mở cùng với công cụ quét lỗ hổng LLM (mô hình ngôn ngữ lớn) mã nguồn mở Garak. Okta đang phát triển công nghệ nhận dạng tác nhân, trong khi Red Hat tập trung vào quản trị tác nhân. Amazon cũng không kém cạnh khi đóng góp cả công cụ xây dựng tác nhân mở Strands Agents và ngôn ngữ ủy quyền Cedar. Còn rất nhiều ví dụ khác cho thấy sự chung tay của cộng đồng.
Liên minh OSAA hiện quy tụ nhiều tên tuổi lớn như Adobe, BlackRock, Cisco, Intel, Microsoft và Visa. Tuy nhiên, có một số vắng mặt đáng chú ý như Anthropic, OpenAI và Google.
Điều thú vị là cả OpenAI và Google đều đã ký vào bức thư ngỏ ban đầu, vốn là tiền đề cho sự ra đời của liên minh này. Bức thư, được công bố vào tuần trước, do Nvidia khởi xướng và có chữ ký của hơn 200 công ty công nghệ, kêu gọi Nhà Trắng ủng hộ các nỗ lực AI mã nguồn mở, thay vì kìm hãm chúng.
Việc Anthropic "lạnh nhạt" với bức thư và liên minh này không phải là điều quá bất ngờ, bởi trước đó họ đã có những quan điểm riêng về mô hình mã nguồn mở. Tuy nhiên, cả OpenAI và Google đều đã phát hành các mô hình mã nguồn mở của riêng mình, và Google vốn nổi tiếng là một người ủng hộ lớn cho mã nguồn mở. Chúng ta hãy cùng chờ xem liệu họ có tham gia khi liên minh này ngày càng phát triển mạnh mẽ hơn không.
Động thái nhanh chóng của OSAA diễn ra trong bối cảnh ngành công nghiệp AI đang "chạy đua với tốc độ ánh sáng". Chỉ vài tuần trước, thông tin về việc chính quyền Trump đang cân nhắc cấm các mô hình AI mã nguồn mở của Trung Quốc đã gây ra không ít lo ngại trong ngành, dẫn đến bức thư ngỏ nói trên (theo TechCrunch).
Dù tương lai của các mô hình AI mã nguồn mở Trung Quốc tại Mỹ sẽ ra sao, thì hành động quyết liệt của liên minh hùng mạnh này dường như là một tín hiệu tốt cho hệ sinh thái AI mở của Mỹ. Một số chuyên gia trong ngành, như đồng sáng lập và CTO của phòng thí nghiệm AI mã nguồn mở Arcee của Mỹ, tin rằng đây là cách tốt nhất để đối phó với bất kỳ mối đe dọa nào dù là có thật hay chỉ là tưởng tượng mà các phòng thí nghiệm AI Trung Quốc có thể gây ra cho Hoa Kỳ.
"Sự cởi mở có thể là một trong những con đường quan trọng nhất dẫn đến an toàn và bảo mật AI," liên minh này đã viết trong bức thư của mình. Có vẻ như họ đã sẵn sàng biến lời nói thành hành động, bằng cả nỗ lực và công nghệ của mình.
