Lizzie
Pearl
Chính quyền Biden sẵn sàng mở một mặt trận mới trong nỗ lực bảo vệ AI của Hoa Kỳ khỏi Trung Quốc và Nga với các kế hoạch sơ bộ nhằm đặt các rào chắn xung quanh các Mô hình AI tiên tiến nhất, phần mềm cốt lõi của hệ thống trí tuệ nhân tạo như ChatGPT, các nguồn tin cho biết.
Cụ thể Bộ Thương mại Hoa Kỳ đang xem xét một nỗ lực thúc đẩy quy định mới nhằm hạn chế xuất khẩu các mô hình AI nguồn đóng hoặc độc quyền, có phần mềm và dữ liệu được đào tạo về nó được giữ bí mật.
Hiện tại, không có gì có thể ngăn cản những gã khổng lồ AI của Mỹ như Microsoft được hỗ trợ bởi OpenAI, Google DeepMind và đối thủ Anthropic, những công ty đã phát triển một số mô hình AI nguồn đóng mạnh mẽ nhất, từ việc bán chúng cho hầu hết mọi người trên thế giới mà không có sự giám sát của chính phủ.
Các nhà nghiên cứu của chính phủ và khu vực tư nhân lo ngại đối thủ của Mỹ có thể sử dụng các mô hình khai thác lượng lớn văn bản và hình ảnh để tóm tắt thông tin và tạo ra nội dung, nhằm tiến hành các cuộc tấn công mạng mạnh mẽ hoặc thậm chí tạo ra vũ khí sinh học mạnh mẽ.
Một trong những nguồn tin cho biết bất kỳ biện pháp kiểm soát xuất khẩu mới nào cũng có thể sẽ nhắm vào Nga, Trung Quốc, Triều Tiên và Iran. Microsoft cho biết trong một báo cáo hồi tháng 2 rằng họ đã theo dõi các nhóm hack liên kết với chính phủ Trung Quốc và Triều Tiên cũng như tình báo quân sự Nga và Lực lượng Vệ binh Cách mạng Iran, khi họ cố gắng hoàn thiện các chiến dịch hack của mình bằng cách sử dụng các mô hình ngôn ngữ lớn.
Theo hai quan chức Mỹ và một nguồn tin khác tóm tắt về các cuộc thảo luận, ngưỡng sức mạnh tính toán đó có thể trở thành cơ sở để xác định những mô hình AI nào sẽ bị hạn chế xuất khẩu. Họ từ chối nêu tên vì thông tin chi tiết chưa được công khai.
Theo EpochAI, một viện nghiên cứu theo dõi các xu hướng AI, nếu được sử dụng, nó có thể sẽ chỉ hạn chế việc xuất khẩu các mẫu vẫn chưa được phát hành, vì chưa có mẫu nào được cho là đã đạt đến ngưỡng này, mặc dù Gemini Ultra của Google được coi là sắp đạt đến ngưỡng đó. .
Các nguồn tin nhấn mạnh, cơ quan này còn lâu mới hoàn thiện một đề xuất quy tắc. Nhưng thực tế là một động thái như vậy đang được xem xét cho thấy chính phủ Mỹ đang tìm cách thu hẹp khoảng cách trong nỗ lực ngăn cản tham vọng AI của Bắc Kinh, bất chấp những thách thức nghiêm trọng trong việc áp đặt chế độ quản lý cơ bắp đối với công nghệ đang phát triển nhanh chóng.
Khi chính quyền Biden xem xét sự cạnh tranh với Trung Quốc và sự nguy hiểm của AI phức tạp, các mô hình AI “rõ ràng là một trong những công cụ, một trong những điểm tắc nghẽn tiềm tàng mà bạn cần phải nghĩ đến ở đây”, Peter Harrell, cựu Hội đồng An ninh Quốc gia, cho biết. chính thức. Ông nói thêm: “Trên thực tế, liệu bạn có thể biến nó thành một điểm nghẽn có thể kiểm soát xuất khẩu hay không vẫn còn phải xem”.
Bộ An ninh Nội địa cho biết các tác nhân mạng có thể sẽ sử dụng AI để "phát triển các công cụ mới" nhằm "cho phép các cuộc tấn công mạng quy mô lớn hơn, nhanh hơn, hiệu quả hơn và lẩn tránh hơn" trong đánh giá mối đe dọa nội địa năm 2024.
Brian Holmes, một quan chức tại Văn phòng Giám đốc Tình báo Quốc gia, cho biết: “Sự bùng nổ tiềm năng trong việc sử dụng và khai thác [AI] là rất lớn và chúng tôi thực sự đang gặp rất nhiều khó khăn để theo đuổi điều đó”. Tháng 3, đánh dấu sự tiến bộ của Trung Quốc là một mối quan tâm đặc biệt.
Nó cũng đề xuất một quy định yêu cầu các công ty điện toán đám mây của Mỹ phải thông báo với chính phủ khi khách hàng nước ngoài sử dụng dịch vụ của họ để đào tạo các mô hình AI mạnh mẽ có thể được sử dụng cho các cuộc tấn công mạng.
Nhưng cho đến nay nó vẫn chưa giải quyết được các mô hình AI. Alan Estevez, người giám sát chính sách xuất khẩu của Hoa Kỳ tại Bộ Thương mại, cho biết vào tháng 12 rằng cơ quan này đang xem xét các lựa chọn để điều chỉnh việc xuất khẩu mô hình ngôn ngữ lớn (LLM) nguồn mở trước khi tìm kiếm phản hồi của ngành.
Tim Fist, chuyên gia chính sách AI tại tổ chức tư vấn CNAS có trụ sở tại Washington DC, cho biết ngưỡng này “là một biện pháp tạm thời tốt cho đến khi chúng tôi phát triển các phương pháp tốt hơn để đo lường khả năng và rủi ro của các mô hình mới”.
Jamil Jaffer, cựu quan chức Nhà Trắng và Bộ Tư pháp, cho biết chính quyền Biden không nên sử dụng ngưỡng sức mạnh tính toán mà nên lựa chọn biện pháp kiểm soát dựa trên khả năng và mục đích sử dụng của mô hình. Ông nói: “Tập trung vào rủi ro an ninh quốc gia hơn là ngưỡng công nghệ là cách chơi tốt hơn, vì nó lâu dài hơn và tập trung vào mối đe dọa”.
Ngưỡng không được đặt cố định. Một trong những nguồn tin cho biết Thương mại có thể kết thúc ở tầng thấp hơn, cùng với các yếu tố khác, như loại dữ liệu hoặc khả năng sử dụng cho mô hình AI, chẳng hạn như khả năng thiết kế các protein có thể được sử dụng để chế tạo vũ khí sinh học.
Bất kể ngưỡng nào, việc xuất khẩu mô hình AI sẽ khó kiểm soát. Nhiều mô hình là nguồn mở, có nghĩa chúng sẽ nằm ngoài tầm kiểm soát xuất khẩu đang được xem xét.
Fist cho biết, ngay cả việc áp đặt các biện pháp kiểm soát đối với các mẫu độc quyền tiên tiến hơn cũng sẽ gặp nhiều thách thức, vì các cơ quan quản lý có thể sẽ gặp khó khăn trong việc xác định các tiêu chí phù hợp để xác định những mẫu nào nên được kiểm soát, Fist nói và lưu ý rằng Trung Quốc có thể chỉ chậm hơn Hoa Kỳ khoảng hai năm về mặt này. đang phát triển phần mềm AI của riêng mình.
Việc kiểm soát xuất khẩu đang được xem xét sẽ tác động đến quyền truy cập vào phần mềm phụ trợ cung cấp năng lượng cho một số ứng dụng tiêu dùng như ChatGPT, nhưng không giới hạn quyền truy cập vào chính các ứng dụng hạ nguồn. #CuộcchiếnMỹTrung
Cụ thể Bộ Thương mại Hoa Kỳ đang xem xét một nỗ lực thúc đẩy quy định mới nhằm hạn chế xuất khẩu các mô hình AI nguồn đóng hoặc độc quyền, có phần mềm và dữ liệu được đào tạo về nó được giữ bí mật.
Hiện tại, không có gì có thể ngăn cản những gã khổng lồ AI của Mỹ như Microsoft được hỗ trợ bởi OpenAI, Google DeepMind và đối thủ Anthropic, những công ty đã phát triển một số mô hình AI nguồn đóng mạnh mẽ nhất, từ việc bán chúng cho hầu hết mọi người trên thế giới mà không có sự giám sát của chính phủ.
Các nhà nghiên cứu của chính phủ và khu vực tư nhân lo ngại đối thủ của Mỹ có thể sử dụng các mô hình khai thác lượng lớn văn bản và hình ảnh để tóm tắt thông tin và tạo ra nội dung, nhằm tiến hành các cuộc tấn công mạng mạnh mẽ hoặc thậm chí tạo ra vũ khí sinh học mạnh mẽ.
Một trong những nguồn tin cho biết bất kỳ biện pháp kiểm soát xuất khẩu mới nào cũng có thể sẽ nhắm vào Nga, Trung Quốc, Triều Tiên và Iran. Microsoft cho biết trong một báo cáo hồi tháng 2 rằng họ đã theo dõi các nhóm hack liên kết với chính phủ Trung Quốc và Triều Tiên cũng như tình báo quân sự Nga và Lực lượng Vệ binh Cách mạng Iran, khi họ cố gắng hoàn thiện các chiến dịch hack của mình bằng cách sử dụng các mô hình ngôn ngữ lớn.
Khả năng tính toán
Để phát triển biện pháp kiểm soát xuất khẩu đối với các mô hình AI, các nguồn tin cho biết Hoa Kỳ có thể chuyển sang ngưỡng có trong lệnh điều hành AI ban hành vào tháng 10 năm ngoái dựa trên lượng sức mạnh tính toán cần thiết để đào tạo một mô hình. Khi đạt đến mức đó, nhà phát triển phải báo cáo kế hoạch phát triển mô hình AI của mình và cung cấp kết quả thử nghiệm cho Bộ Thương mại.Theo hai quan chức Mỹ và một nguồn tin khác tóm tắt về các cuộc thảo luận, ngưỡng sức mạnh tính toán đó có thể trở thành cơ sở để xác định những mô hình AI nào sẽ bị hạn chế xuất khẩu. Họ từ chối nêu tên vì thông tin chi tiết chưa được công khai.
Theo EpochAI, một viện nghiên cứu theo dõi các xu hướng AI, nếu được sử dụng, nó có thể sẽ chỉ hạn chế việc xuất khẩu các mẫu vẫn chưa được phát hành, vì chưa có mẫu nào được cho là đã đạt đến ngưỡng này, mặc dù Gemini Ultra của Google được coi là sắp đạt đến ngưỡng đó. .
Các nguồn tin nhấn mạnh, cơ quan này còn lâu mới hoàn thiện một đề xuất quy tắc. Nhưng thực tế là một động thái như vậy đang được xem xét cho thấy chính phủ Mỹ đang tìm cách thu hẹp khoảng cách trong nỗ lực ngăn cản tham vọng AI của Bắc Kinh, bất chấp những thách thức nghiêm trọng trong việc áp đặt chế độ quản lý cơ bắp đối với công nghệ đang phát triển nhanh chóng.
Khi chính quyền Biden xem xét sự cạnh tranh với Trung Quốc và sự nguy hiểm của AI phức tạp, các mô hình AI “rõ ràng là một trong những công cụ, một trong những điểm tắc nghẽn tiềm tàng mà bạn cần phải nghĩ đến ở đây”, Peter Harrell, cựu Hội đồng An ninh Quốc gia, cho biết. chính thức. Ông nói thêm: “Trên thực tế, liệu bạn có thể biến nó thành một điểm nghẽn có thể kiểm soát xuất khẩu hay không vẫn còn phải xem”.
Vũ khí sinh học và tấn công mạng?
Cộng đồng tình báo Mỹ, các tổ chức nghiên cứu và học giả ngày càng lo ngại về những rủi ro do các tác nhân xấu nước ngoài tiếp cận với các khả năng AI tiên tiến gây ra. Các nhà nghiên cứu tại và Tập đoàn Rand lưu ý rằng các mô hình AI tiên tiến có thể cung cấp thông tin có thể giúp tạo ra vũ khí sinh học.Bộ An ninh Nội địa cho biết các tác nhân mạng có thể sẽ sử dụng AI để "phát triển các công cụ mới" nhằm "cho phép các cuộc tấn công mạng quy mô lớn hơn, nhanh hơn, hiệu quả hơn và lẩn tránh hơn" trong đánh giá mối đe dọa nội địa năm 2024.
Brian Holmes, một quan chức tại Văn phòng Giám đốc Tình báo Quốc gia, cho biết: “Sự bùng nổ tiềm năng trong việc sử dụng và khai thác [AI] là rất lớn và chúng tôi thực sự đang gặp rất nhiều khó khăn để theo đuổi điều đó”. Tháng 3, đánh dấu sự tiến bộ của Trung Quốc là một mối quan tâm đặc biệt.
Trấn áp AI
Để giải quyết những lo ngại này, Mỹ đã thực hiện các biện pháp nhằm ngăn chặn dòng chip AI của Mỹ và các công cụ để sản xuất chúng sang Trung Quốc.Nó cũng đề xuất một quy định yêu cầu các công ty điện toán đám mây của Mỹ phải thông báo với chính phủ khi khách hàng nước ngoài sử dụng dịch vụ của họ để đào tạo các mô hình AI mạnh mẽ có thể được sử dụng cho các cuộc tấn công mạng.
Nhưng cho đến nay nó vẫn chưa giải quyết được các mô hình AI. Alan Estevez, người giám sát chính sách xuất khẩu của Hoa Kỳ tại Bộ Thương mại, cho biết vào tháng 12 rằng cơ quan này đang xem xét các lựa chọn để điều chỉnh việc xuất khẩu mô hình ngôn ngữ lớn (LLM) nguồn mở trước khi tìm kiếm phản hồi của ngành.
Tim Fist, chuyên gia chính sách AI tại tổ chức tư vấn CNAS có trụ sở tại Washington DC, cho biết ngưỡng này “là một biện pháp tạm thời tốt cho đến khi chúng tôi phát triển các phương pháp tốt hơn để đo lường khả năng và rủi ro của các mô hình mới”.
Jamil Jaffer, cựu quan chức Nhà Trắng và Bộ Tư pháp, cho biết chính quyền Biden không nên sử dụng ngưỡng sức mạnh tính toán mà nên lựa chọn biện pháp kiểm soát dựa trên khả năng và mục đích sử dụng của mô hình. Ông nói: “Tập trung vào rủi ro an ninh quốc gia hơn là ngưỡng công nghệ là cách chơi tốt hơn, vì nó lâu dài hơn và tập trung vào mối đe dọa”.
Ngưỡng không được đặt cố định. Một trong những nguồn tin cho biết Thương mại có thể kết thúc ở tầng thấp hơn, cùng với các yếu tố khác, như loại dữ liệu hoặc khả năng sử dụng cho mô hình AI, chẳng hạn như khả năng thiết kế các protein có thể được sử dụng để chế tạo vũ khí sinh học.
Bất kể ngưỡng nào, việc xuất khẩu mô hình AI sẽ khó kiểm soát. Nhiều mô hình là nguồn mở, có nghĩa chúng sẽ nằm ngoài tầm kiểm soát xuất khẩu đang được xem xét.
Fist cho biết, ngay cả việc áp đặt các biện pháp kiểm soát đối với các mẫu độc quyền tiên tiến hơn cũng sẽ gặp nhiều thách thức, vì các cơ quan quản lý có thể sẽ gặp khó khăn trong việc xác định các tiêu chí phù hợp để xác định những mẫu nào nên được kiểm soát, Fist nói và lưu ý rằng Trung Quốc có thể chỉ chậm hơn Hoa Kỳ khoảng hai năm về mặt này. đang phát triển phần mềm AI của riêng mình.
Việc kiểm soát xuất khẩu đang được xem xét sẽ tác động đến quyền truy cập vào phần mềm phụ trợ cung cấp năng lượng cho một số ứng dụng tiêu dùng như ChatGPT, nhưng không giới hạn quyền truy cập vào chính các ứng dụng hạ nguồn. #CuộcchiếnMỹTrung
