The Storm Riders
Writer
Vào thứ Năm, Anthropic đã vén màn các mô hình trí tuệ nhân tạo (AI) chuyên biệt được thiết kế riêng cho các khách hàng thuộc lĩnh vực an ninh quốc gia của Hoa Kỳ. Công ty đã phát hành mô hình "Claude Gov" được xây dựng dựa trên phản hồi trực tiếp từ các khách hàng chính phủ để xử lý các hoạt động như lập kế hoạch chiến lược, phân tích tình báo và hỗ trợ tác chiến. Các mô hình tùy chỉnh này được cho là đã phục vụ các cơ quan an ninh quốc gia Hoa Kỳ, quyền truy cập bị hạn chế chỉ dành cho những người làm việc trong môi trường tuyệt mật.
Các mô hình Claude Gov khác biệt so với các sản phẩm dành cho người tiêu dùng và doanh nghiệp của Anthropic (cũng được gọi là Claude) ở một số khía cạnh quan trọng:
Anthropic cho biết các mô hình mới này đã trải qua cùng quy trình "kiểm tra an toàn" như tất cả các mô hình Claude khác. Công ty đã và đang theo đuổi các hợp đồng với chính phủ nhằm tìm kiếm các nguồn doanh thu đáng tin cậy, hợp tác với Palantir và Amazon Web Services vào tháng 11 để bán các công cụ AI cho các khách hàng quốc phòng.
Anthropic không phải là công ty đầu tiên cung cấp các dịch vụ chatbot chuyên biệt cho các cơ quan tình báo. Vào năm 2024, Microsoft đã ra mắt một phiên bản GPT-4 biệt lập của OpenAI dành cho cộng đồng tình báo Hoa Kỳ sau 18 tháng làm việc. Hệ thống đó, hoạt động trên một mạng lưới đặc biệt chỉ dành cho chính phủ mà không có quyền truy cập internet, đã được cung cấp cho khoảng 10.000 cá nhân trong cộng đồng tình báo để thử nghiệm và trả lời các câu hỏi.
Tất nhiên, việc sử dụng các mô hình AI để phân tích tình báo đặt ra những lo ngại về hiện tượng "ảo giác" bịa đặt, khi các mô hình tạo ra thông tin nghe có vẻ hợp lý nhưng lại không chính xác. Vì các mạng nơ-ron AI hoạt động dựa trên xác suất thống kê chứ không phải hoạt động như cơ sở dữ liệu, chúng có khả năng cung cấp thông tin sai lệch cho các cơ quan tình báo nếu không được sử dụng đúng cách. Ví dụ, các mô hình có thể tạo ra các bản tóm tắt hoặc phân tích thuyết phục nhưng không chính xác về dữ liệu nhạy cảm, tạo ra rủi ro khi độ chính xác là yếu tố quan trọng đối với các quyết định an ninh quốc gia.
Anthropic đang tham gia cùng các công ty AI lớn khác trong cuộc cạnh tranh giành các hợp đồng béo bở từ chính phủ. OpenAI đang nỗ lực xây dựng mối quan hệ chặt chẽ hơn với Bộ Quốc phòng Hoa Kỳ trong khi Meta gần đây đã cung cấp các mô hình Llama của mình cho các đối tác quốc phòng. Google đang phát triển một phiên bản mô hình AI Gemini có thể hoạt động trong các môi trường được phân loại. Công ty AI tập trung vào doanh nghiệp Cohere cũng đang hợp tác với Palantir để triển khai các mô hình của mình cho mục đích sử dụng của chính phủ.
Việc đẩy mạnh vào lĩnh vực quốc phòng thể hiện một sự thay đổi đối với một số công ty AI trước đây vốn tránh các ứng dụng quân sự. Các mô hình chính phủ chuyên biệt này thường yêu cầu các khả năng khác biệt so với các công cụ AI tiêu dùng, bao gồm khả năng xử lý thông tin mật và làm việc với dữ liệu tình báo nhạy cảm mà không kích hoạt các hạn chế an toàn có thể chặn các hoạt động hợp pháp của chính phủ.
Sự xuất hiện của Claude Gov cho thấy một bước tiến mới trong việc ứng dụng AI vào các lĩnh vực nhạy cảm và quan trọng như an ninh quốc gia. Tuy nhiên, những thách thức về độ chính xác, an toàn và đạo đức vẫn là những vấn đề cần được giải quyết một cách cẩn trọng để đảm bảo công nghệ này được sử dụng một cách có trách nhiệm và hiệu quả. Cuộc đua giành các hợp đồng quốc phòng AI hứa hẹn sẽ còn nhiều diễn biến phức tạp và thú vị trong tương lai.
Các mô hình Claude Gov khác biệt so với các sản phẩm dành cho người tiêu dùng và doanh nghiệp của Anthropic (cũng được gọi là Claude) ở một số khía cạnh quan trọng:
Mô hình AI mới cho chính phủ Mỹ
- Xử lý tài liệu mật: Chúng được thiết kế để xử lý các tài liệu mật.
- "Ít từ chối hơn": Khi tương tác với thông tin mật, các mô hình này được cho là "ít từ chối hơn" so với các phiên bản thông thường.
- Tùy chỉnh cho tình báo và quốc phòng: Chúng được tùy chỉnh để xử lý các tài liệu tình báo và quốc phòng một cách hiệu quả.
- "Thành thạo nâng cao" về ngôn ngữ: Các mô hình này sở hữu cái mà Anthropic gọi là "sự thành thạo nâng cao" đối với các ngôn ngữ và phương ngữ quan trọng cho các hoạt động an ninh quốc gia.
Anthropic cho biết các mô hình mới này đã trải qua cùng quy trình "kiểm tra an toàn" như tất cả các mô hình Claude khác. Công ty đã và đang theo đuổi các hợp đồng với chính phủ nhằm tìm kiếm các nguồn doanh thu đáng tin cậy, hợp tác với Palantir và Amazon Web Services vào tháng 11 để bán các công cụ AI cho các khách hàng quốc phòng.
Cạnh tranh đưa AI vào chính phủ
Anthropic không phải là công ty đầu tiên cung cấp các dịch vụ chatbot chuyên biệt cho các cơ quan tình báo. Vào năm 2024, Microsoft đã ra mắt một phiên bản GPT-4 biệt lập của OpenAI dành cho cộng đồng tình báo Hoa Kỳ sau 18 tháng làm việc. Hệ thống đó, hoạt động trên một mạng lưới đặc biệt chỉ dành cho chính phủ mà không có quyền truy cập internet, đã được cung cấp cho khoảng 10.000 cá nhân trong cộng đồng tình báo để thử nghiệm và trả lời các câu hỏi.
Tất nhiên, việc sử dụng các mô hình AI để phân tích tình báo đặt ra những lo ngại về hiện tượng "ảo giác" bịa đặt, khi các mô hình tạo ra thông tin nghe có vẻ hợp lý nhưng lại không chính xác. Vì các mạng nơ-ron AI hoạt động dựa trên xác suất thống kê chứ không phải hoạt động như cơ sở dữ liệu, chúng có khả năng cung cấp thông tin sai lệch cho các cơ quan tình báo nếu không được sử dụng đúng cách. Ví dụ, các mô hình có thể tạo ra các bản tóm tắt hoặc phân tích thuyết phục nhưng không chính xác về dữ liệu nhạy cảm, tạo ra rủi ro khi độ chính xác là yếu tố quan trọng đối với các quyết định an ninh quốc gia.
Đường đua ngày càng nóng
Anthropic đang tham gia cùng các công ty AI lớn khác trong cuộc cạnh tranh giành các hợp đồng béo bở từ chính phủ. OpenAI đang nỗ lực xây dựng mối quan hệ chặt chẽ hơn với Bộ Quốc phòng Hoa Kỳ trong khi Meta gần đây đã cung cấp các mô hình Llama của mình cho các đối tác quốc phòng. Google đang phát triển một phiên bản mô hình AI Gemini có thể hoạt động trong các môi trường được phân loại. Công ty AI tập trung vào doanh nghiệp Cohere cũng đang hợp tác với Palantir để triển khai các mô hình của mình cho mục đích sử dụng của chính phủ.
Việc đẩy mạnh vào lĩnh vực quốc phòng thể hiện một sự thay đổi đối với một số công ty AI trước đây vốn tránh các ứng dụng quân sự. Các mô hình chính phủ chuyên biệt này thường yêu cầu các khả năng khác biệt so với các công cụ AI tiêu dùng, bao gồm khả năng xử lý thông tin mật và làm việc với dữ liệu tình báo nhạy cảm mà không kích hoạt các hạn chế an toàn có thể chặn các hoạt động hợp pháp của chính phủ.
Sự xuất hiện của Claude Gov cho thấy một bước tiến mới trong việc ứng dụng AI vào các lĩnh vực nhạy cảm và quan trọng như an ninh quốc gia. Tuy nhiên, những thách thức về độ chính xác, an toàn và đạo đức vẫn là những vấn đề cần được giải quyết một cách cẩn trọng để đảm bảo công nghệ này được sử dụng một cách có trách nhiệm và hiệu quả. Cuộc đua giành các hợp đồng quốc phòng AI hứa hẹn sẽ còn nhiều diễn biến phức tạp và thú vị trong tương lai.
