Sóng AI
Writer
- Khoảng 2.500 quân nhân thuộc Đơn vị Viễn chinh Thủy quân lục chiến số 15 của Mỹ đã tiến hành thử nghiệm công nghệ AI tạo sinh để thu thập và phân tích thông tin tình báo khi hoạt động tại Thái Bình Dương trong năm 2023.
- Các sĩ quan cho biết họ đã sử dụng hệ thống mới để quét hàng nghìn thông tin tình báo nguồn mở (bài báo, báo cáo, hình ảnh, video không mật) thu thập từ các quốc gia họ hoạt động, với tốc độ nhanh hơn nhiều so với phương pháp phân tích thủ công truyền thống.
- Đại úy Kristin Enzenauer sử dụng các mô hình ngôn ngữ lớn để dịch và tóm tắt các nguồn tin tức nước ngoài, trong khi Đại úy Will Lowdon dùng AI để hỗ trợ viết báo cáo tình báo hàng ngày và hàng tuần cho chỉ huy.
- Công cụ AI tạo sinh được phát triển bởi Vannevar Labs, công ty quốc phòng-công nghệ đã được Pentagon cấp hợp đồng sản xuất trị giá lên đến 99 triệu USD vào tháng 11/2023.
- Công ty này thu thập hàng terabyte dữ liệu bằng 80 ngôn ngữ khác nhau mỗi ngày từ 180 quốc gia, bao gồm thông tin từ mạng xã hội, vượt qua tường lửa tại các quốc gia như Trung Quốc, và sử dụng cả dữ liệu từ cảm biến theo dõi sóng radio.
- Vannevar xây dựng các mô hình AI để dịch thông tin, phát hiện mối đe dọa và phân tích quan điểm chính trị, với kết quả được cung cấp qua giao diện chatbot tương tự ChatGPT.
- Phương pháp này đặc biệt hấp dẫn đối với cơ quan tình báo Mỹ vì trong nhiều năm thế giới đã tràn ngập dữ liệu quá nhiều để các nhà phân tích con người có thể xử lý.
- Trong thử nghiệm tại Thái Bình Dương, công cụ này đã chứng minh hiệu quả, với các sĩ quan cho biết mặc dù luôn phải kiểm tra lại kết quả của AI, nhưng vấn đề không chính xác không đáng kể.
- Những hạn chế bao gồm kết nối internet không ổn định trên tàu, ảnh hưởng đến tốc độ xử lý dữ liệu, đặc biệt là hình ảnh và video.
- Các chuyên gia như Heidy Khlaaf từ Viện AI Now cảnh báo về rủi ro khi tích hợp AI tạo sinh vào quá trình ra quyết định quân sự, đặc biệt là khả năng mô hình LLM không chính xác trong các ứng dụng quan trọng về an toàn.
- Một trường hợp sử dụng đáng lo ngại là phân tích cảm xúc, vốn là "thước đo chủ quan mà ngay cả con người cũng khó đánh giá chính xác chỉ dựa trên phương tiện truyền thông".
- Nếu AI nhận thấy thù địch đối với lực lượng Mỹ khi nhà phân tích con người không nhận ra - hoặc nếu hệ thống bỏ sót thù địch thực sự - quân đội có thể đưa ra quyết định thiếu thông tin hoặc leo thang tình huống không cần thiết.
- Một giới hạn khác là tính hữu ích của thông tin tình báo nguồn mở, vốn dễ bị ảnh hưởng bởi các chiến dịch thông tin sai lệch, mạng lưới bot và thao túng có chủ đích.
- Câu hỏi lớn nhất hiện nay là liệu các công nghệ AI tạo sinh sẽ chỉ là một công cụ điều tra trong số nhiều công cụ khác, hay sẽ tạo ra phân tích chủ quan được tin cậy trong quá trình ra quyết định.
Quân đội Mỹ đã thử nghiệm thành công công nghệ AI tạo sinh của Vannevar Labs, xử lý terabyte dữ liệu từ 180 quốc gia bằng 80 ngôn ngữ mỗi ngày. Mặc dù hiệu quả, các chuyên gia cảnh báo về rủi ro phụ thuộc vào AI trong các quyết định quân sự quan trọng.
Generative AI is learning to spy for the US military
In a test run, a unit of Marines in the Pacific used generative AI not just to collect intelligence but to interpret it. Routine intel work is only the start.
www.technologyreview.com
#MIT
Nguồn: Songai.vn
