Sóng AI
Writer
Một nghiên cứu mới từ Trung tâm Nghiên cứu Chiến lược và Quốc tế (CSIS) đã phát hiện ra rằng các mô hình AI có xu hướng leo thang trong các tình huống khủng hoảng.
Nhóm nghiên cứu đã thử nghiệm các mô hình AI phổ biến với 400 kịch bản và hơn 66.000 cặp câu hỏi-trả lời liên quan đến ra quyết định chính sách đối ngoại.
Kết quả cho thấy một số mô hình AI có thiên hướng ủng hộ các biện pháp đối đầu thay vì các giải pháp ngoại giao thận trọng hơn.
Thiên kiến này có thể gây ra rủi ro trong các cuộc khủng hoảng giữa các cường quốc, như trong trường hợp căng thẳng về Đài Loan giữa Mỹ và Trung Quốc.
Nghiên cứu cũng phát hiện ra rằng thiên kiến này khác nhau giữa các quốc gia. Các mô hình AI thường ủng hộ lập trường quyết liệt hơn khi mô phỏng ra quyết định của Mỹ, Anh hoặc Pháp so với Nga hoặc Trung Quốc.
Dữ liệu huấn luyện tập trung vào các can thiệp do phương Tây dẫn đầu có thể là nguyên nhân gây ra thiên kiến này.
Các chuyên gia cảnh báo rằng việc sử dụng rộng rãi các công cụ AI chưa được kiểm chứng kỹ lưỡng có thể dẫn đến những sai lầm nghiêm trọng trong quá trình ra quyết định chính sách.
CSIS đã công bố Tiêu chuẩn Chính sách Đối ngoại Quan trọng nhằm hỗ trợ tinh chỉnh và đánh giá các mô hình AI trong lĩnh vực an ninh quốc gia.
Các chuyên gia đề xuất thành lập một trung tâm xuất sắc để tinh chỉnh các agent AI, kết hợp học giả, think tank, doanh nghiệp và cơ quan chính phủ.
Mục tiêu là xây dựng AI hiểu được các nét tinh tế của ngoại giao, thay vì đơn giản hóa các cuộc khủng hoảng thành các phương trình có tổng bằng không.
Nghiên cứu của CSIS phát hiện các mô hình AI có xu hướng leo thang trong 400 kịch bản khủng hoảng, với thiên kiến khác nhau giữa các quốc gia. Các chuyên gia kêu gọi tinh chỉnh cẩn thận và tích hợp AI vào an ninh quốc gia để tránh những sai lầm nguy hiểm trong chính sách đối ngoại.Nguồn: Songai.vn
