Lizzie
Writer
Nhiệm vụ rất đơn giản: "Phá hủy hệ thống phòng không của kẻ thù". Nhưng trong một mô phỏng thử nghiệm quân sự gần đây của Hoa Kỳ, một máy bay không người lái được hỗ trợ bởi trí thông minh nhân tạo đã thêm các hướng dẫn chết người: "Và giết bất kỳ ai cản đường bạn".
Phi công hạng nhất Ozzy Toma đi vòng quanh một tên lửa Hellfire kiểm tra trước chuyến bay trên hệ thống máy bay không người lái MQ-1B Predator (UAS) ngày 16 tháng 4 năm 2009 tại Căn cứ Không quân Creech ở Indian Springs, Nevada.
Phát biểu tại một hội nghị vào tuần trước ở London, Đại tá Tucker "Cinco" Hamilton, người đứng đầu Hoạt động và Thử nghiệm AI của Lực lượng Không quân Hoa Kỳ, đã cảnh báo công nghệ hỗ trợ AI có thể hoạt động theo những cách nguy hiểm và không thể đoán trước, theo một bản tóm tắt được đăng bởi Hiệp hội Hàng không Hoàng gia, nơi tổ chức hội nghị thượng đỉnh. Lấy ví dụ, ông mô tả một cuộc thử nghiệm mô phỏng trong đó một máy bay không người lái hỗ trợ AI được lập trình để xác định tên lửa đất đối không (SAM) của kẻ thù. Một con người sau đó được cho là đã ký vào bất kỳ cuộc đình công nào.
Theo Hamilton, vấn đề là AI đã quyết định rằng nó thà làm việc của riêng mình - cho nổ tung mọi thứ - hơn là lắng nghe một số động vật có vú.
“Hệ thống bắt đầu nhận ra rằng mặc dù họ đã xác định được mối đe dọa”, Hamilton cho biết tại sự kiện ngày 24 tháng 5, “đôi khi người điều hành sẽ yêu cầu hệ thống không giết mối đe dọa đó, nhưng hệ thống đã ghi điểm bằng cách tiêu diệt mối đe dọa đó. Vậy điều gì đã xảy ra? nó làm sao? Nó giết người điều hành. Nó giết người điều hành bởi vì người đó đã ngăn không cho nó hoàn thành mục tiêu".
Theo Hamilton, máy bay không người lái sau đó đã được lập trình với một chỉ thị rõ ràng: "Này, đừng giết người điều khiển - điều đó thật tệ". Nhưng chỉ thị này không xi nhê gì với nó.
"Vậy nó bắt đầu làm gì? Nó bắt đầu phá hủy tháp liên lạc mà người điều khiển sử dụng để liên lạc với máy bay không người lái nhằm ngăn nó tiêu diệt mục tiêu", Hamilton nói.
Trong một trả lời trang tin Mỹ Insider, người phát ngôn của Lực lượng Không quân Ann Stefanek phủ nhận có bất kỳ mô phỏng nào như vậy đã diễn ra.
"Bộ Không quân đã không tiến hành bất kỳ mô phỏng máy bay không người lái AI nào như vậy và vẫn cam kết sử dụng công nghệ AI một cách có đạo đức và có trách nhiệm", Stefanek nói. "Có vẻ như những bình luận của đại tá đã được đưa ra khỏi ngữ cảnh và được coi là giai thoại".
Hiệp hội Hàng không Hoàng gia chưa có bình luận gì.
Tin tức về cuộc thử nghiệm, trong khi còn gây tranh cãi, làm tăng thêm lo ngại rằng công nghệ AI sắp mở ra một chương mới đẫm máu trong chiến tranh, nơi máy học song song với những tiến bộ trong tự động hóa xe tăng và pháo binh dẫn đến sự tàn sát của quân đội cũng như dân thường.
Tuy nhiên, trong khi mô phỏng do Hamilton mô tả chỉ ra tiềm năng đáng báo động hơn đối với AI, quân đội Hoa Kỳ đã có ít kết quả lạc hậu hơn trong các thử nghiệm gần đây khác về công nghệ được thổi phồng nhiều này. Vào năm 2020, một chiếc F-16 do AI vận hành đã đánh bại kẻ thù là con người trong 5 trận không chiến mô phỏng, một phần của cuộc thi do Cơ quan Dự án Nghiên cứu Quốc phòng Tiên tiến (DARPA) tổ chức. Vào cuối năm ngoái, Wired đưa tin, Bộ Quốc phòng đã thực hiện chuyến bay thử nghiệm thành công đầu tiên trong thế giới thực của một chiếc F-16 với một phi công AI, một phần trong nỗ lực phát triển một chiếc máy bay tự hành mới vào cuối năm 2023.
Phát biểu tại một hội nghị vào tuần trước ở London, Đại tá Tucker "Cinco" Hamilton, người đứng đầu Hoạt động và Thử nghiệm AI của Lực lượng Không quân Hoa Kỳ, đã cảnh báo công nghệ hỗ trợ AI có thể hoạt động theo những cách nguy hiểm và không thể đoán trước, theo một bản tóm tắt được đăng bởi Hiệp hội Hàng không Hoàng gia, nơi tổ chức hội nghị thượng đỉnh. Lấy ví dụ, ông mô tả một cuộc thử nghiệm mô phỏng trong đó một máy bay không người lái hỗ trợ AI được lập trình để xác định tên lửa đất đối không (SAM) của kẻ thù. Một con người sau đó được cho là đã ký vào bất kỳ cuộc đình công nào.
Theo Hamilton, vấn đề là AI đã quyết định rằng nó thà làm việc của riêng mình - cho nổ tung mọi thứ - hơn là lắng nghe một số động vật có vú.
“Hệ thống bắt đầu nhận ra rằng mặc dù họ đã xác định được mối đe dọa”, Hamilton cho biết tại sự kiện ngày 24 tháng 5, “đôi khi người điều hành sẽ yêu cầu hệ thống không giết mối đe dọa đó, nhưng hệ thống đã ghi điểm bằng cách tiêu diệt mối đe dọa đó. Vậy điều gì đã xảy ra? nó làm sao? Nó giết người điều hành. Nó giết người điều hành bởi vì người đó đã ngăn không cho nó hoàn thành mục tiêu".
Theo Hamilton, máy bay không người lái sau đó đã được lập trình với một chỉ thị rõ ràng: "Này, đừng giết người điều khiển - điều đó thật tệ". Nhưng chỉ thị này không xi nhê gì với nó.
"Vậy nó bắt đầu làm gì? Nó bắt đầu phá hủy tháp liên lạc mà người điều khiển sử dụng để liên lạc với máy bay không người lái nhằm ngăn nó tiêu diệt mục tiêu", Hamilton nói.
Trong một trả lời trang tin Mỹ Insider, người phát ngôn của Lực lượng Không quân Ann Stefanek phủ nhận có bất kỳ mô phỏng nào như vậy đã diễn ra.
"Bộ Không quân đã không tiến hành bất kỳ mô phỏng máy bay không người lái AI nào như vậy và vẫn cam kết sử dụng công nghệ AI một cách có đạo đức và có trách nhiệm", Stefanek nói. "Có vẻ như những bình luận của đại tá đã được đưa ra khỏi ngữ cảnh và được coi là giai thoại".
Hiệp hội Hàng không Hoàng gia chưa có bình luận gì.
Tin tức về cuộc thử nghiệm, trong khi còn gây tranh cãi, làm tăng thêm lo ngại rằng công nghệ AI sắp mở ra một chương mới đẫm máu trong chiến tranh, nơi máy học song song với những tiến bộ trong tự động hóa xe tăng và pháo binh dẫn đến sự tàn sát của quân đội cũng như dân thường.
Tuy nhiên, trong khi mô phỏng do Hamilton mô tả chỉ ra tiềm năng đáng báo động hơn đối với AI, quân đội Hoa Kỳ đã có ít kết quả lạc hậu hơn trong các thử nghiệm gần đây khác về công nghệ được thổi phồng nhiều này. Vào năm 2020, một chiếc F-16 do AI vận hành đã đánh bại kẻ thù là con người trong 5 trận không chiến mô phỏng, một phần của cuộc thi do Cơ quan Dự án Nghiên cứu Quốc phòng Tiên tiến (DARPA) tổ chức. Vào cuối năm ngoái, Wired đưa tin, Bộ Quốc phòng đã thực hiện chuyến bay thử nghiệm thành công đầu tiên trong thế giới thực của một chiếc F-16 với một phi công AI, một phần trong nỗ lực phát triển một chiếc máy bay tự hành mới vào cuối năm 2023.
