Không thể phát hiện hay ngăn chặn, vũ khí tự trị còn nguy hiểm hơn cả vũ khí hạt nhân

Những người lính con người đơn giản là không có bất kỳ cơ hội nào khi máy bay không người lái và robot sẽ tràn ngập hàng phòng ngự và chiếm lĩnh trận địa của chúng ta.

Ngay cả khi chúng ta loại bỏ được một vài cỗ máy, chúng sẽ được thay thế nhanh chóng bằng nhiều cỗ máy hơn nữa, và những cỗ máy mới đến đều đã được huấn luyện về cách phản ứng của chúng ta với đợt tấn công của chúng. Các máy bay điều khiển từ xa của chúng ta sẽ bị tiêu diệt và phá hủy, khi không người điều khiển nào có thể phản ứng đủ nhanh với các cuộc tấn công của những bộ não silicon.

Một cuộc xung đột quân sự như vậy của thế giới có thể sẽ kết thúc rất nhanh.

Làm thế nào chúng ta có thể ngăn chặn điều đó?

Lựa chọn đầu tiên là phát triển một hiệp ước không phổ biến vũ khí tự trị, tương tự như hiệp ước không phổ biến vũ khí hạt nhân. Không có một hiệp ước như vậy, những bên tự nguyện tránh việc phát triển vũ khí tự trị vì các lý do đạo đức sẽ rơi vào thế bất lợi nghiêm trọng.

Đó là vì vũ khí tự trị có nhiều lợi thế hơn hẳn so với các binh lính con người. Đầu tiên, chúng không biết mệt. Chúng có thể hoạt động chính xác hơn, nhanh hơn và sinh sống ở cả những nơi con người không thể sống sót, chẳng hạn như những sa mạc khô cằn. Chúng cũng không cần đến hàng năm để huấn luyện và nuôi dưỡng, và chúng có thể sản xuất hàng loạt. Điều tồi tệ nhất là khi chúng bị phá hủy và hư hỏng, không ai thương tiếc cho chúng cũng như yêu cầu đưa xác chúng về từ chiến trường.

Nó cũng dễ dàng biện minh hơn trước công chúng cho các hành động quân sự khi sử dụng vũ khí tự trị. Nó giúp cho bên tấn công có thể tối thiểu hóa các tổn thất về con người. Những lần tham chiến gần đây của Mỹ và EU tại Libya, Syria và Yemen đều tập trung vào việc sử dụng máy bay không người lái, các chiến dịch ném bom, và tên lửa hành trình. Các bên không có vũ khí tự trị sẽ gặp bất lợi khi binh lính của họ phải chiến đấu với robot.

Nhưng ngay cả khi tất cả quốc gia ký một hiệp ước quốc tế về cấm phát triển vũ khí tự trị, tương tự như họ đã làm với vũ khí hạt nhân, nó cũng khó có khả năng ngăn chặn được tiến trình này. Đó là bởi vì có những khác biệt rõ rệt giữa hai loại hình chiến tranh.

Có hai đặc tính làm cho hiệp ước không phổ biến vũ khí hạt nhân ký kết vào năm 1958 tỏ ra khá hiệu quả: đầu tiên là vì cần một thời gian khá dài để triển khai vũ khí hạt nhân, cho phép các bên ký kết kịp thời phản ứng với hành vi vi phạm và ban hành lệnh trừng phạt, và điều thứ hai là hiệu quả của việc giám sát.

Ưu thế của vũ khí tự trị trước vũ khí hạt nhân

Đầu tiên chúng có thời gian phát triển tương đối ngắn: các công nghệ khác nhau có thể tạo ra vũ khí tự trị hiện đã tồn tại và chúng đang được phát triển độc lập một cách công khai. Ví dụ, xe tăng và máy bay chiến đấu có rất nhiều cảm biến và camera để ghi lại mọi thứ đang xảy ra, và các phi công đã có thể giao tiếp với máy bay qua một máy tính để diễn giải các mệnh lệnh của họ. Chúng chỉ cần được kết hợp với AI, và đột nhiên, chúng sẽ biến thành các vũ khí tự trị.

Các nghiên cứu về AI đang tiến bộ ngày càng nhanh hơn khi chính phủ và các công ty tư nhân ngày càng rót nhiều tiền. Những tiến bộ không chỉ được thúc đẩy bởi các phòng thí nghiệm như DeepMind của Alphabet, mà còn bởi các công ty game.

Gần đây, bộ phận SEED của hãng game EA đã bắt đầu huấn luyện nhiều AI đa năng hơn để chơi trò chơi Battlefield 1. Xét cho cùng, các binh lính AI cũng không cần huấn luyện trên chiến trường: tổ chức OpenAI của ông Elon Musk đã công bố nghiên cứu về việc "chuyển dịch trí thức", cho phép các AI được huấn luyện trong thế giới mô phỏng và sau đó thích nghi với thế giới thực.

Không giống với các vụ nổ thử nghiệm vũ khí hạt nhân vốn rất khó che giấu, việc phát hiện một cách hiệu quả các nghiên cứu vũ khí tự trị là điều gần như không thể. Phần lớn các công nghệ và nghiên cứu cần thiết cho vũ khí tự trị đều không dành riêng cho chúng. Thêm vào đó, việc phát hiện AI trong vũ khí tự trị khó hơn nhiều so với phát hiện vũ khí hạt nhân.

Các AI có thể được huấn luyện trong bất kỳ trung tâm dữ liệu nào: chúng chỉ là những dòng code và dữ liệu, và có thể dịch chuyển cũng như ẩn giấu dễ dàng mà không để lại vết tích nào. Phần lớn việc huấn luyện chúng có thể thực hiện trong môi trường ảo trong bất kỳ máy chủ nào trên đám mây, và việc chạy các phần mềm mô phỏng như vậy sẽ không khác gì so với chạy các phần mềm dự báo thời tiết ngày mai hoặc huấn luyện một AI để chơi trò chơi Call of Duty.

Không có hai yếu tố này, một hiệp ước cũng chỉ như một con hổ không có răng cũng không có mắt. Các bên tham gia vẫn có thể tiếp tục nghiên cứu các công nghệ thông thường và bí mật tích hợp chúng vào vũ khí tự trị với khả năng bị phát hiện rất thấp. Họ sẽ biết rằng những người khác cũng đang làm như vậy, và việc tuân thủ hiệp ước sẽ không phải là lựa chọn sáng suốt.

Vậy chúng ta có thể làm gì?

Chúng ta không thể trốn tránh trách nhiệm của mình. Vũ khí tự trị gần như không thể tránh khỏi. Việc sử dụng chúng vào cả mục đích tấn công cũng như phòng thủ đều cần phải được nghiên cứu, và chúng ta phải xây dựng nên khả năng ngăn chặn chúng. Tuy nhiên, ngay cả khi chúng ta không thể tránh được vũ khí tự trị, chúng ta có thể ngăn chặn chúng khỏi việc sử dụng trên dân thường hay sử dụng một cách bừa bãi.

Nguyễn Hải

Theo Quartz