Hiện tại, quân đội Israel chủ yếu sử dụng hai hệ thống trí tuệ nhân tạo để tham gia các hoạt động quân sự. Một là hệ thống xử lý lượng dữ liệu khổng lồ và chọn mục tiêu cho các cuộc không kích; hệ thống còn lại là mô hình trí tuệ nhân tạo để tính toán tải trọng đạn dược và lập kế hoạch tấn công.
"Nếu một phép tính của AI gặp trục trặc, và bản thân AI cũng không giải thích được, thì lỗi đó thuộc về ai? Bạn có thể giết cả một gia đình chỉ vì một sai lầm".
Chế độ xem phần mềm "Fire Factory". ảnh: Lực lượng Phòng vệ Israel
Lực lượng Phòng vệ Israel (IDF) đã bắt đầu sử dụng hệ thống trí tuệ nhân tạo (AI) để chọn mục tiêu không kích và tổ chức hậu cần thời chiến nhằm đối phó với căng thẳng với các quốc gia như Iran.
Theo báo cáo của Bloomberg ngày 17/7, hiện tại, quân đội Israel chủ yếu sử dụng hai hệ thống trí tuệ nhân tạo để tham gia các hoạt động quân sự. Một là hệ thống xử lý lượng dữ liệu khổng lồ và chọn mục tiêu cho các cuộc không kích; hệ thống còn lại là mô hình trí tuệ nhân tạo để tính toán tải trọng đạn dược và lập kế hoạch tấn công. Các quan chức quân sự cho biết giờ đây các mục tiêu không kích có thể được lựa chọn và tấn công trong vòng vài phút, một tốc độ chưa từng thấy.
Những người ủng hộ lập luận rằng những thuật toán tiên tiến này có thể vượt qua khả năng của con người và giúp quân đội giảm thiểu thương vong, trong khi những người chỉ trích cảnh báo rằng việc phụ thuộc quá nhiều vào các hệ thống ngày càng tự trị có thể gây ra hậu quả chết người.
Được thiết kế cho Total War, đã có kinh nghiệm chiến đấu ở Dải Gaza
Các quan chức Israel cho biết, ngoài việc sử dụng các hệ thống trí tuệ nhân tạo để xử lý lượng dữ liệu khổng lồ và chọn mục tiêu cho các cuộc không kích, quân đội còn nhanh chóng tiến hành các cuộc tấn công tiếp theo thông qua một mô hình trí tuệ nhân tạo khác có tên "Fire Factory", dựa trên mục tiêu Không kích đã được quân đội phê duyệt. dữ liệu để tính toán các lần nạp đạn, ưu tiên và chỉ định hàng nghìn mục tiêu cho máy bay và máy bay không người lái, đồng thời tạo lịch trình.
Trao cho trí tuệ nhân tạo khả năng kiểm soát cao đối với các hoạt động quân sự đã gây ra nhiều tranh cãi và thảo luận. Một quan chức của IDF cho biết mọi mục tiêu và kế hoạch không kích cho cả hai hệ thống hiện đang được giám sát và xem xét bởi người vận hành, nhưng công nghệ này hiện không được quy định ở bất kỳ cấp quốc gia hoặc quốc tế nào.
Tal Mimran, giảng viên luật quốc tế tại Đại học Do Thái ở Jerusalem và là cựu sinh viên, cho biết: "Nếu AI mắc lỗi trong tính toán của mình và bản thân AI không thể giải thích được lỗi đó thì ai sẽ chịu trách nhiệm về lỗi đó?" cố vấn pháp lý quân sự. , "Bạn có thể giết cả một gia đình chỉ với một sai lầm."
Các chi tiết về việc sử dụng trí tuệ nhân tạo của quân đội phần lớn vẫn được giữ bí mật. Các quan chức quân sự đã tiết lộ rằng IDF đã có được kinh nghiệm chiến trường bằng cách tiến hành các cuộc không kích thường xuyên ở Dải Gaza bằng hệ thống trí tuệ nhân tạo gây tranh cãi. Trước đây, Israel thường xuyên thực hiện các cuộc không kích ở Gaza để đáp trả các cuộc tấn công bằng tên lửa. Vào năm 2021, Lực lượng Phòng vệ Israel đã mô tả cuộc xung đột kéo dài 11 ngày ở Gaza là "cuộc chiến trí tuệ nhân tạo" đầu tiên trên thế giới, nói rằng họ đã sử dụng trí tuệ nhân tạo để xác định các bệ phóng tên lửa và triển khai bầy máy bay không người lái. Israel cũng đã tiến hành các cuộc không kích ở Syria và Liban nhằm vào các chuyến vận chuyển vũ khí của các lực lượng dân quân thân Iran như Hezbollah của Liban.
Israel đã đưa ra những cảnh báo gần như hàng ngày về các hoạt động làm giàu uranium của Iran trong những tháng gần đây. Nếu một cuộc xung đột quân sự nổ ra giữa hai nước, IDF hy vọng các nhóm ủy nhiệm của Iran ở Gaza, Syria và Lebanon sẽ tấn công trả đũa, điều này sẽ đẩy Israel vào cuộc chiến đa mặt trận nghiêm trọng đầu tiên kể từ khi các cuộc tấn công ở Ai Cập và Syria châm ngòi cho Chiến tranh Yom Kippur năm 50 xung đột nhiều năm trước.
Các công cụ dựa trên AI như Firepower Factory được thiết kế riêng cho tình huống này, các quan chức IDF lưu ý. Đại tá Uri, người đứng đầu đơn vị chuyển đổi kỹ thuật số của quân đội và tên của ông chỉ được sử dụng vì lý do bảo mật cho biết: “Những gì trước đây mất hàng giờ thì giờ chỉ mất vài phút, cộng với vài phút xem xét thủ công. "Chúng tôi đang làm nhiều hơn với cùng một số lượng người," Uri nói trong một bài phát biểu tại trụ sở Lực lượng Phòng vệ Israel ở Tel Aviv.
Các quan chức nhấn mạnh rằng hệ thống này được thiết kế cho chiến tranh tổng lực. AI đã được Lực lượng Phòng vệ Israel sử dụng trong một thời gian dài. Gần đây hơn, nó đã mở rộng các hệ thống này sang nhiều lĩnh vực khác nhau nhằm cố gắng định vị mình là công ty hàng đầu thế giới về vũ khí tự trị. Một số hệ thống này được chế tạo bởi các nhà thầu quốc phòng của Israel, trong khi những hệ thống khác, chẳng hạn như camera kiểm soát biên giới StarTrack, được phát triển bởi quân đội. dành riêng cho Được sử dụng để phân tích khối lượng lớn cảnh quay bằng máy bay không người lái và camera quan sát, hình ảnh vệ tinh, tín hiệu điện tử, thông tin liên lạc trực tuyến và các dữ liệu khác cho mục đích quân sự.
Hệ thống Vòm Sắt
Hệ thống phòng không Iron Dome của Israel đánh chặn một tên lửa được bắn từ thành phố Gaza vào ngày 10 tháng 5. Hệ thống này đã hoạt động hơn một thập kỷ và là một ví dụ về việc Israel sớm áp dụng công nghệ trí tuệ nhân tạo trong chiến tranh.
Xử lý lượng thông tin khổng lồ này là nhiệm vụ của Trung tâm Khoa học Dữ liệu và Trí tuệ Nhân tạo do Cục 8200 của Quân đội điều hành. Nằm trong cơ quan tình báo, trung tâm này là nơi nhiều triệu phú công nghệ của Israel hoàn thành nghĩa vụ quân sự bắt buộc trước khi công ty của họ thành công. Một phát ngôn viên cho biết hệ thống do trung tâm phát triển "đã thay đổi khái niệm nhắm mục tiêu của IDF".
Mối quan tâm nghiêm trọng
Tính bí mật mà những công cụ như vậy được phát triển đã làm dấy lên những lo ngại nghiêm trọng, với một số ý kiến cho rằng khoảng cách giữa các hệ thống bán tự trị và các cỗ máy giết người hoàn toàn tự động có thể thu hẹp chỉ sau một đêm. Trong kịch bản này, máy móc sẽ có khả năng định vị và tấn công mục tiêu, trong khi con người sẽ hoàn toàn bị loại khỏi việc ra quyết định.
Catherine Connolly, một nhà nghiên cứu ra quyết định tự động tại Stop Killer Robots cho biết: Chỉ cần một vài thay đổi phần mềm để đưa chúng từ bán tự động sang hoàn toàn tự động.
Một mối quan tâm khác là việc áp dụng AI nhanh chóng đang vượt xa nghiên cứu về hoạt động bên trong của nó. Nhiều thuật toán cho các hệ thống AI được phát triển bởi các công ty tư nhân và quân đội với thông tin bằng sáng chế riêng. Các nhà phê bình đã chỉ ra sự thiếu minh bạch trong cách các thuật toán đưa ra kết luận, một vấn đề mà IDF thừa nhận nhưng cho biết đầu ra được các binh sĩ xem xét kỹ lưỡng và hệ thống AI quân sự của họ lưu giữ hồ sơ cho phép người vận hành theo dõi hành động của họ.
"Đôi khi bạn đưa vào các thành phần AI phức tạp hơn, chẳng hạn như mạng lưới thần kinh, sẽ khá khó để hiểu 'điều gì đang diễn ra trong não của nó'. Vì vậy, tôi nói rằng hãy hài lòng với khả năng truy xuất nguồn gốc chứ không phải khả năng giải thích. Đó là, tôi muốn hiểu điều gì là quan trọng với tôi trong quá trình này và giám sát nó, ngay cả khi tôi không hiểu mỗi 'nơ-ron' đang làm gì", Đại tá Uri nói.
Bộ Quốc phòng Israel từ chối cho biết họ đã đầu tư bao nhiêu vào AI và quân đội sẽ không thảo luận về các hợp đồng quốc phòng cụ thể, mặc dù họ xác nhận Fire Factory được phát triển bởi nhà thầu quốc phòng Israel Rafael Advanced Defense Systems Ltd.
Liran Antebi, một nhà nghiên cứu cấp cao tại Viện An ninh Quốc gia Israel, cho biết: "Chúng ta có thể cho rằng Hoa Kỳ, Trung Quốc và một số quốc gia khác cũng có các hệ thống tiên tiến trong lĩnh vực trí tuệ nhân tạo. "Nhưng không giống như Israel, theo như tôi biết, họ chưa bao giờ chứng minh hoạt động thực tế và sử dụng thành công hệ thống."
Vào tháng 2 năm nay, hội nghị thượng đỉnh toàn cầu đầu tiên về trí tuệ nhân tạo có trách nhiệm trong lĩnh vực quân sự đã được tổ chức tại Hà Lan. Hơn 60 quốc gia bao gồm cả Trung Quốc và Hoa Kỳ đã tham gia và ký kết một sáng kiến hành động về việc sử dụng trí tuệ nhân tạo có trách nhiệm trong quân đội lĩnh vực này.Israel là nước duy nhất chưa ký kết.các nước tham gia.
Hiện tại, không có giới hạn nào đối với việc đưa các hệ thống AI vào các hoạt động quân sự. Bất chấp 10 năm đàm phán do Liên Hợp Quốc tổ chức, không có khuôn khổ quốc tế nào về việc ai chịu trách nhiệm về thương vong dân sự, tai nạn hoặc leo thang tình cờ khi máy tính hiểu sai.
"Nếu một phép tính của AI gặp trục trặc, và bản thân AI cũng không giải thích được, thì lỗi đó thuộc về ai? Bạn có thể giết cả một gia đình chỉ vì một sai lầm".
Lực lượng Phòng vệ Israel (IDF) đã bắt đầu sử dụng hệ thống trí tuệ nhân tạo (AI) để chọn mục tiêu không kích và tổ chức hậu cần thời chiến nhằm đối phó với căng thẳng với các quốc gia như Iran.
Theo báo cáo của Bloomberg ngày 17/7, hiện tại, quân đội Israel chủ yếu sử dụng hai hệ thống trí tuệ nhân tạo để tham gia các hoạt động quân sự. Một là hệ thống xử lý lượng dữ liệu khổng lồ và chọn mục tiêu cho các cuộc không kích; hệ thống còn lại là mô hình trí tuệ nhân tạo để tính toán tải trọng đạn dược và lập kế hoạch tấn công. Các quan chức quân sự cho biết giờ đây các mục tiêu không kích có thể được lựa chọn và tấn công trong vòng vài phút, một tốc độ chưa từng thấy.
Những người ủng hộ lập luận rằng những thuật toán tiên tiến này có thể vượt qua khả năng của con người và giúp quân đội giảm thiểu thương vong, trong khi những người chỉ trích cảnh báo rằng việc phụ thuộc quá nhiều vào các hệ thống ngày càng tự trị có thể gây ra hậu quả chết người.
Được thiết kế cho Total War, đã có kinh nghiệm chiến đấu ở Dải Gaza
Các quan chức Israel cho biết, ngoài việc sử dụng các hệ thống trí tuệ nhân tạo để xử lý lượng dữ liệu khổng lồ và chọn mục tiêu cho các cuộc không kích, quân đội còn nhanh chóng tiến hành các cuộc tấn công tiếp theo thông qua một mô hình trí tuệ nhân tạo khác có tên "Fire Factory", dựa trên mục tiêu Không kích đã được quân đội phê duyệt. dữ liệu để tính toán các lần nạp đạn, ưu tiên và chỉ định hàng nghìn mục tiêu cho máy bay và máy bay không người lái, đồng thời tạo lịch trình.
Trao cho trí tuệ nhân tạo khả năng kiểm soát cao đối với các hoạt động quân sự đã gây ra nhiều tranh cãi và thảo luận. Một quan chức của IDF cho biết mọi mục tiêu và kế hoạch không kích cho cả hai hệ thống hiện đang được giám sát và xem xét bởi người vận hành, nhưng công nghệ này hiện không được quy định ở bất kỳ cấp quốc gia hoặc quốc tế nào.
Tal Mimran, giảng viên luật quốc tế tại Đại học Do Thái ở Jerusalem và là cựu sinh viên, cho biết: "Nếu AI mắc lỗi trong tính toán của mình và bản thân AI không thể giải thích được lỗi đó thì ai sẽ chịu trách nhiệm về lỗi đó?" cố vấn pháp lý quân sự. , "Bạn có thể giết cả một gia đình chỉ với một sai lầm."
Các chi tiết về việc sử dụng trí tuệ nhân tạo của quân đội phần lớn vẫn được giữ bí mật. Các quan chức quân sự đã tiết lộ rằng IDF đã có được kinh nghiệm chiến trường bằng cách tiến hành các cuộc không kích thường xuyên ở Dải Gaza bằng hệ thống trí tuệ nhân tạo gây tranh cãi. Trước đây, Israel thường xuyên thực hiện các cuộc không kích ở Gaza để đáp trả các cuộc tấn công bằng tên lửa. Vào năm 2021, Lực lượng Phòng vệ Israel đã mô tả cuộc xung đột kéo dài 11 ngày ở Gaza là "cuộc chiến trí tuệ nhân tạo" đầu tiên trên thế giới, nói rằng họ đã sử dụng trí tuệ nhân tạo để xác định các bệ phóng tên lửa và triển khai bầy máy bay không người lái. Israel cũng đã tiến hành các cuộc không kích ở Syria và Liban nhằm vào các chuyến vận chuyển vũ khí của các lực lượng dân quân thân Iran như Hezbollah của Liban.
Israel đã đưa ra những cảnh báo gần như hàng ngày về các hoạt động làm giàu uranium của Iran trong những tháng gần đây. Nếu một cuộc xung đột quân sự nổ ra giữa hai nước, IDF hy vọng các nhóm ủy nhiệm của Iran ở Gaza, Syria và Lebanon sẽ tấn công trả đũa, điều này sẽ đẩy Israel vào cuộc chiến đa mặt trận nghiêm trọng đầu tiên kể từ khi các cuộc tấn công ở Ai Cập và Syria châm ngòi cho Chiến tranh Yom Kippur năm 50 xung đột nhiều năm trước.
Các công cụ dựa trên AI như Firepower Factory được thiết kế riêng cho tình huống này, các quan chức IDF lưu ý. Đại tá Uri, người đứng đầu đơn vị chuyển đổi kỹ thuật số của quân đội và tên của ông chỉ được sử dụng vì lý do bảo mật cho biết: “Những gì trước đây mất hàng giờ thì giờ chỉ mất vài phút, cộng với vài phút xem xét thủ công. "Chúng tôi đang làm nhiều hơn với cùng một số lượng người," Uri nói trong một bài phát biểu tại trụ sở Lực lượng Phòng vệ Israel ở Tel Aviv.
Các quan chức nhấn mạnh rằng hệ thống này được thiết kế cho chiến tranh tổng lực. AI đã được Lực lượng Phòng vệ Israel sử dụng trong một thời gian dài. Gần đây hơn, nó đã mở rộng các hệ thống này sang nhiều lĩnh vực khác nhau nhằm cố gắng định vị mình là công ty hàng đầu thế giới về vũ khí tự trị. Một số hệ thống này được chế tạo bởi các nhà thầu quốc phòng của Israel, trong khi những hệ thống khác, chẳng hạn như camera kiểm soát biên giới StarTrack, được phát triển bởi quân đội. dành riêng cho Được sử dụng để phân tích khối lượng lớn cảnh quay bằng máy bay không người lái và camera quan sát, hình ảnh vệ tinh, tín hiệu điện tử, thông tin liên lạc trực tuyến và các dữ liệu khác cho mục đích quân sự.
Hệ thống phòng không Iron Dome của Israel đánh chặn một tên lửa được bắn từ thành phố Gaza vào ngày 10 tháng 5. Hệ thống này đã hoạt động hơn một thập kỷ và là một ví dụ về việc Israel sớm áp dụng công nghệ trí tuệ nhân tạo trong chiến tranh.
Xử lý lượng thông tin khổng lồ này là nhiệm vụ của Trung tâm Khoa học Dữ liệu và Trí tuệ Nhân tạo do Cục 8200 của Quân đội điều hành. Nằm trong cơ quan tình báo, trung tâm này là nơi nhiều triệu phú công nghệ của Israel hoàn thành nghĩa vụ quân sự bắt buộc trước khi công ty của họ thành công. Một phát ngôn viên cho biết hệ thống do trung tâm phát triển "đã thay đổi khái niệm nhắm mục tiêu của IDF".
Mối quan tâm nghiêm trọng
Tính bí mật mà những công cụ như vậy được phát triển đã làm dấy lên những lo ngại nghiêm trọng, với một số ý kiến cho rằng khoảng cách giữa các hệ thống bán tự trị và các cỗ máy giết người hoàn toàn tự động có thể thu hẹp chỉ sau một đêm. Trong kịch bản này, máy móc sẽ có khả năng định vị và tấn công mục tiêu, trong khi con người sẽ hoàn toàn bị loại khỏi việc ra quyết định.
Catherine Connolly, một nhà nghiên cứu ra quyết định tự động tại Stop Killer Robots cho biết: Chỉ cần một vài thay đổi phần mềm để đưa chúng từ bán tự động sang hoàn toàn tự động.
Một mối quan tâm khác là việc áp dụng AI nhanh chóng đang vượt xa nghiên cứu về hoạt động bên trong của nó. Nhiều thuật toán cho các hệ thống AI được phát triển bởi các công ty tư nhân và quân đội với thông tin bằng sáng chế riêng. Các nhà phê bình đã chỉ ra sự thiếu minh bạch trong cách các thuật toán đưa ra kết luận, một vấn đề mà IDF thừa nhận nhưng cho biết đầu ra được các binh sĩ xem xét kỹ lưỡng và hệ thống AI quân sự của họ lưu giữ hồ sơ cho phép người vận hành theo dõi hành động của họ.
"Đôi khi bạn đưa vào các thành phần AI phức tạp hơn, chẳng hạn như mạng lưới thần kinh, sẽ khá khó để hiểu 'điều gì đang diễn ra trong não của nó'. Vì vậy, tôi nói rằng hãy hài lòng với khả năng truy xuất nguồn gốc chứ không phải khả năng giải thích. Đó là, tôi muốn hiểu điều gì là quan trọng với tôi trong quá trình này và giám sát nó, ngay cả khi tôi không hiểu mỗi 'nơ-ron' đang làm gì", Đại tá Uri nói.
Bộ Quốc phòng Israel từ chối cho biết họ đã đầu tư bao nhiêu vào AI và quân đội sẽ không thảo luận về các hợp đồng quốc phòng cụ thể, mặc dù họ xác nhận Fire Factory được phát triển bởi nhà thầu quốc phòng Israel Rafael Advanced Defense Systems Ltd.
Liran Antebi, một nhà nghiên cứu cấp cao tại Viện An ninh Quốc gia Israel, cho biết: "Chúng ta có thể cho rằng Hoa Kỳ, Trung Quốc và một số quốc gia khác cũng có các hệ thống tiên tiến trong lĩnh vực trí tuệ nhân tạo. "Nhưng không giống như Israel, theo như tôi biết, họ chưa bao giờ chứng minh hoạt động thực tế và sử dụng thành công hệ thống."
Vào tháng 2 năm nay, hội nghị thượng đỉnh toàn cầu đầu tiên về trí tuệ nhân tạo có trách nhiệm trong lĩnh vực quân sự đã được tổ chức tại Hà Lan. Hơn 60 quốc gia bao gồm cả Trung Quốc và Hoa Kỳ đã tham gia và ký kết một sáng kiến hành động về việc sử dụng trí tuệ nhân tạo có trách nhiệm trong quân đội lĩnh vực này.Israel là nước duy nhất chưa ký kết.các nước tham gia.
Hiện tại, không có giới hạn nào đối với việc đưa các hệ thống AI vào các hoạt động quân sự. Bất chấp 10 năm đàm phán do Liên Hợp Quốc tổ chức, không có khuôn khổ quốc tế nào về việc ai chịu trách nhiệm về thương vong dân sự, tai nạn hoặc leo thang tình cờ khi máy tính hiểu sai.
