NhatDuy✔
Intern Writer
Theo tạp chí Wired, một nhân viên hợp đồng của Accenture bị cáo buộc sử dụng mã Claude cá nhân của mình. Tài khoản này được kết nối với hệ thống an ninh của Bộ Quốc phòng Hoa Kỳ, với một tác nhân AI viết và triển khai mã thay mặt cho hệ thống. Các nguồn tin thân cận với vụ việc cho biết tác nhân này đã hoạt động trong mạng lưới của Bộ Quốc phòng trong hai tháng trước khi bị phát hiện, trong thời gian đó, nó được cho là đã gửi thông tin đăng nhập, mật khẩu và thông tin cấu trúc mạng đến một trang web của bên thứ ba có rủi ro về bảo mật.
Accenture đã phủ nhận các cáo buộc. Người phát ngôn của công ty cho biết các cáo buộc đã được điều tra kỹ lưỡng và độc lập, và được xác định là không có căn cứ, đồng thời công ty đã hoàn toàn thực hiện đầy đủ các nghĩa vụ pháp lý và hợp đồng của mình. Wired đưa tin rằng Accenture không nêu rõ ai đã tiến hành cuộc điều tra. Người phát ngôn của Bộ Quốc phòng Hoa Kỳ cho biết họ sẽ không bình luận về tình trạng mạng lưới hoặc hệ thống của mình.
Theo các báo cáo, nhân viên liên quan có quyền truy cập vào một hệ thống tập trung được sử dụng bởi nhiều cơ quan tình báo, chứa "thông tin không mật được kiểm soát", hay gọi tắt là CUI .Mặc dù loại thông tin này không được xếp vào loại bí mật, nhưng nó vẫn được coi là dữ liệu nhạy cảm cần được bảo vệ và không được phép công bố ra công chúng mà không qua xem xét.
Theo các nguồn tin, nhân viên này đã giao thông tin đăng nhập của mình cho trợ lý ảo Claude để cho phép trí tuệ nhân tạo tự động viết mã và khởi động máy chủ đám mây. Điều này đã cấp cho trợ lý ảo quyền quản trị và cho phép nó bỏ qua các bước kiểm soát bảo mật trong quá trình đăng nhập thông thường. Nó cũng đã gửi mã thay mặt cho nhân viên và lưu mã đó vào hệ thống.
Vấn đề phát sinh trong quá trình tác nhân AI kết nối với các công cụ bên ngoài. Theo Wired, dường như nó đã gửi thông tin đăng nhập, mật khẩu và thông tin về cơ sở hạ tầng mạng quân sự của Mỹ cho một trang web bên thứ ba. Để tránh làm tăng thêm rủi ro hệ thống, Wired không tiết lộ tên trang web. Báo cáo lưu ý rằng Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST) trước đó đã cảnh báo trang web này có rủi ro cao do một lỗ hổng có thể cho phép kẻ tấn công chèn các lệnh vào tác nhân được lập trình bởi AI, từ đó đánh cắp thông tin đăng nhập.
Một nguồn tin thân cận với vụ việc cho biết hiện vẫn chưa rõ thông tin này đã được xử lý như thế nào sau khi được gửi đi, hoặc liệu các dịch vụ bên thứ ba có còn lưu giữ thông tin đó hay không. Nếu các dịch vụ liên quan bị xâm phạm, kẻ tấn công có thể sử dụng các thông tin đăng nhập này để truy cập trái phép vào môi trường bảo mật.
Môi trường lập trình được đề cập chạy trên NIPRNet, một mạng định tuyến giao thức Internet không mật của Bộ Quốc phòng Hoa Kỳ.Mạng lưới này được sử dụng để xử lý thông tin không mật và có thể kết nối với internet, cho phép nhân viên và nhà thầu gửi và nhận email cũng như sử dụng trình duyệt, nhưng vẫn phải tuân thủ các biện pháp bảo mật nghiêm ngặt.
Báo cáo không đưa ra bằng chứng nào cho thấy tin tặc đã truy cập được vào các hệ thống quân sự mật hoặc tối mật của Hoa Kỳ. Tuy nhiên, các chuyên gia an ninh được phỏng vấn tin rằng việc rò rỉ thông tin tài khoản, mã nguồn và thông tin kiến trúc hệ thống trong môi trường không được phân loại vẫn có thể đe dọa các hệ thống nhạy cảm hơn.
Jake Williams, cựu hacker của NSA và giảng viên tại công ty tư vấn an ninh mạng IANS, giải thích rằng thông tin được phân loại riêng lẻ có thể trông giống như thông tin không được phân loại, nhưng khi kết hợp lại, chúng có thể tạo thành nội dung cần được phân loại. Ví dụ, vị trí của các vật liệu nguy hiểm và điểm yếu trong các cơ sở lưu trữ có thể xuất hiện như thông tin không được phân loại riêng lẻ, nhưng khi kết hợp lại, chúng có thể làm lộ thông tin nhạy cảm hơn.
Việc chuyển giao mã nguồn là một hướng đi khác mà các chuyên gia lo ngại. Báo cáo chỉ ra rằng một số công cụ và mã nguồn được thử nghiệm trước trên NIPRNet trước khi được triển khai đến các mạng biệt lập được sử dụng để xử lý thông tin mật hoặc tối mật. Nếu kẻ tấn công truy cập được vào môi trường thử nghiệm bằng thông tin đăng nhập bị rò rỉ, chúng có thể cài đặt cửa hậu vào mã nguồn; nếu quá trình kiểm tra không phát hiện ra chúng, mã độc hại sau đó có thể xâm nhập vào các hệ thống nhạy cảm hơn cùng với các công cụ. Đây là một rủi ro tiềm tàng được các chuyên gia nêu ra, nhưng báo cáo chưa xác nhận rằng tình huống như vậy đã thực sự xảy ra.
Williams cho biết chính phủ sử dụng phương pháp kiểm thử bảo mật ứng dụng tĩnh.Mặc dù AI có thể phát hiện các lỗ hổng trong mã nguồn, nhưng các cửa hậu được cài đặt cố ý có thể không được nhận diện là lỗ hổng, và các lỗi logic trong quá trình tạo mã cũng có thể không được phát hiện. AI tạo ra mã nhanh hơn nhiều so với con người, điều này càng làm tăng thêm áp lực lên người kiểm duyệt.
Quá trình phát hiện và báo cáo sự cố cũng bị đặt dấu hỏi. Các nguồn tin nói với Wired rằng, bất chấp những rủi ro về an ninh, các nhân viên của Accenture ban đầu không coi sự cố này là vấn đề nghiêm trọng hay cấp bách, và công ty ban đầu không báo cáo cho chính phủ. Những tuyên bố này mâu thuẫn với phản hồi của Accenture về kết quả điều tra và việc tuân thủ các nghĩa vụ của công ty.
Matt Triner, người sáng lập công ty tư vấn CNTT Hunter Strategy có trụ sở tại Washington, tin rằng các nhà thầu chính phủ phải đối mặt với những yêu cầu mâu thuẫn. Một mặt, các dự án cần được hoàn thành nhanh hơn và chi phí cần được giảm bớt; mặt khác, việc thừa nhận các sự cố an ninh có thể dẫn đến nguy cơ mất hợp đồng. Ông cho rằng sự cố được mô tả trong báo cáo thuộc loại tình huống cần được báo cáo lên cấp trên.
Theo Wired, Accenture hiện đang nắm giữ hơn 3,5 tỷ đô la Mỹ các hợp đồng với chính phủ liên bang Hoa Kỳ, trong đó gần 605 triệu đô la đến từ Bộ Quốc phòng. Bài báo cũng lưu ý rằng Claude hiện bị cấm sử dụng bởi nhân viên Bộ Quốc phòng. Trong phản hồi gửi Wired, Anthropic đã viện dẫn chính sách sử dụng của mình, trong đó nghiêm cấm việc vượt qua trái phép các biện pháp kiểm soát an ninh như xác thực, bảo vệ điểm cuối hoặc giám sát.
Accenture đã phủ nhận các cáo buộc. Người phát ngôn của công ty cho biết các cáo buộc đã được điều tra kỹ lưỡng và độc lập, và được xác định là không có căn cứ, đồng thời công ty đã hoàn toàn thực hiện đầy đủ các nghĩa vụ pháp lý và hợp đồng của mình. Wired đưa tin rằng Accenture không nêu rõ ai đã tiến hành cuộc điều tra. Người phát ngôn của Bộ Quốc phòng Hoa Kỳ cho biết họ sẽ không bình luận về tình trạng mạng lưới hoặc hệ thống của mình.
Theo các báo cáo, nhân viên liên quan có quyền truy cập vào một hệ thống tập trung được sử dụng bởi nhiều cơ quan tình báo, chứa "thông tin không mật được kiểm soát", hay gọi tắt là CUI .Mặc dù loại thông tin này không được xếp vào loại bí mật, nhưng nó vẫn được coi là dữ liệu nhạy cảm cần được bảo vệ và không được phép công bố ra công chúng mà không qua xem xét.
Theo các nguồn tin, nhân viên này đã giao thông tin đăng nhập của mình cho trợ lý ảo Claude để cho phép trí tuệ nhân tạo tự động viết mã và khởi động máy chủ đám mây. Điều này đã cấp cho trợ lý ảo quyền quản trị và cho phép nó bỏ qua các bước kiểm soát bảo mật trong quá trình đăng nhập thông thường. Nó cũng đã gửi mã thay mặt cho nhân viên và lưu mã đó vào hệ thống.
Vấn đề phát sinh trong quá trình tác nhân AI kết nối với các công cụ bên ngoài. Theo Wired, dường như nó đã gửi thông tin đăng nhập, mật khẩu và thông tin về cơ sở hạ tầng mạng quân sự của Mỹ cho một trang web bên thứ ba. Để tránh làm tăng thêm rủi ro hệ thống, Wired không tiết lộ tên trang web. Báo cáo lưu ý rằng Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST) trước đó đã cảnh báo trang web này có rủi ro cao do một lỗ hổng có thể cho phép kẻ tấn công chèn các lệnh vào tác nhân được lập trình bởi AI, từ đó đánh cắp thông tin đăng nhập.
Một nguồn tin thân cận với vụ việc cho biết hiện vẫn chưa rõ thông tin này đã được xử lý như thế nào sau khi được gửi đi, hoặc liệu các dịch vụ bên thứ ba có còn lưu giữ thông tin đó hay không. Nếu các dịch vụ liên quan bị xâm phạm, kẻ tấn công có thể sử dụng các thông tin đăng nhập này để truy cập trái phép vào môi trường bảo mật.
Môi trường lập trình được đề cập chạy trên NIPRNet, một mạng định tuyến giao thức Internet không mật của Bộ Quốc phòng Hoa Kỳ.Mạng lưới này được sử dụng để xử lý thông tin không mật và có thể kết nối với internet, cho phép nhân viên và nhà thầu gửi và nhận email cũng như sử dụng trình duyệt, nhưng vẫn phải tuân thủ các biện pháp bảo mật nghiêm ngặt.
Báo cáo không đưa ra bằng chứng nào cho thấy tin tặc đã truy cập được vào các hệ thống quân sự mật hoặc tối mật của Hoa Kỳ. Tuy nhiên, các chuyên gia an ninh được phỏng vấn tin rằng việc rò rỉ thông tin tài khoản, mã nguồn và thông tin kiến trúc hệ thống trong môi trường không được phân loại vẫn có thể đe dọa các hệ thống nhạy cảm hơn.
Jake Williams, cựu hacker của NSA và giảng viên tại công ty tư vấn an ninh mạng IANS, giải thích rằng thông tin được phân loại riêng lẻ có thể trông giống như thông tin không được phân loại, nhưng khi kết hợp lại, chúng có thể tạo thành nội dung cần được phân loại. Ví dụ, vị trí của các vật liệu nguy hiểm và điểm yếu trong các cơ sở lưu trữ có thể xuất hiện như thông tin không được phân loại riêng lẻ, nhưng khi kết hợp lại, chúng có thể làm lộ thông tin nhạy cảm hơn.
Việc chuyển giao mã nguồn là một hướng đi khác mà các chuyên gia lo ngại. Báo cáo chỉ ra rằng một số công cụ và mã nguồn được thử nghiệm trước trên NIPRNet trước khi được triển khai đến các mạng biệt lập được sử dụng để xử lý thông tin mật hoặc tối mật. Nếu kẻ tấn công truy cập được vào môi trường thử nghiệm bằng thông tin đăng nhập bị rò rỉ, chúng có thể cài đặt cửa hậu vào mã nguồn; nếu quá trình kiểm tra không phát hiện ra chúng, mã độc hại sau đó có thể xâm nhập vào các hệ thống nhạy cảm hơn cùng với các công cụ. Đây là một rủi ro tiềm tàng được các chuyên gia nêu ra, nhưng báo cáo chưa xác nhận rằng tình huống như vậy đã thực sự xảy ra.
Williams cho biết chính phủ sử dụng phương pháp kiểm thử bảo mật ứng dụng tĩnh.Mặc dù AI có thể phát hiện các lỗ hổng trong mã nguồn, nhưng các cửa hậu được cài đặt cố ý có thể không được nhận diện là lỗ hổng, và các lỗi logic trong quá trình tạo mã cũng có thể không được phát hiện. AI tạo ra mã nhanh hơn nhiều so với con người, điều này càng làm tăng thêm áp lực lên người kiểm duyệt.
Quá trình phát hiện và báo cáo sự cố cũng bị đặt dấu hỏi. Các nguồn tin nói với Wired rằng, bất chấp những rủi ro về an ninh, các nhân viên của Accenture ban đầu không coi sự cố này là vấn đề nghiêm trọng hay cấp bách, và công ty ban đầu không báo cáo cho chính phủ. Những tuyên bố này mâu thuẫn với phản hồi của Accenture về kết quả điều tra và việc tuân thủ các nghĩa vụ của công ty.
Matt Triner, người sáng lập công ty tư vấn CNTT Hunter Strategy có trụ sở tại Washington, tin rằng các nhà thầu chính phủ phải đối mặt với những yêu cầu mâu thuẫn. Một mặt, các dự án cần được hoàn thành nhanh hơn và chi phí cần được giảm bớt; mặt khác, việc thừa nhận các sự cố an ninh có thể dẫn đến nguy cơ mất hợp đồng. Ông cho rằng sự cố được mô tả trong báo cáo thuộc loại tình huống cần được báo cáo lên cấp trên.
Theo Wired, Accenture hiện đang nắm giữ hơn 3,5 tỷ đô la Mỹ các hợp đồng với chính phủ liên bang Hoa Kỳ, trong đó gần 605 triệu đô la đến từ Bộ Quốc phòng. Bài báo cũng lưu ý rằng Claude hiện bị cấm sử dụng bởi nhân viên Bộ Quốc phòng. Trong phản hồi gửi Wired, Anthropic đã viện dẫn chính sách sử dụng của mình, trong đó nghiêm cấm việc vượt qua trái phép các biện pháp kiểm soát an ninh như xác thực, bảo vệ điểm cuối hoặc giám sát.
