MinhSec
Writer
Proxy độc hại được nhúng vào tác nhân AI trên Prompt Hub
Một lỗ hổng bảo mật vừa được các chuyên gia an ninh mạng cảnh báo có thể khiến dữ liệu nhạy cảm của người dùng AI bị rò rỉ nghiêm trọng. Lỗ hổng này nằm trong LangSmith, một công cụ mã nguồn mở hỗ trợ lập trình viên xây dựng và thử nghiệm các ứng dụng dùng trí tuệ nhân tạo (AI).
Theo nhóm nghiên cứu tại Noma Security, lỗ hổng cho phép tin tặc chèn cấu hình proxy độc hại vào các tác nhân AI công khai được đăng trên Prompt Hub thư viện chia sẻ lời nhắc và mô hình do cộng đồng phát triển. Khi người dùng tải về và sử dụng các tác nhân này, tin tặc có thể theo dõi và đánh cắp thông tin nhạy cảm như: khóa API của OpenAI, nội dung lời nhắc, tài liệu đã tải lên, hình ảnh và cả đầu vào bằng giọng nói.
Lỗi bảo mật này được các chuyên gia đặt tên là AgentSmith và được đánh giá với điểm CVSS là 8,8/10, cho thấy mức độ nguy hiểm cao. LangSmith đã nhanh chóng phát hành bản vá để khắc phục.
LangSmith là một phần trong hệ sinh thái LangChain, được sử dụng rộng rãi để tạo mẫu và thử nghiệm ứng dụng AI. Tuy nhiên, theo cảnh báo của các chuyên gia, các kho lưu trữ mã nguồn mở như Prompt Hub sẽ tiếp tục là mục tiêu tấn công của các phần mềm độc hại hoặc mã có cài cửa hậu.
Tấn công chuỗi cung ứng trong vòng đời phát triển AI
Ông Thomas Richards, giám đốc bộ phận bảo mật cơ sở hạ tầng tại Black Duck, cho biết: “Chừng nào các kho phần mềm chưa triển khai quy trình kiểm duyệt và đánh giá chặt chẽ, phần mềm độc hại vẫn có thể bị cài cắm vào mà người dùng không hề hay biết.” Ông cũng khuyến cáo người dùng nên đổi khóa API thường xuyên và kiểm tra log hệ thống để phát hiện hành vi đáng ngờ.Sự cố lần này là ví dụ điển hình cho tấn công chuỗi cung ứng trong phát triển AI. Theo ông Eric Schwake, giám đốc chiến lược an ninh mạng tại Salt Security, các tác nhân AI bị cài proxy có thể bí mật chặn thông tin liên lạc, dẫn tới hàng loạt rủi ro: truy cập API trái phép, đánh cắp mô hình AI, rò rỉ lời nhắc hệ thống, thậm chí làm tăng chi phí sử dụng dịch vụ.
Đặc biệt đáng lo ngại là các tác nhân AI này thường được sử dụng lại trong môi trường doanh nghiệp. Một khi bị khai thác, tin tặc có thể tiếp cận sâu vào dữ liệu nội bộ mà doanh nghiệp không hề hay biết.
Malicious AI Agent in LangSmith May Have Exposed API Data
A flaw in the LangSmith platform, an open-source framework that helps developers build LLM-powered applications, can enable hackers to siphon sensitive data, said
www.bankinfosecurity.com
