an ninh trí tuệ nhân tạo
-
Alibaba bị tố triển khai 25.000 tài khoản giả để sao chép Claude AI, Anthropic đã phát hiện như thế nào?
Anthropic đã cáo buộc tập đoàn công nghệ Trung Quốc Alibaba thực hiện một chiến dịch quy mô lớn, có tổ chức nhằm đánh cắp trái phép các năng lực của mô hình trí tuệ nhân tạo Claude. Công ty gọi đây là cuộc tấn công "chưng cất đối kháng" (adversarial distillation) lớn nhất từng được ghi nhận...- Duy Linh
- Chủ đề
- alibaba an ninh trí tuệ nhân tạo anthropic bảo mật api ai chưng cất đối kháng claude ai deepseek mythos preview sở hữu trí tuệ ai đánh cắp mô hình ai
- Trả lời: 0
- Diễn đàn: Cộng đồng An ninh mạng
-
Lỗ hổng gây sốc trong Guardrails: Cơ chế bảo mật của OpenAI bị qua mặt bởi chính mô hình mà nó giám sát
Các nhà nghiên cứu bảo mật vừa phát hiện lỗ hổng cơ bản trong nền tảng Guardrails mới ra mắt của OpenAI, cho phép kẻ tấn công vượt qua cơ chế an toàn và tạo ra nội dung độc hại mà không kích hoạt cảnh báo. Điều này làm dấy lên lo ngại về hiệu quả của các biện pháp tự điều chỉnh trong AI...- Duy Linh
- Chủ đề
- an ninh trí tuệ nhân tạo bảo mật ai hệ thống guardrails jailbreak ai kiểm thử đối kháng lỗ hổng ai lỗ hổng guardrails openai phòng thủ nhiều lớp tấn công prompt injection thẩm phán llm
- Trả lời: 0
- Diễn đàn: Cộng đồng An ninh mạng
-
Chỉ 250 tài liệu độc hại cũng đủ “đầu độc” ChatGPT và Gemini?
Bạn có từng nghĩ chỉ vài trăm tài liệu độc hại trên internet cũng đủ "bẻ lái" một mô hình AI khổng lồ như ChatGPT hay Gemini? Khi AI học nhầm chỉ vì 250 tài liệu Một nhóm nghiên cứu từ Viện An ninh AI của Anh, Viện Alan Turing và công ty Anthropic đã phát hiện một điều đáng lo: chỉ cần khoảng...- Code Nguyen
- Chủ đề
- alan turing institute an ninh trí tuệ nhân tạo anthropic nghiên cứu backdoor llm chatgpt bị đầu độc dữ liệu huấn luyện ai gemini bảo mật mô hình ngôn ngữ lớn tài liệu độc hại tấn công poisoning
- Trả lời: 0
- Diễn đàn: Cộng đồng An ninh mạng