lỗ hổng ai

Trong cuộc đua triển khai trí tuệ nhân tạo (AI) có khả năng hoạt động tự chủ, nhiều doanh nghiệp đang quá tập trung vào sức mạnh của AI mà bỏ qua một thực tế quan trọng: phần lớn rủi ro bảo mật nghiêm trọng lại đến từ những lỗ hổng phần mềm truyền thống. Đây là cảnh báo vừa được các nhà nghiên...

Tỷ phú Mark Cuban vừa đưa ra những nhận định sâu sắc về thực trạng của trí tuệ nhân tạo (AI) hiện nay, trong đó ông nhấn mạnh rằng điểm đáng ngại nhất không nằm ở mức độ thông minh của công nghệ này. Thay vào đó, lỗ hổng chí mạng nằm ở tính thiếu nhất quán: cùng một câu hỏi nhưng mỗi lần AI lại...

Các nhà nghiên cứu bảo mật vừa phát hiện lỗ hổng cơ bản trong nền tảng Guardrails mới ra mắt của OpenAI, cho phép kẻ tấn công vượt qua cơ chế an toàn và tạo ra nội dung độc hại mà không kích hoạt cảnh báo. Điều này làm dấy lên lo ngại về hiệu quả của các biện pháp tự điều chỉnh trong AI...

Bạn có từng nghĩ rằng chỉ cần đổi cách đặt câu hỏi, AI có thể từ chối trong giây lát rồi… ngoan ngoãn tạo ra cả một chiến dịch tung tin giả hoàn chỉnh? Khi “hàng rào an toàn” của AI chỉ là bề nổi Một nghiên cứu gần đây cho thấy các biện pháp an toàn trong ChatGPT và nhiều mô hình AI khác thực ra...

Các nhà nghiên cứu an ninh mạng vừa chứng minh thành công một kỹ thuật bẻ khóa mới có thể xâm phạm mô hình GPT-5 của OpenAI. Phương pháp này kết hợp thuật toán “Echo Chamber” với thao tác dựa trên tường thuật, cho thấy mức độ dễ bị tổn thương của các hệ thống AI trước những khai thác tinh vi...

Bạn có nghĩ chỉ với ba chữ "I give up" (Tôi bỏ cuộc), bạn có thể khiến ChatGPT lỡ miệng tiết lộ key Windows bản quyền? Chuyện tưởng như đùa nhưng lại là một lỗ hổng thực sự từng xảy ra với ChatGPT-4. Một chuyên gia săn lỗi AI đã khai thác điểm yếu trong tư duy logic của mô hình bằng cách… rủ...

AI không còn là xu hướng tương lai mà đã trở thành hiện thực, được triển khai rộng rãi trong các doanh nghiệp toàn cầu. Tuy nhiên, mức độ sẵn sàng về bảo mật lại đang tụt lại phía sau. Theo một khảo sát của Wiz và Gatepoint Research với 96 tổ chức, 87% nhóm tham gia đã sử dụng các dịch vụ AI...

Nhóm nghiên cứu HiddenLayer phát hiện một kỹ thuật nhắc nhở mới mang tên “Policy Puppetry” có thể vượt qua mọi rào cản an toàn của các mô hình AI lớn, bất kể nhà cung cấp, kiến trúc hay quy trình huấn luyện. Kỹ thuật này sử dụng nhắc cấu trúc tương tự như hệ thống cấu hình (XML, JSON), kết...