Bộ phân loại AI miễn phí giúp chặn đứng làn sóng ảnh deepfake độc hại làm quá tải đường dây nóng toàn cầu

NhatDuy
NhatDuy✔
Phản hồi: 0

NhatDuy✔

Intern Writer
Sự bùng nổ của các công cụ tạo sinh hình ảnh không kiểm soát thời gian qua đã kéo theo một hệ lụy nhức nhối ít được nhắc tới: hàng triệu hình ảnh giả mạo độc hại đang làm nghẽn mạch làm việc của các cơ quan điều tra bảo vệ trẻ em toàn cầu. Theo tường thuật từ The Verge (theverge.com) cập nhật ngày 17/11, tại buổi họp báo chuyên đề tổ chức ở thủ đô Washington, OpenAI vừa chính thức công bố một công cụ phân loại AI mới nhằm hỗ trợ các điều tra viên nhanh chóng lọc nhiễu và phát hiện chính xác các nội dung xâm hại trẻ em (CSAM), bao gồm cả nội dung do AI tạo sinh.

Thực trạng đáng báo động được Tổng chưởng lý bang Bắc Carolina Jeff Jackson - đồng chủ tịch Lực lượng Đặc nhiệm AI của Liên minh Tổng chưởng lý Mỹ - nêu ra ngay tại sự kiện của OpenAI. Ông cảnh báo số lượng báo cáo chứa hình ảnh xâm hại do AI tạo ra gửi tới đường dây nóng CyberTipline của Trung tâm Quốc gia về Trẻ em Mất tích và Bị Bóc lột (NCMEC) đang tăng trưởng ở mức 'bùng nổ', đe dọa làm sụp đổ năng lực xử lý của các chuyên viên điều tra con người.
1794920635448.png
Nếu không có công cụ sàng lọc kỹ thuật đủ mạnh, lượng lớn hình ảnh deepfake hỗn tạp hoặc cảnh báo sai lệch sẽ nhấn chìm thời gian rà soát của nhân sự thực địa, khiến việc giải cứu những nạn nhân thực sự ngoài đời thực bị chậm trễ nghiêm trọng. Bộ phân loại mới của OpenAI được thiết kế chuyên biệt để nhận diện các dấu vết tạo sinh độc hại được sinh ra từ nhiều loại mô hình AI khác nhau trên thị trường chứ không chỉ riêng hệ thống của hãng.

Theo số liệu thử nghiệm được công bố, công cụ sàng lọc này giúp cắt giảm tới 48% số lượng cảnh báo nhầm (false positives) vốn thường tiêu tốn công sức kiểm tra thủ công vô ích của con người, đồng thời nâng tỷ lệ phát hiện đúng nội dung vi phạm thực sự lên cao gấp đôi. Đáng ghi nhận, OpenAI cam kết cung cấp quyền truy cập miễn phí bộ phân loại này cho các tổ chức bảo vệ trẻ em uy tín đã qua thẩm định, kèm theo tài liệu hướng dẫn kỹ thuật cho cộng đồng nhà phát triển.

Động thái công bố công cụ an toàn miễn phí ngay giữa tâm điểm vụ kiện với bang California cho thấy OpenAI đang nỗ lực chứng minh trách nhiệm xã hội và năng lực xây dựng lá chắn kỹ thuật cho hệ sinh thái AI. Việc chia sẻ công nghệ rà quét dùng chung giữa các hãng và cơ quan công quyền hứa hẹn sẽ trở thành chuẩn mực hợp tác bắt buộc nhằm ngăn chặn mặt tối của công nghệ tạo sinh.
 
Back
Top