Bạn có biết ảnh AI vi phạm tăng 380%? Công cụ miễn phí nào đang cứu hàng triệu trẻ em?

[Nguyễn Hoàng]

Internet Watch Foundation (IWF) cảnh báo chất lượng hình ảnh chiên trẻ em được AI tạo ra trong năm 2024 trở nên “cực kỳ chân thực”, hầu như không thể phân biệt với ảnh thật, kể cả với chuyên gia.

Năm 2024, IWF nhận được 245 báo cáo về hình ảnh AI vi phạm pháp luật Vương quốc Anh, tăng 380% so với 51 báo cáo năm 2023. Tổng số hình ảnh vi phạm lên tới 7.644 ảnh cùng một số video.

Trong số đó, 39% hình ảnh AI bị xử lý thuộc “loại A” – mức độ nguy hiểm nhất, bao gồm hành vi xâm hại tình dục ác độc hoặc bạo ***.

Đa phần hình ảnh này đã xuất hiện ở Internet open chứ không chỉ trên “dark web”.

Chính phủ Anh cho biết từ tháng 02.2025, việc sở hữu, tạo ra hoặc phát tán công cụ AI tạo hình ảnh tận dụng trẻ em, cũng như các tài liệu hướng dẫn sử dụng AI cho mục tiêu xấu, chính thức bị coi là phạm pháp để khắc phục lỗi pháp lý gây khó chịu trước đó.

IWF ghi nhận năm 2024 số lượng trang web chứa hình ảnh ứng dụng trẻ em đạt 291.273, tăng 6% so với năm 2023, phần lớn nạn nhân là bé gái.

Để hỗ trợ nền tảng phụ tùng luật An Toàn Mạng, IWF cung cấp công cụ miễn phí “Image Intercept” giúp phát hiện, ngăn chặn hình ảnh phạm pháp thông tin đối chiếu với cơ sở dữ liệu 2,8 triệu hình ảnh đã được đánh dấu số vân tay.

Derek Ray-Hill, CEO lâm thời của IWF, nhấn mạnh cung cấp miễn phí công cụ này là “bước học lớn về an toàn mạng”.

Bộ trưởng công nghệ Peter Kyle khẳng định công cụ mới bằng chứng minh đổi mới có thể là giải pháp bảo vệ trẻ em trước nguy cơ ngày càng tăng do AI tạo ra sinh vật và tội phạm mạng.

Năm 2024, IWF ghi nhận số lượng hình ảnh chiên trẻ em do AI tạo tăng vọt 380%, trong đó 39% là dạng nặng nhất. Để phản đối, công cụ ngăn chặn phạm pháp được cung cấp miễn phí cho các trang web nhỏ, hỗ trợ thực thi luật mới về an toàn mạng và bảo vệ trẻ em trước AI tạo sinh.

Nguồn bài viết: https://songai.vn/posts/anh-lam-dun...f-canh-bao-nhieu-hinh-anh-that-den-kinh-hoang