A-Train The Seven
...'cause for once, I didn't hate myself.
Yvonne Meré, Phó Chưởng lý thành phố San Francisco, đã nảy ra ý tưởng khởi kiện sau khi đọc được thông tin về việc các nam sinh sử dụng ứng dụng "cởi đồ" để biến ảnh chụp các bạn nữ mặc quần áo thành ảnh khiêu *** deepfake. Là một người mẹ có con gái 16 tuổi, Meré quyết tâm hành động để bảo vệ con gái mình và những người khác khỏi vấn nạn này. Bà đã tập hợp đồng nghiệp và xây dựng đơn kiện nhằm đóng cửa 16 trang web "cởi đồ" phổ biến nhất, theo tờ New York Times.
Đơn kiện, được công bố với tên các trang web bị che giấu, cho biết các trang web này đã bị truy cập tổng cộng 200 triệu lượt trong 6 tháng đầu năm 2024. Một trong số đó còn ngang nhiên quảng cáo: "Tưởng tượng bạn lãng phí thời gian hẹn hò với cô ấy, trong khi bạn có thể sử dụng [tên trang web bị che giấu] để xem ảnh khỏa thân của cô ấy".
Chưởng lý David Chiu cho biết các mô hình AI của các trang web này được huấn luyện bằng hình ảnh khiêu *** thật và hình ảnh lạm dụng trẻ em để tạo ra ảnh deepfake. Ông nói thêm rằng một khi những hình ảnh này được phát tán, gần như không thể xác định được trang web nào đã tạo ra chúng.
Đơn kiện lập luận rằng các trang web này vi phạm luật pháp tiểu bang và liên bang về tội phạm khiêu *** trả thù, luật pháp tiểu bang và liên bang về tội phạm khiêu *** trẻ em, và Luật Cạnh tranh Không lành mạnh của California.
"Cuộc điều tra này đã đưa chúng tôi đến góc tối nhất của internet, và tôi vô cùng kinh hoàng cho những phụ nữ và trẻ em gái đã phải chịu đựng sự bóc lột này", Chiu chia sẻ trên X. "Đây là một vấn đề lớn, nhiều mặt mà chúng ta, với tư cách là một xã hội, cần phải giải quyết càng sớm càng tốt".
Vấn nạn sử dụng AI để tạo ra hình ảnh khỏa thân của người khác mà không có sự đồng ý của họ đã tồn tại từ lâu. Năm 2020, một bot deepfake trên Telegram đã tạo ra hơn 100.000 bức ảnh khỏa thân giả mạo của phụ nữ dựa trên hình ảnh mạng xã hội của họ.
Những tiến bộ gần đây trong AI tạo sinh đã làm trầm trọng thêm vấn đề deepfake, khiến những hình ảnh này trở nên chân thực hơn. Vụ việc hình ảnh khỏa thân giả mạo của Taylor Swift được lan truyền trên mạng vào tháng 1 đã khiến các nhà lập pháp Hoa Kỳ kêu gọi hành động và Google cấm quảng cáo cho các trang web khiêu *** deepfake và "cởi đồ".
Đầu tháng này, một dự luật mới của lưỡng đảng đã được đề xuất, nhằm quy trách nhiệm cho các tổ chức sản xuất "bản sao kỹ thuật số" của người khác mà không có sự đồng ý. Dự luật NO FAKES 2024 sẽ buộc các cá nhân và công ty phải chịu trách nhiệm pháp lý nếu họ tạo, lưu trữ hoặc chia sẻ hình ảnh hoặc âm thanh do AI tạo ra của người khác mà không có sự đồng ý.
Đơn kiện, được công bố với tên các trang web bị che giấu, cho biết các trang web này đã bị truy cập tổng cộng 200 triệu lượt trong 6 tháng đầu năm 2024. Một trong số đó còn ngang nhiên quảng cáo: "Tưởng tượng bạn lãng phí thời gian hẹn hò với cô ấy, trong khi bạn có thể sử dụng [tên trang web bị che giấu] để xem ảnh khỏa thân của cô ấy".
Chưởng lý David Chiu cho biết các mô hình AI của các trang web này được huấn luyện bằng hình ảnh khiêu *** thật và hình ảnh lạm dụng trẻ em để tạo ra ảnh deepfake. Ông nói thêm rằng một khi những hình ảnh này được phát tán, gần như không thể xác định được trang web nào đã tạo ra chúng.
Đơn kiện lập luận rằng các trang web này vi phạm luật pháp tiểu bang và liên bang về tội phạm khiêu *** trả thù, luật pháp tiểu bang và liên bang về tội phạm khiêu *** trẻ em, và Luật Cạnh tranh Không lành mạnh của California.
"Cuộc điều tra này đã đưa chúng tôi đến góc tối nhất của internet, và tôi vô cùng kinh hoàng cho những phụ nữ và trẻ em gái đã phải chịu đựng sự bóc lột này", Chiu chia sẻ trên X. "Đây là một vấn đề lớn, nhiều mặt mà chúng ta, với tư cách là một xã hội, cần phải giải quyết càng sớm càng tốt".
Vấn nạn sử dụng AI để tạo ra hình ảnh khỏa thân của người khác mà không có sự đồng ý của họ đã tồn tại từ lâu. Năm 2020, một bot deepfake trên Telegram đã tạo ra hơn 100.000 bức ảnh khỏa thân giả mạo của phụ nữ dựa trên hình ảnh mạng xã hội của họ.
Những tiến bộ gần đây trong AI tạo sinh đã làm trầm trọng thêm vấn đề deepfake, khiến những hình ảnh này trở nên chân thực hơn. Vụ việc hình ảnh khỏa thân giả mạo của Taylor Swift được lan truyền trên mạng vào tháng 1 đã khiến các nhà lập pháp Hoa Kỳ kêu gọi hành động và Google cấm quảng cáo cho các trang web khiêu *** deepfake và "cởi đồ".
Đầu tháng này, một dự luật mới của lưỡng đảng đã được đề xuất, nhằm quy trách nhiệm cho các tổ chức sản xuất "bản sao kỹ thuật số" của người khác mà không có sự đồng ý. Dự luật NO FAKES 2024 sẽ buộc các cá nhân và công ty phải chịu trách nhiệm pháp lý nếu họ tạo, lưu trữ hoặc chia sẻ hình ảnh hoặc âm thanh do AI tạo ra của người khác mà không có sự đồng ý.
