Linh Pham
Intern Writer
Một mạng lưới quốc tế gồm các spammer đang đăng tải hình ảnh nạn nhân Holocaust do AI tạo ra trên Facebook, theo kết quả điều tra của BBC về “AI slop” (nội dung rác AI).
Các tổ chức bảo tồn ký ức về Holocaust cho biết những hình ảnh này khiến các nhân chứng sống sót và gia đình họ đau lòng. Họ cũng chỉ trích công ty mẹ của Facebook – Meta – vì đã cho phép người dùng biến thảm kịch này thành một “trò chơi cảm xúc”.
Chỉ có rất ít bức ảnh thật từ bên trong trại tập trung Auschwitz trong Thế chiến II. Nhưng trong những tháng gần đây, các spammer AI đã đăng tải hình ảnh giả, chẳng hạn như tù nhân chơi đàn violin hoặc đôi tình nhân gặp nhau qua hàng rào thép gai – và thu hút hàng chục nghìn lượt thích, chia sẻ.
“Ở đây, có những người bịa ra câu chuyện… như một trò chơi cảm xúc kỳ lạ nào đó trên mạng xã hội,” ông Pawel Sawicki, phát ngôn viên của Bảo tàng Auschwitz (Ba Lan), cho biết.
“Đây không phải là trò chơi. Đây là thế giới thực, là sự đau khổ và những con người thực mà chúng tôi muốn và cần tưởng niệm.”
u
BBC đã lần ra nhiều bức ảnh này đến các tài khoản của một mạng lưới những người tạo nội dung ở Pakistan, những người hợp tác chặt chẽ với nhau để kiếm tiền từ Facebook. Họ lợi dụng chương trình Content Monetisation (CM) của Meta – một hệ thống “chỉ dành cho người được mời” trả tiền cho những nội dung có lượng xem cao.
Một tài khoản tên Abdul Mughees, được ghi là sống ở Pakistan, từng đăng ảnh chụp màn hình khoe rằng đã kiếm được 20.000 USD nhờ các chương trình kiếm tiền từ mạng xã hội, trong đó có của Meta. Một bài đăng khác cho thấy tài khoản này thu về hơn 1,2 tỷ lượt xem chỉ trong vòng 4 tháng.
(BBC không thể xác minh độc lập thu nhập này.)
Trong số nhiều bài đăng của Abdul Mughees có những bức ảnh Holocaust giả do AI tạo cùng với các câu chuyện bịa đặt, như “đứa trẻ trốn dưới sàn gỗ” hoặc “em bé bị bỏ lại trên đường ray trước cổng trại tập trung”.
Phân tích của BBC về hoạt động trực tuyến của tài khoản này và hàng chục tài khoản khác cho thấy họ gần như chỉ đăng “AI slop” – tức là nội dung văn bản và hình ảnh AI chất lượng thấp, được sản xuất hàng loạt và spam lên mạng xã hội.
Chủ đề Auschwitz ngày càng trở thành “mồi câu view” trên các trang và nhóm lịch sử. Một số trang với tên như “Timeless Tales” hay “History Haven” đăng tới hơn 50 bài mỗi ngày.
Tháng 6, Bảo tàng Auschwitz cảnh báo rằng các tài khoản này đang ăn cắp bài đăng của bảo tàng, đưa qua mô hình AI và thường xuyên bóp méo chi tiết lịch sử hoặc thậm chí bịa ra nạn nhân. Trong một bài đăng trên Facebook, bảo tàng gọi những hình ảnh này là “sự xuyên tạc nguy hiểm” và là hành động “xúc phạm ký ức nạn nhân”.
Ông Sawicki nói rằng “làn sóng” ảnh giả đang làm suy yếu sứ mệnh nâng cao nhận thức về Holocaust của bảo tàng: “Chúng tôi đã bắt đầu nhận được bình luận trên các bài đăng Facebook rằng ‘ồ, đây là ảnh do AI tạo ra’.”
Những người sống sót và gia đình họ cũng bị ảnh hưởng nặng nề bởi làn sóng AI slop về Holocaust, theo một tổ chức quốc tế về giáo dục Holocaust.
Ông Robert Williams, từ Liên minh Quốc tế về Tưởng niệm Holocaust (IHRA), cho biết:
Meta khẳng định không khuyến khích người dùng đăng tin sai sự thật (bao gồm Holocaust), nhưng hệ thống của họ thưởng cho những bài đăng có tương tác cao. BBC cũng phát hiện các tài khoản AI slop tương tự ở Ấn Độ, Việt Nam, Thái Lan và Nigeria.
Một người Pakistan tên Fazal Rahman, tham gia nhiều chương trình kiếm tiền, nói với BBC rằng đây là nguồn thu nhập duy nhất của anh. Dù không trực tiếp tạo ảnh Holocaust và thậm chí ban đầu không biết từ này nghĩa là gì, anh vẫn hoạt động trong cùng các nhóm Facebook với những người có làm.
Rahman cho biết một trang Facebook có 300.000 người theo dõi có thể kiếm được khoảng 1.000 USD/tháng nếu có “nội dung cao cấp” nhắm đến khán giả ở Anh, Mỹ và châu Âu – vì mỗi lượt xem ở phương Tây có giá trị gấp 8 lần so với từ châu Á. Anh cũng tiết lộ rằng chủ đề lịch sử là một “mỏ vàng” để kéo tương tác.
BBC còn thấy có các video hướng dẫn từng bước cách dùng AI để liên tục tạo ảnh và văn bản lịch sử giả. Trong một video, người làm nội dung yêu cầu chatbot AI liệt kê các sự kiện lịch sử nổi bật để khai thác, và Holocaust được đưa ra như một gợi ý.
Ngoài ra, các “thủ thuật” còn bao gồm việc giả mạo tổ chức khác để xây dựng lượng người theo dõi và trở thành đủ điều kiện tham gia chương trình CM của Meta. Công cụ “minh bạch trang” của Facebook cho thấy nhiều trang AI slop Holocaust từng giả danh các tổ chức như cơ quan cứu hỏa Mỹ, doanh nghiệp thương mại hoặc thậm chí influencer. Các trang này còn được mua bán hoặc cho thuê công khai.
BBC đã hỏi Meta về nhiều hồ sơ và nhóm đăng Holocaust AI slop kèm hành vi lừa đảo. Kết quả là một số đã bị gỡ bỏ, trong đó có những trang được Bảo tàng Auschwitz cảnh báo từ tháng 6.
Người phát ngôn Meta nói: “Chúng tôi đã xóa các Trang và Nhóm được chia sẻ với chúng tôi, đồng thời vô hiệu hóa các tài khoản đứng sau vì vi phạm chính sách về spam và hành vi giả mạo.”
Dù vậy, họ cũng khẳng định những bức ảnh Holocaust AI không vi phạm chính sách nội dung, chỉ vi phạm ở khía cạnh mạo danh hoặc giao dịch trang.
Trước đây, AI từng được sử dụng để tưởng niệm Holocaust và tái hiện lại câu chuyện của nạn nhân thật. Nhưng ông Williams (IHRA) cảnh báo điều này cũng có thể tạo ra cảm giác Holocaust chỉ là giả tưởng.
Nguồn: BBC
Các tổ chức bảo tồn ký ức về Holocaust cho biết những hình ảnh này khiến các nhân chứng sống sót và gia đình họ đau lòng. Họ cũng chỉ trích công ty mẹ của Facebook – Meta – vì đã cho phép người dùng biến thảm kịch này thành một “trò chơi cảm xúc”.
Chỉ có rất ít bức ảnh thật từ bên trong trại tập trung Auschwitz trong Thế chiến II. Nhưng trong những tháng gần đây, các spammer AI đã đăng tải hình ảnh giả, chẳng hạn như tù nhân chơi đàn violin hoặc đôi tình nhân gặp nhau qua hàng rào thép gai – và thu hút hàng chục nghìn lượt thích, chia sẻ.
“Ở đây, có những người bịa ra câu chuyện… như một trò chơi cảm xúc kỳ lạ nào đó trên mạng xã hội,” ông Pawel Sawicki, phát ngôn viên của Bảo tàng Auschwitz (Ba Lan), cho biết.
“Đây không phải là trò chơi. Đây là thế giới thực, là sự đau khổ và những con người thực mà chúng tôi muốn và cần tưởng niệm.”
BBC đã lần ra nhiều bức ảnh này đến các tài khoản của một mạng lưới những người tạo nội dung ở Pakistan, những người hợp tác chặt chẽ với nhau để kiếm tiền từ Facebook. Họ lợi dụng chương trình Content Monetisation (CM) của Meta – một hệ thống “chỉ dành cho người được mời” trả tiền cho những nội dung có lượng xem cao.
Một tài khoản tên Abdul Mughees, được ghi là sống ở Pakistan, từng đăng ảnh chụp màn hình khoe rằng đã kiếm được 20.000 USD nhờ các chương trình kiếm tiền từ mạng xã hội, trong đó có của Meta. Một bài đăng khác cho thấy tài khoản này thu về hơn 1,2 tỷ lượt xem chỉ trong vòng 4 tháng.
(BBC không thể xác minh độc lập thu nhập này.)
Trong số nhiều bài đăng của Abdul Mughees có những bức ảnh Holocaust giả do AI tạo cùng với các câu chuyện bịa đặt, như “đứa trẻ trốn dưới sàn gỗ” hoặc “em bé bị bỏ lại trên đường ray trước cổng trại tập trung”.
Phân tích của BBC về hoạt động trực tuyến của tài khoản này và hàng chục tài khoản khác cho thấy họ gần như chỉ đăng “AI slop” – tức là nội dung văn bản và hình ảnh AI chất lượng thấp, được sản xuất hàng loạt và spam lên mạng xã hội.
Chủ đề Auschwitz ngày càng trở thành “mồi câu view” trên các trang và nhóm lịch sử. Một số trang với tên như “Timeless Tales” hay “History Haven” đăng tới hơn 50 bài mỗi ngày.
Tháng 6, Bảo tàng Auschwitz cảnh báo rằng các tài khoản này đang ăn cắp bài đăng của bảo tàng, đưa qua mô hình AI và thường xuyên bóp méo chi tiết lịch sử hoặc thậm chí bịa ra nạn nhân. Trong một bài đăng trên Facebook, bảo tàng gọi những hình ảnh này là “sự xuyên tạc nguy hiểm” và là hành động “xúc phạm ký ức nạn nhân”.
Ông Sawicki nói rằng “làn sóng” ảnh giả đang làm suy yếu sứ mệnh nâng cao nhận thức về Holocaust của bảo tàng: “Chúng tôi đã bắt đầu nhận được bình luận trên các bài đăng Facebook rằng ‘ồ, đây là ảnh do AI tạo ra’.”
Những người sống sót và gia đình họ cũng bị ảnh hưởng nặng nề bởi làn sóng AI slop về Holocaust, theo một tổ chức quốc tế về giáo dục Holocaust.
Ông Robert Williams, từ Liên minh Quốc tế về Tưởng niệm Holocaust (IHRA), cho biết:
Meta khẳng định không khuyến khích người dùng đăng tin sai sự thật (bao gồm Holocaust), nhưng hệ thống của họ thưởng cho những bài đăng có tương tác cao. BBC cũng phát hiện các tài khoản AI slop tương tự ở Ấn Độ, Việt Nam, Thái Lan và Nigeria.
Một người Pakistan tên Fazal Rahman, tham gia nhiều chương trình kiếm tiền, nói với BBC rằng đây là nguồn thu nhập duy nhất của anh. Dù không trực tiếp tạo ảnh Holocaust và thậm chí ban đầu không biết từ này nghĩa là gì, anh vẫn hoạt động trong cùng các nhóm Facebook với những người có làm.
Rahman cho biết một trang Facebook có 300.000 người theo dõi có thể kiếm được khoảng 1.000 USD/tháng nếu có “nội dung cao cấp” nhắm đến khán giả ở Anh, Mỹ và châu Âu – vì mỗi lượt xem ở phương Tây có giá trị gấp 8 lần so với từ châu Á. Anh cũng tiết lộ rằng chủ đề lịch sử là một “mỏ vàng” để kéo tương tác.
BBC còn thấy có các video hướng dẫn từng bước cách dùng AI để liên tục tạo ảnh và văn bản lịch sử giả. Trong một video, người làm nội dung yêu cầu chatbot AI liệt kê các sự kiện lịch sử nổi bật để khai thác, và Holocaust được đưa ra như một gợi ý.
Ngoài ra, các “thủ thuật” còn bao gồm việc giả mạo tổ chức khác để xây dựng lượng người theo dõi và trở thành đủ điều kiện tham gia chương trình CM của Meta. Công cụ “minh bạch trang” của Facebook cho thấy nhiều trang AI slop Holocaust từng giả danh các tổ chức như cơ quan cứu hỏa Mỹ, doanh nghiệp thương mại hoặc thậm chí influencer. Các trang này còn được mua bán hoặc cho thuê công khai.
BBC đã hỏi Meta về nhiều hồ sơ và nhóm đăng Holocaust AI slop kèm hành vi lừa đảo. Kết quả là một số đã bị gỡ bỏ, trong đó có những trang được Bảo tàng Auschwitz cảnh báo từ tháng 6.
Người phát ngôn Meta nói: “Chúng tôi đã xóa các Trang và Nhóm được chia sẻ với chúng tôi, đồng thời vô hiệu hóa các tài khoản đứng sau vì vi phạm chính sách về spam và hành vi giả mạo.”
Dù vậy, họ cũng khẳng định những bức ảnh Holocaust AI không vi phạm chính sách nội dung, chỉ vi phạm ở khía cạnh mạo danh hoặc giao dịch trang.
Trước đây, AI từng được sử dụng để tưởng niệm Holocaust và tái hiện lại câu chuyện của nạn nhân thật. Nhưng ông Williams (IHRA) cảnh báo điều này cũng có thể tạo ra cảm giác Holocaust chỉ là giả tưởng.
Nguồn: BBC
