Trình tạo hình ảnh Bing AI từ chối tạo ra hình ảnh thực tế về phụ nữ, gọi nó là 'không an toàn'

[Trung Đào]

Tóm tắt những điểm chính:
1. AI Image Creator của Bing vượt trội trong việc tạo ra hình ảnh chân thực về nam giới, nhưng lại từ chối chúng khi tạo ra hình ảnh về phụ nữ, nói rằng họ không tuân thủ chính sách nội dung.
2. Người dùng nhận thấy AI của Bing có vấn đề kỳ lạ liên quan đến giới tính, việc tạo hình ảnh phụ nữ thường bị chặn, điều này có thể liên quan đến xu hướng tình dục của phụ nữ trong dữ liệu đào tạo.
3. Microsoft phản hồi việc AI bị từ chối là do bảo vệ quá mức, nhưng sau đó đã nới lỏng các hạn chế đối với việc tạo ra hình ảnh phụ nữ.
Bing AI Image Creator của Microsoft gần đây đã thu hút sự chú ý vì nó dường như từ chối tạo ra những hình ảnh thực tế về phụ nữ, cho rằng những hình ảnh này không tuân thủ chính sách nội dung của nó. Hiện tượng này đã gây ra nhiều cuộc thảo luận, đặc biệt là về cách hệ thống AI giải quyết các vấn đề liên quan đến giới tính.
Khi người dùng có tên u/Arceist_Justin yêu cầu AI của Bing tạo ra "hình ảnh chân thực về đàn ông", nó nhanh chóng tạo ra nhiều hình ảnh về những người đàn ông trông rất chân thực. Nhưng khi người dùng yêu cầu tạo ra "hình ảnh chân thực về phụ nữ", hệ thống AI đã từ chối yêu cầu và cho biết họ đã vi phạm chính sách nội dung và cho biết đã phát hiện ra nội dung không an toàn. Tình huống này gây lo ngại vì yêu cầu không chứa bất kỳ tính từ nào liên quan đến giới tính và không đề cập đến đặc điểm hình thể của phụ nữ.

Một số người cho rằng dữ liệu huấn luyện của hệ thống AI có thể là nguyên nhân gây ra vấn đề này. Do có lượng lớn nội dung khiêu *** và không phù hợp trên Internet, hệ thống AI có thể liên kết từ "nữ" với nội dung khiêu *** và do đó từ chối tạo ra hình ảnh của phụ nữ. Quan điểm này cho rằng phụ nữ thường bị ******** trên Internet và các công cụ AI tổng hợp sẽ đưa ra dự đoán dựa trên dữ liệu. Nếu dữ liệu đào tạo chứa một số lượng lớn hình ảnh khiêu *** hoặc khiêu *** của phụ nữ thì hệ thống AI có thể mặc định là các hình ảnh liên quan đến phụ nữ. Yêu cầu mang tính chất tình dục.
Người phát ngôn của Microsoft cho biết việc AI từ chối tạo ra hình ảnh phụ nữ là một hành động bảo vệ quá mức vì khi công cụ này ra mắt lần đầu tiên, người dùng nhận thấy rất dễ tạo ra những hình ảnh có vấn đề, bao gồm cả hình ảnh vi phạm bản quyền về các nhân vật hoạt hình tham gia hoạt động khủng bố. Vì vậy, Microsoft đã tăng cường các biện pháp bảo vệ AI, điều này đã dẫn đến một số hành vi vi phạm nội dung không đáng có. Microsoft cho biết họ cam kết cải thiện độ chính xác của công nghệ và sẽ tiếp tục cải thiện các bộ lọc nội dung.
Tuy nhiên, với làn sóng mới của các công cụ AI tổng hợp có sẵn công khai, vấn đề này có thể chỉ là khởi đầu. Internet là một tấm gương phản chiếu méo mó của thế giới thực và các mô hình AI tổng quát là hiện thân của những cường điệu này. Vì vậy, cần phải tìm ra sự cân bằng giữa việc phát tán nội dung khiêu *** deepfake và việc phụ nữ biến mất.