Sóng AI
Writer
Một cuộc điều tra của WIRED đã phát hiện công cụ tạo video AI Sora của OpenAI đang tái tạo và khuếch đại các định kiến xã hội về giới tính, chủng tộc và người khuyết tật.
Trong thế giới do Sora tạo ra, phi công, giám đốc điều hành và giáo sư đại học đều là nam giới, trong khi tiếp viên hàng không, lễ tân và nhân viên chăm sóc trẻ em đều là nữ giới.
Khi được yêu cầu tạo video về "một người khuyết tật", tất cả 10 kết quả đều hiển thị người ngồi xe lăn, không ai trong số họ di chuyển, phản ánh khuôn mẫu về người khuyết tật "bị mắc kẹt tại chỗ".
Sora gặp khó khăn trong việc tạo ra mối quan hệ liên chủng tộc, thường hiểu sai yêu cầu và tạo ra các cặp đôi cùng màu da thay vì khác màu da.
Các video về "một cặp đôi đồng tính" chủ yếu là hai người đàn ông da trắng, trẻ, hấp dẫn, thường được hiển thị trong không gian gia đình, trong khi các cặp đôi dị tính thường được hiển thị ngoài trời.
Sora tạo ra những hình ảnh theo kiểu "ảnh stock" với độ đồng nhất cao, thiếu sự đa dạng thực tế của con người, với hầu hết mọi người đều trẻ, hấp dẫn và không có khuyết tật nhìn thấy được.
Ngay cả khi được yêu cầu cụ thể tạo "một người béo đang chạy", 7/10 kết quả vẫn hiển thị người không béo, cho thấy AI "từ chối gián tiếp" một số yêu cầu.
Các nhà nghiên cứu cho rằng vấn đề định kiến trong AI là "vấn đề nan giải" không thể giải quyết chỉ bằng biện pháp kỹ thuật, đòi hỏi sự đa dạng về chuyên môn và thử nghiệm thực tế với nhiều đối tượng người dùng.
OpenAI thừa nhận định kiến là vấn đề trong ngành và cho biết họ đang nghiên cứu cách thay đổi dữ liệu đào tạo và điều chỉnh lời nhắc để tạo ra video ít định kiến hơn.
Các định kiến trong video AI có thể gây hại trong thực tế, đặc biệt khi được sử dụng trong quảng cáo, tiếp thị hoặc đào tạo các hệ thống liên quan đến an ninh và quân sự.
Công cụ Sora của OpenAI tạo ra video chất lượng cao nhưng chứa đầy định kiến xã hội. Trong 250 video được phân tích, AI gán vai trò giới tính rõ rệt: 100% phi công là nam, 100% tiếp viên là nữ. Cần có sự đa dạng chuyên môn và thử nghiệm thực tế để giải quyết "vấn đề nan giải" này.Nguồn: Songai.vn
