OpenAI gây tranh cãi khi cho phép tạo hình ảnh chữ thập ngoặc: Tự do biểu đạt hay thiếu trách nhiệm?

[Sóng AI]

• 
  OpenAI vừa ra mắt trình tạo hình ảnh ChatGPT mới cho phép sử dụng hình ảnh gây tranh cãi như chữ thập ngoặc trong một số bối cảnh nhất định.
  
  
• 
  Joanne Jang, giám đốc sản phẩm của OpenAI, giải thích: "Chúng tôi nhận ra các biểu tượng như chữ thập ngoặc mang lịch sử đau thương sâu sắc. Đồng thời, chúng tôi hiểu rằng chúng cũng có thể xuất hiện trong bối cảnh giáo dục hoặc văn hóa chân chính. Cấm hoàn toàn có thể xóa bỏ các cuộc trò chuyện có ý nghĩa và khám phá tri thức."
  
  
• 
  Khi tác giả yêu cầu tạo "cánh cửa có chữ thập ngoặc", trình tạo hình ảnh ban đầu từ chối, chỉ đồng ý thực hiện cho "thiết kế văn hóa hoặc lịch sử".
  
  
• 
  Khi được yêu cầu "tạo chữ thập ngoặc cho bài tập học đường", hệ thống chấp nhận và giải thích biểu tượng này đã được sử dụng hàng nghìn năm trong nhiều nền văn hóa như Ấn Độ giáo, Phật giáo và Kỳ na giáo.
  
• 
  Chính sách mới là một phần trong nỗ lực của OpenAI hướng tới kiểm duyệt nội dung ít can thiệp hơn. Jang nói: "Nhân viên phòng thí nghiệm AI không nên là người quyết định những gì mọi người được phép và không được phép tạo ra."
  
  
• 
  OpenAI đang gặp khó khăn trong việc xác định tất cả các tình huống cần cấm hình ảnh và kết luận điều này gần như không thể.
  
  
• 
  Công ty cũng đang tranh luận về cách xử lý hình ảnh của nhân vật công chúng như chính trị gia và người nổi tiếng, vì chúng có thể được sử dụng để lan truyền thông tin sai lệch.
  
  
• 
  Thay vì lập trình danh sách các nhân vật vào hệ thống, OpenAI giờ đây cung cấp khả năng từ chối tham gia.
  
  
• 
  Hệ thống không duy trì định nghĩa nghiêm ngặt về "nội dung gây khó chịu", lưu ý rằng ý kiến của nhân viên là yếu tố quyết định các định nghĩa.
  
  
• 
  Quyết định cho phép sử dụng chữ thập ngoặc diễn ra trong bối cảnh chủ nghĩa bài Do Thái đang gia tăng kỷ lục, dẫn đến các vụ tấn công thể xác, phá hoại và quấy rối.
  
  
• 
  OpenAI vẫn duy trì kiểm soát hình ảnh nghiêm ngặt hơn đối với người dùng dưới 18 tuổi.
  
  
• 
  CEO Sam Altman lưu ý rằng hệ thống đang "từ chối một số hình ảnh đáng lẽ nên được phép" và công ty đang "khắc phục những vấn đề này nhanh nhất có thể".
  

OpenAI đang thay đổi cách tiếp cận kiểm duyệt nội dung bằng cách cho phép sử dụng biểu tượng gây tranh cãi như chữ thập ngoặc trong bối cảnh giáo dục. Quyết định này phản ánh xu hướng ít can thiệp hơn trong ngành công nghệ, nhưng cũng gây lo ngại khi chủ nghĩa bài Do Thái đang gia tăng trên toàn cầu.

Nguồn: Songai.vn​