Thoại Viết Hoàng
Writer
“ChatGPT-parent OpenAI đã và đang sử dụng GPT-4, mô hình ngôn ngữ lớn có sẵn công khai mới nhất của nó để kiểm duyệt nội dung – và đề xuất các nền tảng truyền thông xã hội như Facebook, Instagram của Meta Platforms Inc. (NASDAQ:META) và X của Elon Musk, trước đây được gọi là Twitter, để khám phá những con đường mới để duy trì tính toàn vẹn trực tuyến.
Điều gì đã xảy ra: Vào thứ Ba, OpenAI đã tiết lộ rằng họ đã sử dụng GPT-4 để giám sát việc kiểm duyệt nội dung và mở rộng đề xuất rằng các nền tảng khác cũng có thể áp dụng phương pháp tiên tiến này bằng cách sử dụng API của công ty khởi nghiệp.
Trong một bài đăng trên blog, công ty đã giải thích rằng theo truyền thống, trách nhiệm này thuộc về người điều hành con người, những người sàng lọc khối lượng nội dung đáng kể để xác định và loại bỏ tài liệu có hại, một quá trình không chỉ tốn thời gian mà còn đánh thuế tâm lý cho những cá nhân này.
Trong một bài đăng trên blog, công ty đã giải thích rằng theo hệ thống truyền thông, nhiệm vụ này thuộc về người điều hành con người, những người sẵn sàng lọc khối lượng nội dung đáng kể để xác định và loại bỏ tài liệu có hại, một số quá trình không chỉ tốn thời gian mà còn đánh thuế tâm lý đối với những cá nhân này.
Công ty cho biết: “Chúng tôi tin rằng điều này mang đến một tầm nhìn tích cực hơn về tương lai của các nền tảng kỹ thuật số, nơi AI có thể giúp điều tiết lưu lượng truy cập trực tuyến theo chính sách dành riêng cho nền tảng và giảm bớt gánh nặng tinh thần cho nhiều người điều hành con người”.
Casey Newton của Platformer đã nêu bật những hiểu biết sâu sắc từ Yoel Roth, cựu giám đốc an toàn và tin cậy của Twitter, liên quan đến việc kiểm duyệt dựa trên LLM, nói rằng ông đã đưa ra những câu hỏi quan trọng khi xem xét tích hợp ChatGPT:
Các kết luận của GPT -4 phù hợp như thế nào với các chính sách cụ thể ngoài các thuật ngữ mơ hồ như “sự căm ghét”?
Các quyết định LLM có nhất quán không, đặc biệt là đối với việc tuân thủ Đạo luật Dịch vụ Kỹ thuật số?
ChatGPT có thể xử lý giọng nói được mã hóa và các ngôn ngữ/nền văn hóa đa dạng không?
“Mặc dù hiệu quả, nhưng việc kiểm duyệt nội dung của GPT-4 phải chịu chi phí cao hơn so với các công cụ thay thế. Tuy nhiên, nó có thể làm giảm sự cần thiết của con người trong việc xem xét thủ công nội dung có thể được coi là gây phiền nhiễu và dẫn đến PTSD hoặc tệ hơn,” Newton nói thêm.
Tại sao nó quan trọng: Đầu năm nay, có thông tin cho rằng các nhà nghiên cứu đã phát hiện ra rằng Instagram đóng vai trò tích cực trong việc tạo điều kiện kết nối giữa những kẻ ấu *** và người bán nội dung.
Minh họa: GPT-4, ngày 22 tháng 7 năm 2023, Suqian, tỉnh Giang Tô, Trung Quốc. OpenAI tiết lộ rằng họ đã sử dụng GPT-4 để giám sát việc kiểm duyệt nội dung và mở rộng đề xuất rằng các nền tảng khác cũng có thể áp dụng phương pháp tiên tiến này.
Nhóm nghiên cứu từ Đại học Stanford cũng tiết lộ rằng Instagram có số lượng tài khoản chuyên bán tài liệu lạm dụng tình dục trẻ em cao gấp ba lần so với Twitter, hiện được đổi tên thành X.
Điều này bất chấp thực tế là công ty do Mark Zuckerberg lãnh đạo đã tích cực làm việc để phát triển các hệ thống AI tiên tiến có khả năng phát hiện và phân loại nội dung có hại như vậy.
Mặt khác, tính năng Ghi chú cộng đồng X của Musk, nhằm thúc đẩy tính minh bạch và chia sẻ bối cảnh hợp tác để chống lại thông tin có khả năng gây hiểu lầm, đã nhận được nhiều phản ứng trái chiều từ mọi người.
Trong khi Zuckerberg hoan nghênh tính năng này, thì Community Notes cũng phải đối mặt với sự chỉ trích nặng nề vì cho phép người dùng thêm ghi chú vào các tweet có thể gây hiểu lầm.
Tham khảo bài viết gốc tại đây:
Trong một bài đăng trên blog, công ty đã giải thích rằng theo truyền thống, trách nhiệm này thuộc về người điều hành con người, những người sàng lọc khối lượng nội dung đáng kể để xác định và loại bỏ tài liệu có hại, một quá trình không chỉ tốn thời gian mà còn đánh thuế tâm lý cho những cá nhân này.
Trong một bài đăng trên blog, công ty đã giải thích rằng theo hệ thống truyền thông, nhiệm vụ này thuộc về người điều hành con người, những người sẵn sàng lọc khối lượng nội dung đáng kể để xác định và loại bỏ tài liệu có hại, một số quá trình không chỉ tốn thời gian mà còn đánh thuế tâm lý đối với những cá nhân này.
Công ty cho biết: “Chúng tôi tin rằng điều này mang đến một tầm nhìn tích cực hơn về tương lai của các nền tảng kỹ thuật số, nơi AI có thể giúp điều tiết lưu lượng truy cập trực tuyến theo chính sách dành riêng cho nền tảng và giảm bớt gánh nặng tinh thần cho nhiều người điều hành con người”.
Casey Newton của Platformer đã nêu bật những hiểu biết sâu sắc từ Yoel Roth, cựu giám đốc an toàn và tin cậy của Twitter, liên quan đến việc kiểm duyệt dựa trên LLM, nói rằng ông đã đưa ra những câu hỏi quan trọng khi xem xét tích hợp ChatGPT:
Các kết luận của GPT -4 phù hợp như thế nào với các chính sách cụ thể ngoài các thuật ngữ mơ hồ như “sự căm ghét”?
Các quyết định LLM có nhất quán không, đặc biệt là đối với việc tuân thủ Đạo luật Dịch vụ Kỹ thuật số?
ChatGPT có thể xử lý giọng nói được mã hóa và các ngôn ngữ/nền văn hóa đa dạng không?
“Mặc dù hiệu quả, nhưng việc kiểm duyệt nội dung của GPT-4 phải chịu chi phí cao hơn so với các công cụ thay thế. Tuy nhiên, nó có thể làm giảm sự cần thiết của con người trong việc xem xét thủ công nội dung có thể được coi là gây phiền nhiễu và dẫn đến PTSD hoặc tệ hơn,” Newton nói thêm.
Tại sao nó quan trọng: Đầu năm nay, có thông tin cho rằng các nhà nghiên cứu đã phát hiện ra rằng Instagram đóng vai trò tích cực trong việc tạo điều kiện kết nối giữa những kẻ ấu *** và người bán nội dung.
Nhóm nghiên cứu từ Đại học Stanford cũng tiết lộ rằng Instagram có số lượng tài khoản chuyên bán tài liệu lạm dụng tình dục trẻ em cao gấp ba lần so với Twitter, hiện được đổi tên thành X.
Điều này bất chấp thực tế là công ty do Mark Zuckerberg lãnh đạo đã tích cực làm việc để phát triển các hệ thống AI tiên tiến có khả năng phát hiện và phân loại nội dung có hại như vậy.
Mặt khác, tính năng Ghi chú cộng đồng X của Musk, nhằm thúc đẩy tính minh bạch và chia sẻ bối cảnh hợp tác để chống lại thông tin có khả năng gây hiểu lầm, đã nhận được nhiều phản ứng trái chiều từ mọi người.
Trong khi Zuckerberg hoan nghênh tính năng này, thì Community Notes cũng phải đối mặt với sự chỉ trích nặng nề vì cho phép người dùng thêm ghi chú vào các tweet có thể gây hiểu lầm.
Tham khảo bài viết gốc tại đây:
