ngocmai25tran
Pearl
Bằng công cụ chấm điểm dựa trên tương tác, Facebook đẩy những bài đăng kích động cảm xúc, tin giả vào News Feed của người dùng.
Năm 2016, Facebook bổ sung 5 biểu tượng cảm xúc cho bài viết gồm “yêu thích” (love), “haha”, “wow”, “buồn” (sad) và “phẫn nộ” (angry) bên cạnh nút “thích” (like). Kể từ đó, công ty đã tạo ra thuật toán xếp hạng bài viết trên News Feed dựa trên sự thu hút tương tác bằng cảm xúc, kể cả chúng có nội dung khiến người dùng tức giận.
Từ năm 2017, thuật toán xếp hạng bài viết của Facebook quy đổi các biểu tượng có giá trị bằng 5 nút “like”. Lý do đến từ những bài đăng nhiều tương tác như “haha”, “phẫn nộ”... có xu hướng thu hút người dùng hơn. Bài đăng có nhiều điểm sẽ xuất hiện trên News Feed của người dùng ở vị trí cao hơn.
Các nhà nghiên cứu của Facebook nhanh chóng nhận ra sơ hở lớn trong hệ thống. Một nhân viên Facebook cho rằng việc ưu tiên bài đăng “gây tranh cãi”, kể cả khi nội dung khiến người dùng phẫn nộ, có thể tạo kẽ hở cho các bài spam, nội dung lạm dụng hoặc tiêu đề giật gân (clickbait), theo tài liệu nội bộ của Facebook.
“Giận dữ và căm ghét là cách dễ dàng nhất để phát triển trên Facebook”, Haugen phát biểu trước Quốc hội Anh ngày 25/10.
Facebook bị cáo buộc đóng vai trò lan truyền thông tin sai lệch trước cuộc bạo loạn tại Điện Capitol đầu tháng 1. Ảnh: Bloomberg.
Tài liệu cho thấy trong một số trường hợp, nhân viên thuộc đội ngũ liêm chính (bảo đảm thông tin sạch) của Facebook đã nhấn mạnh yếu tố con người trong hệ thống xếp hạng nội dung dựa trên lượt tương tác, song các cảnh báo đôi khi bị dàn lãnh đạo gạt bỏ.
"Tức giận là cảm xúc cốt lõi của con người", một nhân viên viết. Sức nặng của "phẫn nộ" chỉ là một trong nhiều yếu tố định hình thông tin trên Facebook. Nó được chứng minh ảnh hưởng đến mọi thứ, từ cảm xúc người dùng đến các nội dung chính trị, vi phạm chính sách nền tảng.
Điểm xếp hạng bài đăng được tính dựa trên nhiều yếu tố, một số chiếm tỷ trọng cao, thấp và trừ điểm. Dựa trên con số đó, thuật toán sẽ sắp xếp thứ tự bài đăng trên News Feed mỗi khi người dùng truy cập. Hệ thống tính điểm này được dùng để phân loại, sắp xếp các hoạt động tương tác tại hầu hết quốc gia, bằng hơn 100 ngôn ngữ.
Một người dùng bình thường có thể không bao giờ nhìn thấy số điểm này. Facebook cũng chưa từng công khai tiêu chí chấm điểm, chưa kể hơn 10.000 "tín hiệu" mà phần mềm có thể phân tích nhằm dự đoán khả năng thu hút tương tác của bài đăng. Những tín hiệu gồm lượng bình luận dài mà một bài đăng có thể tạo ra, video được phát trực tiếp hay quay trước, bình luận bằng văn bản hay avatar. Hệ thống thậm chí ghi nhận tài nguyên tính toán mỗi bình luận yêu cầu, bên cạnh tốc độ Internet của người dùng.
Ngoài cảm xúc "phẫn nộ", tài liệu cho thấy nhân viên Facebook phải xử lý những câu hỏi về giá trị công ty. Khi phát hiện thuật toán khiến mọi thứ trở nên tiêu cực, các kỹ sư Facebook đã đề xuất một số giải pháp điều chỉnh, nhưng đôi khi chúng bị bác bỏ.
Nếu thuật toán cho rằng bài đăng không tốt, Facebook có thể trừ một nửa số điểm, đẩy bài viết xuống vị trí thấp hơn. Tuy nhiên, một số bài viết có thể đạt hàng tỷ điểm. Dù bị trừ 50%, lượng điểm còn lại vẫn đủ để xuất hiện đầu News Feed.
Facebook xem các biểu tượng "phẫn nộ", "buồn"... có giá trị gấp nhiều lần nút "thích" truyền thống. Ảnh: New Frame.
Năm 2017, Facebook đã tìm cách khắc phục sự sụt giảm tương tác và thảo luận, biểu tượng cảm xúc được xem là yếu tố quan trọng. Mỗi cảm xúc có giá trị tương đương 5 nút "like" vào thời điểm ấy, với quan điểm rằng bài đăng đó tác động đến cảm xúc mạnh hơn.
Bằng cách huấn luyện thuật toán, các kỹ sư Facebook cần đảm bảo chúng được mọi người nhìn thấy và sử dụng. Bình luận dưới bài đăng, thể hiện việc người dùng sẵn sàng bỏ thời gian cho chúng, tương đương 30 lượt thích. Bài viết của WSJ vào tháng 9 cho thấy sự chú trọng vào bình luận đã khuyến khích những bài đăng chính trị gây chia rẽ.
Năm 2018, lần đầu tiên Facebook giảm trọng số của biểu tượng "phẫn nộ" còn 4 lượt thích. Rõ ràng những cảm xúc khác nhau có tần suất sử dụng chênh lệch. Tài liệu năm 2020 cho thấy biểu tượng "phẫn nộ" được dùng 429 triệu lần mỗi tuần, so với 63 tỷ lượt "thích" và 11 tỷ phản ứng "yêu thích". Các nhà khoa học dữ liệu của Facebook nhận thấy các lượt "phẫn nộ" xuất hiện nhiều hơn trong bài đăng chất lượng kém, tin giả và nội dung gây tranh cãi về sức khỏe. Nhiều nhân vật chính trị cũng "vũ khí hóa" cảm xúc này.
Tháng 4/2019, Facebook đã đưa ra cơ chế trừ điểm bài viết có nội dung "phẫn nộ" không cân xứng, dù tài liệu không nói rõ cách hoạt động. Đến tháng 7, các kỹ sư Facebook đề xuất cắt giá trị một số cảm xúc xuống tương đương một lượt thích, thậm chí là 0. Cùng với "phẫn nộ", cảm xúc "wow" và "haha" xuất hiện thường xuyên hơn trong những nội dung độc hại hoặc tin giả. Một đề xuất khác vào cuối năm 2019 muốn tăng "yêu thích" và "buồn" (còn gọi là "xin lỗi" trong nội bộ) tương đương 4 lượt thích vì chúng an toàn hơn.
Tuy nhiên vào phút cuối, đề xuất trên bị loại bỏ. Một nhân viên thậm chí đề nghị loại bỏ hoàn toàn những cảm xúc ngoài "thích", nhưng kết quả vẫn không có gì thay đổi. Phải đến cuối năm 2020, khi một nghiên cứu cho thấy người dùng không hài lòng khi bài đăng của họ nhận phản ứng "phẫn nộ", Facebook mới giảm trọng số tất cả cảm xúc xuống 1,5 lượt thích.
Nghiên cứu cho thấy khi lượng "like" bị ẩn, người dùng ít tương tác với bài đăng và quảng cáo, nhưng không làm giảm trạng thái lo lắng. Sau nhiều cuộc thảo luận, một thử nghiệm lớn hơn được đưa ra nhằm "xây dựng các câu chuyện báo chí tích cực" xoay quanh Instagram.
Nút "phẫn nộ" khiến nhiều bài đăng kích động cảm xúc xuất hiện ở vị trí cao trên News Feed. Ảnh: Reuters.
Ngoài "like", Facebook còn xem xét nút chia sẻ, bên cạnh tính năng tạo nhóm và những công cụ khác. Tài liệu dài hàng nghìn trang nhấn mạnh sự khó khăn của Facebook trong việc kiểm soát những công cụ. Các nhà nghiên cứu xác định một số tính năng chính của nền tảng đã góp phần lan truyền nội dung độc hại.
Trong những năm gần đây, Facebook đã thay đổi một số tính năng giúp người dùng ẩn bài đăng không muốn xem, tuy nhiên, cách thức vận hành cốt lõi của Facebook vẫn không thay đổi. Một số cập nhật còn bị loại bỏ để nhường cho sự phát triển và giữ chân người dùng.
"Giống những sự tối ưu khác, sẽ có một số cách khai thác hay lợi dụng chúng. Đó là lý do chúng tôi thành lập đội ngũ liêm chính, cố gắng theo dõi những vấn đề và giảm thiểu chúng một cách hiệu quả nhất có thể", Lars Backstrom, Phó chủ tịch Kỹ thuật của Facebook, cho biết.
Dàn lãnh đạo Facebook đã gạt bỏ một số đề xuất giảm nội dung tiêu cực chỉ để giữ chân người dùng và đảm bảo tương tác. Ảnh: New York Times.
Tuy nhiên, mọi thứ chỉ được điều chỉnh khi đã gây tác hại. Facebook muốn khuyến khích người dùng livestream, khiến trọng số của chúng tăng 600 lần. Điều đó khiến các video chất lượng kém lan truyền nhanh hơn, một tài liệu nội bộ cho biết. Các video đã đóng vai trò lớn trong những sự kiện chính trị, đặc biệt sau cái chết của George Floyd năm ngoái và bạo loạn tại Điện Capitol hồi tháng 1.
Ngay sau cuộc bạo loạn, Facebook lập tức giảm trọng số video trực tiếp xuống 60 lượt thích. Sau khi giảm trọng số tính điểm "phẫn nộ" xuống 0, các nhà khoa học dữ liệu phát hiện người dùng nhận ít thông tin sai lệch, nội dung phiền nhiễu và ghê rợn hơn. Tuy nhiên, đó chỉ là một trong rất nhiều vấn đề cần giải quyết để nền tảng này không còn nội dung bẩn.
Nguồn: Zingnews
Năm 2016, Facebook bổ sung 5 biểu tượng cảm xúc cho bài viết gồm “yêu thích” (love), “haha”, “wow”, “buồn” (sad) và “phẫn nộ” (angry) bên cạnh nút “thích” (like). Kể từ đó, công ty đã tạo ra thuật toán xếp hạng bài viết trên News Feed dựa trên sự thu hút tương tác bằng cảm xúc, kể cả chúng có nội dung khiến người dùng tức giận.
Từ năm 2017, thuật toán xếp hạng bài viết của Facebook quy đổi các biểu tượng có giá trị bằng 5 nút “like”. Lý do đến từ những bài đăng nhiều tương tác như “haha”, “phẫn nộ”... có xu hướng thu hút người dùng hơn. Bài đăng có nhiều điểm sẽ xuất hiện trên News Feed của người dùng ở vị trí cao hơn.
Các nhà nghiên cứu của Facebook nhanh chóng nhận ra sơ hở lớn trong hệ thống. Một nhân viên Facebook cho rằng việc ưu tiên bài đăng “gây tranh cãi”, kể cả khi nội dung khiến người dùng phẫn nộ, có thể tạo kẽ hở cho các bài spam, nội dung lạm dụng hoặc tiêu đề giật gân (clickbait), theo tài liệu nội bộ của Facebook.
Hệ thống chấm điểm bài đăng của Facebook
Năm 2019, các nhà khoa học dữ liệu của Facebook xác nhận bài viết thu hút nhiều lượt “phẫn nộ” có khả năng chứa thông tin sai lệch, độc hại và nội dung chất lượng kém. Cuộc tranh luận về biểu tượng “phẫn nộ” là một phần trong hồ sơ do Frances Haugen, cựu quản lý sản phẩm Facebook, nộp lên Ủy ban Chứng khoán và Giao dịch Mỹ (SEC) nhằm tố cáo công ty trước việc xử lý nội dung bẩn.“Giận dữ và căm ghét là cách dễ dàng nhất để phát triển trên Facebook”, Haugen phát biểu trước Quốc hội Anh ngày 25/10.
Tài liệu cho thấy trong một số trường hợp, nhân viên thuộc đội ngũ liêm chính (bảo đảm thông tin sạch) của Facebook đã nhấn mạnh yếu tố con người trong hệ thống xếp hạng nội dung dựa trên lượt tương tác, song các cảnh báo đôi khi bị dàn lãnh đạo gạt bỏ.
"Tức giận là cảm xúc cốt lõi của con người", một nhân viên viết. Sức nặng của "phẫn nộ" chỉ là một trong nhiều yếu tố định hình thông tin trên Facebook. Nó được chứng minh ảnh hưởng đến mọi thứ, từ cảm xúc người dùng đến các nội dung chính trị, vi phạm chính sách nền tảng.
Điểm xếp hạng bài đăng được tính dựa trên nhiều yếu tố, một số chiếm tỷ trọng cao, thấp và trừ điểm. Dựa trên con số đó, thuật toán sẽ sắp xếp thứ tự bài đăng trên News Feed mỗi khi người dùng truy cập. Hệ thống tính điểm này được dùng để phân loại, sắp xếp các hoạt động tương tác tại hầu hết quốc gia, bằng hơn 100 ngôn ngữ.
Một người dùng bình thường có thể không bao giờ nhìn thấy số điểm này. Facebook cũng chưa từng công khai tiêu chí chấm điểm, chưa kể hơn 10.000 "tín hiệu" mà phần mềm có thể phân tích nhằm dự đoán khả năng thu hút tương tác của bài đăng. Những tín hiệu gồm lượng bình luận dài mà một bài đăng có thể tạo ra, video được phát trực tiếp hay quay trước, bình luận bằng văn bản hay avatar. Hệ thống thậm chí ghi nhận tài nguyên tính toán mỗi bình luận yêu cầu, bên cạnh tốc độ Internet của người dùng.
Ngoài cảm xúc "phẫn nộ", tài liệu cho thấy nhân viên Facebook phải xử lý những câu hỏi về giá trị công ty. Khi phát hiện thuật toán khiến mọi thứ trở nên tiêu cực, các kỹ sư Facebook đã đề xuất một số giải pháp điều chỉnh, nhưng đôi khi chúng bị bác bỏ.
Một "phẫn nộ" quan trọng gấp 5 lần nút "thích"
Kết hợp cùng những phần mềm trước đây, hệ thống tính điểm xếp hạng bài đăng đã gây vấn đề trong bảo vệ người dùng. Tài liệu cho thấy một bài viết trung bình được hàng trăm điểm. Nhưng năm 2019, một nhà khoa học dữ liệu của Facebook phát hiện số điểm là không giới hạn.Nếu thuật toán cho rằng bài đăng không tốt, Facebook có thể trừ một nửa số điểm, đẩy bài viết xuống vị trí thấp hơn. Tuy nhiên, một số bài viết có thể đạt hàng tỷ điểm. Dù bị trừ 50%, lượng điểm còn lại vẫn đủ để xuất hiện đầu News Feed.
Năm 2017, Facebook đã tìm cách khắc phục sự sụt giảm tương tác và thảo luận, biểu tượng cảm xúc được xem là yếu tố quan trọng. Mỗi cảm xúc có giá trị tương đương 5 nút "like" vào thời điểm ấy, với quan điểm rằng bài đăng đó tác động đến cảm xúc mạnh hơn.
Bằng cách huấn luyện thuật toán, các kỹ sư Facebook cần đảm bảo chúng được mọi người nhìn thấy và sử dụng. Bình luận dưới bài đăng, thể hiện việc người dùng sẵn sàng bỏ thời gian cho chúng, tương đương 30 lượt thích. Bài viết của WSJ vào tháng 9 cho thấy sự chú trọng vào bình luận đã khuyến khích những bài đăng chính trị gây chia rẽ.
Năm 2018, lần đầu tiên Facebook giảm trọng số của biểu tượng "phẫn nộ" còn 4 lượt thích. Rõ ràng những cảm xúc khác nhau có tần suất sử dụng chênh lệch. Tài liệu năm 2020 cho thấy biểu tượng "phẫn nộ" được dùng 429 triệu lần mỗi tuần, so với 63 tỷ lượt "thích" và 11 tỷ phản ứng "yêu thích". Các nhà khoa học dữ liệu của Facebook nhận thấy các lượt "phẫn nộ" xuất hiện nhiều hơn trong bài đăng chất lượng kém, tin giả và nội dung gây tranh cãi về sức khỏe. Nhiều nhân vật chính trị cũng "vũ khí hóa" cảm xúc này.
Tháng 4/2019, Facebook đã đưa ra cơ chế trừ điểm bài viết có nội dung "phẫn nộ" không cân xứng, dù tài liệu không nói rõ cách hoạt động. Đến tháng 7, các kỹ sư Facebook đề xuất cắt giá trị một số cảm xúc xuống tương đương một lượt thích, thậm chí là 0. Cùng với "phẫn nộ", cảm xúc "wow" và "haha" xuất hiện thường xuyên hơn trong những nội dung độc hại hoặc tin giả. Một đề xuất khác vào cuối năm 2019 muốn tăng "yêu thích" và "buồn" (còn gọi là "xin lỗi" trong nội bộ) tương đương 4 lượt thích vì chúng an toàn hơn.
Tuy nhiên vào phút cuối, đề xuất trên bị loại bỏ. Một nhân viên thậm chí đề nghị loại bỏ hoàn toàn những cảm xúc ngoài "thích", nhưng kết quả vẫn không có gì thay đổi. Phải đến cuối năm 2020, khi một nghiên cứu cho thấy người dùng không hài lòng khi bài đăng của họ nhận phản ứng "phẫn nộ", Facebook mới giảm trọng số tất cả cảm xúc xuống 1,5 lượt thích.
Thử nghiệm thất bại của Facebook
Năm 2019, Facebook từng thử nghiệm cảm xúc của mọi người sẽ ra sao nếu bỏ lượng "like" và các cảm xúc khỏi bài đăng trên Instagram. Các nhà nghiên cứu cho rằng chúng đôi khi khiến người dùng trẻ "căng thẳng và lo lắng", đặc biệt khi không nhận đủ lượt thích từ bên bè.Nghiên cứu cho thấy khi lượng "like" bị ẩn, người dùng ít tương tác với bài đăng và quảng cáo, nhưng không làm giảm trạng thái lo lắng. Sau nhiều cuộc thảo luận, một thử nghiệm lớn hơn được đưa ra nhằm "xây dựng các câu chuyện báo chí tích cực" xoay quanh Instagram.
Ngoài "like", Facebook còn xem xét nút chia sẻ, bên cạnh tính năng tạo nhóm và những công cụ khác. Tài liệu dài hàng nghìn trang nhấn mạnh sự khó khăn của Facebook trong việc kiểm soát những công cụ. Các nhà nghiên cứu xác định một số tính năng chính của nền tảng đã góp phần lan truyền nội dung độc hại.
Trong những năm gần đây, Facebook đã thay đổi một số tính năng giúp người dùng ẩn bài đăng không muốn xem, tuy nhiên, cách thức vận hành cốt lõi của Facebook vẫn không thay đổi. Một số cập nhật còn bị loại bỏ để nhường cho sự phát triển và giữ chân người dùng.
Sự điều chỉnh muộn màng
Tháng 9/2020, Facebook đã cắt giảm trọng số của cảm xúc "phẫn nộ" xuống 0, đồng thời tăng "yêu thích" và "buồn" lên tương đương 2 lượt thích. Công ty còn áp dụng một số thay đổi như bình luận một ký tự ("chấm" hay ".") không được tính điểm thay vì bằng 15 lần lượt thích."Giống những sự tối ưu khác, sẽ có một số cách khai thác hay lợi dụng chúng. Đó là lý do chúng tôi thành lập đội ngũ liêm chính, cố gắng theo dõi những vấn đề và giảm thiểu chúng một cách hiệu quả nhất có thể", Lars Backstrom, Phó chủ tịch Kỹ thuật của Facebook, cho biết.
Tuy nhiên, mọi thứ chỉ được điều chỉnh khi đã gây tác hại. Facebook muốn khuyến khích người dùng livestream, khiến trọng số của chúng tăng 600 lần. Điều đó khiến các video chất lượng kém lan truyền nhanh hơn, một tài liệu nội bộ cho biết. Các video đã đóng vai trò lớn trong những sự kiện chính trị, đặc biệt sau cái chết của George Floyd năm ngoái và bạo loạn tại Điện Capitol hồi tháng 1.
Ngay sau cuộc bạo loạn, Facebook lập tức giảm trọng số video trực tiếp xuống 60 lượt thích. Sau khi giảm trọng số tính điểm "phẫn nộ" xuống 0, các nhà khoa học dữ liệu phát hiện người dùng nhận ít thông tin sai lệch, nội dung phiền nhiễu và ghê rợn hơn. Tuy nhiên, đó chỉ là một trong rất nhiều vấn đề cần giải quyết để nền tảng này không còn nội dung bẩn.
Nguồn: Zingnews
