Nghề "cảnh sát" nội dung online vất vả như thế nào?

Có bao giờ bạn thắc mắc rất hiếm thấy, thậm chí không thấy những nội dung nhạy cảm trên Facebook, Twitter, YouTube và các kênh phân tán nội dung khác?

Câu trả lời, đó là sự hiện diện "vô hình" của đội ngũ "cảnh sát nội dung", hay có thể gọi đơn giản họ là những người lọc nội dung.

Ví dụ như đoạn video về nhóm IS quay cảnh chặt đầu nhà báo gần đây, về mặt kỹ thuật, chuyện phát tán những nội dung như vậy không gây tác hại trên quy mô lớn như là nguồn gốc chiến tranh, nhưng chúng không khác gì vũ khí. Nếu chia sẻ đoạn video đó, chẳng khác nào chúng ta đang ủng hộ cho chủ nghĩa khủng bố.

Vậy nên Twitter, Facebook hay YouTube có nên chặn hết những kiểu nội dung như vậy? Đối với nhiều người, cho dù có tư tưởng "thoáng" về tự do ngôn luận, tự do bày tỏ ý kiến cá nhân về vấn đề nào đó, và ủng hộ ý tưởng chia sẻ nội dung rộng rãi trên Internet thì đây cũng là câu hỏi khó trả lời và mang tính nhân văn.

Một mặt, rất khó để đưa ra chuẩn mực nào cho các công ty công nghệ rải rác khắp thế giới quyết định nên lọc nội dung nào, nên cho phép nội dung nào được đăng. Mặt khác, tiến bộ trong công nghệ mạng xã hội lại là công cụ hữu hiệu cho kẻ xấu. Ví dụ như trường hợp của nhà hoạt động về nữ quyền Anita Sarkeesian từng chỉ trích video game, cô lập tức phải chạy về nhà khi nhận những lời đe dọa sẽ bị "xử". Hoặc trường hợp những minh tinh Âu Mỹ bị mất tài khoản iCloud chứa hình nhạy cảm, riêng tư của họ bị phát tán trên mạng.

Một khung quảng cáo tuyển dụng vị trí kiểm duyệt nội dung cho Facebook.

Đến nay, công việc "cảnh sát" nội dung trực tuyến thuộc về những nhà quản trị nội dung chuyên nghiệp, là một đội ngũ lao động rất lớn nhưng lại ẩn mình. Họ ngày đêm theo dõi mọi thứ trên Facebook, YouTube, Twitter và nhiều trang mạng xã hội khác để gỡ bỏ mọi nội dung tiêu cực ra khỏi Internet. Có thể còn nhiều bàn cãi nhưng rõ ràng đây là một nhiệm vụ cực kỳ quan trọng, là lằn ranh mỏng manh ngăn lọc giữa một xã hội số khỏe mạnh với một thứ nhớp nhúa man dại, tiêu cực. Nhưng điều đáng nói là công việc của đội ngũ "cảnh sát" mạng ấy không lấy gì hay ho, là công việc âm thầm, lương thấp và nhất là làm việc trong một môi trường độc hại về tinh thần.

Về bản chất, đây là vấn đề về xã hội học, không đơn thuần là công nghệ. Làm thế nào chúng ta bảo vệ được chính mình thoát khỏi những cách biểu hiện tiêu cực nhất của chính chúng ta? Trong câu chuyện dưới đây, khó có thể tưởng tượng được chuyện gì sẽ xảy ra nếu chúng ta chỉ dựa vào việc thuê mướn người để sàng lọc nội dung, cộng với công nghệ lọc nội dung tự động. Internet sản sinh thêm nhiều mối đe dọa, nhưng điều đó không có nghĩa là chúng ta hết hi vọng. Vì chính Internet cũng mang lại sức mạnh riêng cho từng cá nhân, vì chúng ta không chỉ có khả năng phát tán thông tin, chúng ta còn có khả năng từ chối, phủ nhận, sàng lọc thông tin nữa.

Adrian Chen, phóng viên của tờ New York City và cộng tác viên cho tờ The New Inquiry, đã có một chuyến thâm nhập vào một trong những nơi sàng lọc nội dung Internet lớn, ở Bacoor, cách thủ đô Manila, Philippines khoảng 22km về phía Tây Nam. Tại đây, anh gặp Michael Baybayan, 21 buổi, tóc nhuộm nâu đỏ. Chiếc màn hình trên bàn làm việc của Baybayan hiện lên một ảnh khiêu dâm và anh ta vừa nhấn chuột cho nó biến mất.

Baybayan là một trong nhóm người chuyên sàng lọc nội dung theo cách thủ công cho các trang mạng xã hội tại Mỹ. Khi mạng xã hội kết nối càng ngày càng nhiều người hơn thì các công ty phải đối diện với vấn đề "Bà Cháu": bây giờ ông bà dễ dàng theo dõi hành vi con cái mình hơn qua Facebook, nhưng con cái lại thường có xu hướng đăng tải những nội dung không mấy hay, như nói xấu nhau, đăng ảnh nhạy cảm, phân biệt giới tính, chủng tộc... Ông bà sẽ không đăng nhập vào Facebook hay mạng xã hội nào đó nữa nếu họ cứ phải xem ảnh gia đình xen lẫn với mấy hình nhạy cảm hay ảnh tai nạn chết người nào đó trên xa lộ. Mạng xã hội là ngành công nghiệp nhiều tỷ đô la, nó hấp dẫn người dùng và phụ thuộc rất lớn vào khả năng giám sát nội dung để đảm bảo ông bà không xem được những ảnh nhạy cảm như ảnh mà anh Baybayan vừa nhấn lọc đi.

Một tin nhắn tự tử được đăng trên Whisper, bị nhân viên TaskUs gắn nhãn chờ xoá.

Vì vậy, nhiều công ty mạng xã hội phải dựa nhiều vào đội ngũ lọc nội dung này để gỡ hết đi những thứ bị cho là tệ hại, nhằm bảo vệ phần còn lại của chúng ta. Điều đáng nói là đội ngũ lọc nội dung này rất đông và chúng ta dường như không nhận thấy sự tồn tại của họ. Hemanshu Nigam, cựu CSO của MySpace, hiện mở công ty tư vấn an ninh trực tuyến SSP BLue, ước chừng con số người quản trị nội dung (content moderator) trên các trang mạng xã hội, ứng dụng di động và dịch vụ lưu trữ đám mây đến "trên 100.000", khoảng gấp 2 lần tổng số nhân viên làm cho Google và gần 14 lần của Facebook.

Và loại công việc này ở Philippines ngày càng tăng. Trước đây, Philippines từng là thuộc địa của Mỹ nên nền văn hoá cũng gần với Mỹ, các công ty quản lý nội dung cho rằng người Phi sẽ giúp người Mỹ xác định nội dung nào là tiêu cực. Và người lọc nội dung tại Phi có mức lương không mấy cao. Theo như Ryan Cardeno làm ở Phi, anh được trả 500 USD/tháng từ 3 năm rưỡi nay khi làm outsource cho Microsoft ở công ty Sykes. Năm ngoái, một công ty khác đề xuất Cardeno qua lọc nội dung cho Facebook với mức lương 312 USD/tháng.

Còn với anh Baybayan và đồng nghiệp của mình, hiện đang tận dụng cơ sở vật chất của một trường tiểu học cũ, nhóm của anh đang lọc nội dung cho Whisper, là công ty khởi nghiệp làm ứng dụng di động, gần đây được định giá là 200 triệu USD, cho phép người dùng đăng tải ảnh và chia sẻ những bí mật theo cách ẩn danh. Họ làm việc cho một công ty outsource tại Mỹ tên là TaskUs. Đối với nhà báo Chen, anh hỏi Whisper về quy trình này thì Whisper sẵn lòng tiết lộ cho anh. Còn với Microsoft, Google và Facebook, Chen chỉ nhận được những thông tin rất mơ hồ về quy trình kiểm duyệt nội dung của họ. Nhiều công ty công nghệ buộc những người lọc nội dung phải ký những thỏa thuận bảo mật nghiêm ngặt, thậm chí không nói cho cả đồng nghiệp trong cùng một công ty về công việc mình đang làm.

Theo;PCWorld Việt Nam