Thoại Viết Hoàng
Writer
Theo một báo cáo mới, các thương hiệu lớn đang trả tiền cho các quảng cáo trên các trang web này và tài trợ cho làn sóng clickbait mới nhất.
Theo một báo cáo mới của NewsGuard, được chia sẻ độc quyền với MIT Technology Review, mọi người đang sử dụng AI để nhanh chóng tạo ra các trang web rác nhằm thu được một số tiền quảng cáo có lập trình đang tràn lan trên mạng. Điều đó có nghĩa là các nhà quảng cáo blue chip và các thương hiệu lớn về cơ bản đang tài trợ cho làn sóng trang trại nội dung tiếp theo mà họ có thể không hề hay biết.
NewsGuard, chuyên đánh giá chất lượng của các trang web, đã tìm thấy hơn 140 thương hiệu lớn quảng cáo trên các trang web sử dụng văn bản do AI tạo ra mà họ cho là “không đáng tin cậy” và những quảng cáo mà họ tìm thấy đến từ một số công ty nổi tiếng nhất trên thế giới. 90% quảng cáo từ các thương hiệu lớn được phân phát thông qua công nghệ quảng cáo của Google, bất chấp chính sách riêng của công ty cấm các trang web đặt quảng cáo do Google phân phát trên các trang có “nội dung spam được tạo tự động”.
Mưu đồ này hoạt động vì quảng cáo có lập trình cho phép các công ty mua các vị trí quảng cáo trên internet mà không cần sự giám sát của con người: các thuật toán đặt giá thầu cho các vị trí để tối ưu hóa số lượng nhãn cầu có liên quan có khả năng nhìn thấy quảng cáo đó. Ngay cả trước khi trí tuệ nhân tạo rộng rãi xuất hiện, khoảng 21% số lần hiển thị quảng cáo đã diễn ra trên các trang web “dành cho quảng cáo” rác, gây lãng phí khoảng 13 tỷ đô la mỗi năm.
Giờ đây, mọi người đang sử dụng AI tổng quát để tạo các trang web thu được tiền quảng cáo. NewsGuard đã theo dõi hơn 200 “trang web thông tin và tin tức không đáng tin cậy do AI tạo ra” kể từ tháng 4 năm 2023 và hầu hết dường như đang tìm cách kiếm lợi từ tiền quảng cáo, thường là từ các công ty có uy tín.
NewsGuard xác định các trang web này bằng cách sử dụng AI để kiểm tra xem chúng có chứa văn bản khớp với thông báo lỗi tiêu chuẩn từ các mô hình ngôn ngữ lớn như ChatGPT hay không. Những người được gắn cờ sau đó được xem xét bởi các nhà nghiên cứu của con người.
Hầu hết những người tạo trang web đều hoàn toàn ẩn danh và một số trang web thậm chí còn có tiểu sử và ảnh giả mạo do AI tạo ra.
Như Lorenzo Arvanitis, một nhà nghiên cứu tại NewsGuard, nói với tôi, “Đây chỉ là một loại tên của trò chơi trên internet.” Thông thường, các công ty có ý nghĩa hoàn hảo cuối cùng lại trả tiền cho những nội dung rác—và đôi khi không chính xác, gây hiểu lầm hoặc giả mạo—vì họ quá muốn cạnh tranh để thu hút sự chú ý của người dùng trực tuyến. (Đã có một số nội dung hay được viết về điều này trước đây.)
Câu chuyện lớn ở đây là AI tổng quát đang được sử dụng để thúc đẩy toàn bộ mưu đồ này và có khả năng hiện tượng này “sẽ trở nên phổ biến hơn khi các mô hình ngôn ngữ này trở nên tiên tiến và dễ tiếp cận hơn”, theo Arvanitis.
Và mặc dù chúng ta có thể mong đợi nó sẽ được sử dụng bởi những kẻ xấu trong các chiến dịch đưa thông tin sai lệch, nhưng chúng ta không nên bỏ qua hậu quả ít kịch tính hơn nhưng có lẽ nhiều khả năng hơn của AI tạo ra: một lượng lớn tiền và tài nguyên bị lãng phí.
Tôi đang đọc gì khác
Chuck Schumer, lãnh đạo đa số Thượng viện tại Quốc hội Hoa Kỳ, đã công bố một kế hoạch về quy định AI trong một bài phát biểu vào thứ Tư tuần trước, nói rằng sự đổi mới phải là “Ngôi sao phương Bắc” trong luật pháp. Tổng thống Biden cũng đã gặp một số chuyên gia AI ở San Francisco vào tuần trước, trong một dấu hiệu khác cho thấy hành động pháp lý có thể sắp được thực hiện, nhưng tôi không nín thở.
Theo tổng quan tuyệt vời này từ New York Times, các chiến dịch chính trị đang sử dụng trí tuệ nhân tạo AI, gióng lên hồi chuông cảnh báo về thông tin sai lệch. Phóng viên Tiffany Hsu và Steven Lee Myers viết: “Các chuyên gia chính trị lo ngại rằng trí tuệ nhân tạo khi bị lạm dụng có thể gây ảnh hưởng xấu đến tiến trình dân chủ.
Tuần trước, hội đồng giám sát của Meta đã đưa ra các khuyến nghị ràng buộc về cách công ty kiểm duyệt nội dung xung quanh chiến tranh. Công ty sẽ phải cung cấp thông tin bổ sung về lý do tại sao tài liệu bị bỏ lại hoặc bị gỡ xuống và lưu giữ bất kỳ tài liệu nào ghi lại các hành vi vi phạm nhân quyền. Meta cũng phải chia sẻ tài liệu đó với các cơ quan có thẩm quyền khi thích hợp. Alexa Koenig, giám đốc điều hành của Trung tâm Nhân quyền, đã viết một bài phân tích sắc bén cho Tech Policy Press giải thích lý do tại sao đây thực sự là một vấn đề khá lớn.
Những gì tôi đã học được trong tuần này
Khoa học về mối quan hệ giữa mạng xã hội và sức khỏe tâm thần của thanh thiếu niên vẫn còn khá phức tạp. Một vài tuần trước, Kaitlyn Tiffany tại Đại Tây Dương đã viết một tính năng thực sự chuyên sâu, khảo sát các nghiên cứu hiện có và đôi khi mâu thuẫn trong lĩnh vực này. Thanh thiếu niên thực sự đang gặp phải sự gia tăng mạnh mẽ các vấn đề về sức khỏe tâm thần ở Hoa Kỳ và mạng xã hội thường được coi là một yếu tố góp phần gây ra cuộc khủng hoảng.
Tuy nhiên, khoa học không rõ ràng hoặc sáng tỏ như chúng ta có thể hy vọng, và phương tiện truyền thông xã hội gây hại chính xác như thế nào và khi nào vẫn chưa được thiết lập rõ ràng trong nghiên cứu. Tiffany viết rằng “một thập kỷ làm việc và hàng trăm nghiên cứu đã tạo ra nhiều kết quả khác nhau, một phần vì họ đã sử dụng hỗn hợp các phương pháp và một phần vì họ đang cố gắng đạt được điều gì đó khó nắm bắt và phức tạp.” Điều quan trọng là “tác động của mạng xã hội dường như phụ thuộc rất nhiều vào người sử dụng nó”.
Bài viết này từ The Technocrat, bản tin chính sách công nghệ hàng tuần của MIT Technology Review về quyền lực, chính trị và Thung lũng Silicon. Để nhận nó trong hộp thư đến của bạn vào thứ Sáu hàng tuần, hãy đăng ký tại đây.
[IMG alt="Trang trại nội dung thế hệ tiếp theo đang sử dụng văn bản do AI tạo ra để tạo ra các trang web rác
"]https://image.vnreview.vn/img.php?s...0f2eb37ff4bf8d472fd66f3afafe&width=1080[/IMG]
Chúng ta đã nghe nhiều về rủi ro AI trong thời đại của các mô hình ngôn ngữ lớn như ChatGPT (bao gồm cả từ tôi!)—những rủi ro như thông tin sai lệch và thông tin sai lệch tràn lan cũng như sự xói mòn quyền riêng tư. Hồi tháng 4, đồng nghiệp của tôi, Melissa Heikkilä, cũng dự đoán rằng những mô hình AI mới này sẽ sớm tràn ngập internet với thư rác và lừa đảo. Câu chuyện hôm nay giải thích rằng làn sóng mới này đã đến và nó được khuyến khích bằng tiền quảng cáo."]https://image.vnreview.vn/img.php?s...0f2eb37ff4bf8d472fd66f3afafe&width=1080[/IMG]
Theo một báo cáo mới của NewsGuard, được chia sẻ độc quyền với MIT Technology Review, mọi người đang sử dụng AI để nhanh chóng tạo ra các trang web rác nhằm thu được một số tiền quảng cáo có lập trình đang tràn lan trên mạng. Điều đó có nghĩa là các nhà quảng cáo blue chip và các thương hiệu lớn về cơ bản đang tài trợ cho làn sóng trang trại nội dung tiếp theo mà họ có thể không hề hay biết.
NewsGuard, chuyên đánh giá chất lượng của các trang web, đã tìm thấy hơn 140 thương hiệu lớn quảng cáo trên các trang web sử dụng văn bản do AI tạo ra mà họ cho là “không đáng tin cậy” và những quảng cáo mà họ tìm thấy đến từ một số công ty nổi tiếng nhất trên thế giới. 90% quảng cáo từ các thương hiệu lớn được phân phát thông qua công nghệ quảng cáo của Google, bất chấp chính sách riêng của công ty cấm các trang web đặt quảng cáo do Google phân phát trên các trang có “nội dung spam được tạo tự động”.
Mưu đồ này hoạt động vì quảng cáo có lập trình cho phép các công ty mua các vị trí quảng cáo trên internet mà không cần sự giám sát của con người: các thuật toán đặt giá thầu cho các vị trí để tối ưu hóa số lượng nhãn cầu có liên quan có khả năng nhìn thấy quảng cáo đó. Ngay cả trước khi trí tuệ nhân tạo rộng rãi xuất hiện, khoảng 21% số lần hiển thị quảng cáo đã diễn ra trên các trang web “dành cho quảng cáo” rác, gây lãng phí khoảng 13 tỷ đô la mỗi năm.
Giờ đây, mọi người đang sử dụng AI tổng quát để tạo các trang web thu được tiền quảng cáo. NewsGuard đã theo dõi hơn 200 “trang web thông tin và tin tức không đáng tin cậy do AI tạo ra” kể từ tháng 4 năm 2023 và hầu hết dường như đang tìm cách kiếm lợi từ tiền quảng cáo, thường là từ các công ty có uy tín.
NewsGuard xác định các trang web này bằng cách sử dụng AI để kiểm tra xem chúng có chứa văn bản khớp với thông báo lỗi tiêu chuẩn từ các mô hình ngôn ngữ lớn như ChatGPT hay không. Những người được gắn cờ sau đó được xem xét bởi các nhà nghiên cứu của con người.
Hầu hết những người tạo trang web đều hoàn toàn ẩn danh và một số trang web thậm chí còn có tiểu sử và ảnh giả mạo do AI tạo ra.
Như Lorenzo Arvanitis, một nhà nghiên cứu tại NewsGuard, nói với tôi, “Đây chỉ là một loại tên của trò chơi trên internet.” Thông thường, các công ty có ý nghĩa hoàn hảo cuối cùng lại trả tiền cho những nội dung rác—và đôi khi không chính xác, gây hiểu lầm hoặc giả mạo—vì họ quá muốn cạnh tranh để thu hút sự chú ý của người dùng trực tuyến. (Đã có một số nội dung hay được viết về điều này trước đây.)
Câu chuyện lớn ở đây là AI tổng quát đang được sử dụng để thúc đẩy toàn bộ mưu đồ này và có khả năng hiện tượng này “sẽ trở nên phổ biến hơn khi các mô hình ngôn ngữ này trở nên tiên tiến và dễ tiếp cận hơn”, theo Arvanitis.
Và mặc dù chúng ta có thể mong đợi nó sẽ được sử dụng bởi những kẻ xấu trong các chiến dịch đưa thông tin sai lệch, nhưng chúng ta không nên bỏ qua hậu quả ít kịch tính hơn nhưng có lẽ nhiều khả năng hơn của AI tạo ra: một lượng lớn tiền và tài nguyên bị lãng phí.
Tôi đang đọc gì khác
Chuck Schumer, lãnh đạo đa số Thượng viện tại Quốc hội Hoa Kỳ, đã công bố một kế hoạch về quy định AI trong một bài phát biểu vào thứ Tư tuần trước, nói rằng sự đổi mới phải là “Ngôi sao phương Bắc” trong luật pháp. Tổng thống Biden cũng đã gặp một số chuyên gia AI ở San Francisco vào tuần trước, trong một dấu hiệu khác cho thấy hành động pháp lý có thể sắp được thực hiện, nhưng tôi không nín thở.
Theo tổng quan tuyệt vời này từ New York Times, các chiến dịch chính trị đang sử dụng trí tuệ nhân tạo AI, gióng lên hồi chuông cảnh báo về thông tin sai lệch. Phóng viên Tiffany Hsu và Steven Lee Myers viết: “Các chuyên gia chính trị lo ngại rằng trí tuệ nhân tạo khi bị lạm dụng có thể gây ảnh hưởng xấu đến tiến trình dân chủ.
Tuần trước, hội đồng giám sát của Meta đã đưa ra các khuyến nghị ràng buộc về cách công ty kiểm duyệt nội dung xung quanh chiến tranh. Công ty sẽ phải cung cấp thông tin bổ sung về lý do tại sao tài liệu bị bỏ lại hoặc bị gỡ xuống và lưu giữ bất kỳ tài liệu nào ghi lại các hành vi vi phạm nhân quyền. Meta cũng phải chia sẻ tài liệu đó với các cơ quan có thẩm quyền khi thích hợp. Alexa Koenig, giám đốc điều hành của Trung tâm Nhân quyền, đã viết một bài phân tích sắc bén cho Tech Policy Press giải thích lý do tại sao đây thực sự là một vấn đề khá lớn.
Những gì tôi đã học được trong tuần này
Khoa học về mối quan hệ giữa mạng xã hội và sức khỏe tâm thần của thanh thiếu niên vẫn còn khá phức tạp. Một vài tuần trước, Kaitlyn Tiffany tại Đại Tây Dương đã viết một tính năng thực sự chuyên sâu, khảo sát các nghiên cứu hiện có và đôi khi mâu thuẫn trong lĩnh vực này. Thanh thiếu niên thực sự đang gặp phải sự gia tăng mạnh mẽ các vấn đề về sức khỏe tâm thần ở Hoa Kỳ và mạng xã hội thường được coi là một yếu tố góp phần gây ra cuộc khủng hoảng.
Tuy nhiên, khoa học không rõ ràng hoặc sáng tỏ như chúng ta có thể hy vọng, và phương tiện truyền thông xã hội gây hại chính xác như thế nào và khi nào vẫn chưa được thiết lập rõ ràng trong nghiên cứu. Tiffany viết rằng “một thập kỷ làm việc và hàng trăm nghiên cứu đã tạo ra nhiều kết quả khác nhau, một phần vì họ đã sử dụng hỗn hợp các phương pháp và một phần vì họ đang cố gắng đạt được điều gì đó khó nắm bắt và phức tạp.” Điều quan trọng là “tác động của mạng xã hội dường như phụ thuộc rất nhiều vào người sử dụng nó”.
