Thoại Viết Hoàng
Writer
Tháng trước, một video được đăng lên Twitter bởi chiến dịch tranh cử tổng thống của Thống đốc Florida Ron DeSantis đã sử dụng những hình ảnh dường như được tạo ra bởi trí tuệ nhân tạo cho thấy cựu Tổng thống Donald Trump đang ôm Tiến sĩ Anthony Fauci.
Những hình ảnh, dường như được thiết kế để chỉ trích Trump vì đã không sa thải chuyên gia về bệnh truyền nhiễm hàng đầu của quốc gia, rất khó phát hiện: chúng được hiển thị cùng với những hình ảnh thực của cặp đôi và với một lớp phủ văn bản có nội dung "Trump ngoài đời thực".
Khi những hình ảnh bắt đầu lan truyền, các tổ chức kiểm tra thực tế và những người dùng tinh mắt đã nhanh chóng đánh dấu chúng là giả mạo. Nhưng Twitter, đã cắt giảm nhiều nhân viên của mình trong những tháng gần đây dưới quyền sở hữu mới, đã không xóa video. Thay vào đó, cuối cùng nó đã thêm một ghi chú cộng đồng — một tính năng do người đóng góp để làm nổi bật thông tin sai lệch trên nền tảng mạng xã hội — vào bài đăng, cảnh báo người dùng trang web rằng trong video “3 bức ảnh tĩnh cho thấy Trump ôm Fauci là hình ảnh do AI tạo ra.”
Các chuyên gia về tính toàn vẹn của thông tin kỹ thuật số cho biết đây mới chỉ là bước khởi đầu của nội dung do AI tạo ra được sử dụng trước cuộc bầu cử Tổng thống Hoa Kỳ năm 2024 theo những cách có thể gây nhầm lẫn hoặc đánh lừa cử tri.
Một loạt công cụ AI mới cung cấp khả năng tạo văn bản hấp dẫn và hình ảnh chân thực — và ngày càng có nhiều video và âm thanh. Các chuyên gia và thậm chí một số giám đốc điều hành giám sát các công ty AI cho biết những công cụ này có nguy cơ lan truyền thông tin sai lệch để đánh lừa cử tri, bao gồm cả trước cuộc bầu cử năm 2024 của Hoa Kỳ.
Jevin West, giáo sư tại Đại học Washington và là người đồng sáng lập Trung tâm Thông tin Công cộng cho biết: “Các chiến dịch đang bắt đầu tăng tốc, các cuộc bầu cử đang diễn ra nhanh chóng và công nghệ đang được cải thiện nhanh chóng. “Chúng tôi đã thấy bằng chứng về tác động mà AI có thể gây ra.”
Các chuyên gia cho biết, các công ty truyền thông xã hội chịu trách nhiệm quan trọng trong việc giải quyết những rủi ro như vậy, vì các nền tảng nơi hàng tỷ người truy cập thông tin và nơi những kẻ xấu thường đến để truyền bá những tuyên bố sai sự thật. Nhưng giờ đây họ phải đối mặt với một cơn bão hoàn hảo gồm các yếu tố có thể khiến việc theo kịp làn sóng thông tin sai lệch về bầu cử tiếp theo trở nên khó khăn hơn bao giờ hết.
Một số mạng xã hội lớn đã rút lại việc thực thi một số thông tin sai lệch liên quan đến bầu cử và đã sa thải nhân viên đáng kể trong sáu tháng qua, điều này trong một số trường hợp ảnh hưởng đến tính liêm chính, an toàn và trách nhiệm của các nhóm AI trong bầu cử. Các quan chức hiện tại và trước đây của Hoa Kỳ cũng đã đưa ra cảnh báo rằng quyết định của thẩm phán liên bang hồi đầu tháng này nhằm hạn chế cách thức một số cơ quan Hoa Kỳ liên lạc với các công ty truyền thông xã hội có thể có “tác động ớn lạnh” đối với cách chính phủ liên bang và các bang giải quyết thông tin sai lệch liên quan đến bầu cử. (Vào thứ Sáu, một tòa phúc thẩm đã tạm thời chặn lệnh này.)
Trong khi đó, AI đang phát triển với tốc độ chóng mặt. Và bất chấp những lời kêu gọi từ những người chơi trong ngành và những người khác, các nhà lập pháp và cơ quan quản lý của Hoa Kỳ vẫn chưa thực hiện các biện pháp bảo vệ thực sự cho các công nghệ AI.
David Evan Harris, nhà nghiên cứu AI và cố vấn đạo đức của Viện Tâm lý Công nghệ, người trước đây đã làm việc về AI có trách nhiệm tại Meta, cho biết: “Tôi không tin tưởng vào khả năng của họ trong việc đối phó với các loại mối đe dọa cũ. “Và bây giờ có những mối đe dọa mới.”
Các nền tảng chính nói với CNN rằng họ có các chính sách và thực tiễn hiện có liên quan đến thông tin sai lệch và trong một số trường hợp, nhắm mục tiêu cụ thể vào nội dung “tổng hợp” hoặc do máy tính tạo ra, mà họ nói sẽ giúp họ xác định và giải quyết mọi thông tin sai lệch do AI tạo ra. Không công ty nào đồng ý cho bất kỳ ai làm việc trong lĩnh vực phát hiện AI tổng quát sẵn sàng tham gia phỏng vấn.
Bhaskar Chakravorti, trưởng khoa kinh doanh toàn cầu tại Trường Fletcher thuộc Đại học Tufts, nói với CNN: “Các nền tảng này “trước đây chưa sẵn sàng và hoàn toàn không có lý do gì để chúng tôi tin rằng chúng sẽ sẵn sàng ngay bây giờ”.
Nội dung gây hiểu lầm, đặc biệt là liên quan đến bầu cử, không có gì mới. Nhưng với sự trợ giúp của trí tuệ nhân tạo, giờ đây bất kỳ ai cũng có thể tạo ra số lượng lớn nội dung giả mạo một cách nhanh chóng, dễ dàng và không tốn kém.
Và với sự cải tiến nhanh chóng của công nghệ AI trong năm qua, hình ảnh, văn bản, âm thanh và video giả mạo có thể sẽ càng khó phát hiện hơn vào thời điểm cuộc bầu cử Hoa Kỳ diễn ra vào năm tới.
“Chúng ta vẫn còn hơn một năm nữa mới đến cuộc bầu cử. Harris cho biết: “Những công cụ này sẽ trở nên tốt hơn và trong tay những người dùng tinh vi, chúng có thể trở nên rất mạnh mẽ”. Ông nói thêm rằng các loại thông tin sai lệch và can thiệp bầu cử diễn ra trên mạng xã hội vào năm 2016 và 2020 có thể sẽ chỉ trở nên trầm trọng hơn do AI.
Margaret Mitchell, nhà nghiên cứu và là nhà nghiên cứu cho biết, các dạng nội dung khác nhau do AI tạo ra có thể được sử dụng cùng nhau để làm cho thông tin sai lệch trở nên đáng tin cậy hơn — ví dụ: một bài báo giả mạo do AI viết kèm theo một bức ảnh do AI tạo ra nhằm mục đích hiển thị những gì đã xảy ra trong báo cáo. nhà khoa học đạo đức trưởng tại công ty AI mã nguồn mở Hugging Face.Các công cụ AI có thể hữu ích cho bất kỳ ai muốn đánh lừa, nhưng đặc biệt là đối với các nhóm có tổ chức và các đối thủ nước ngoài được khuyến khích can thiệp vào các cuộc bầu cử ở Hoa Kỳ. Các trang trại troll nước ngoài khổng lồ đã được thuê để cố gắng gây ảnh hưởng đến các cuộc bầu cử trước đó ở Hoa Kỳ và các nơi khác, nhưng “hiện tại, một người có thể chịu trách nhiệm triển khai hàng nghìn nghìn bot AI tổng hợp hoạt động,” để đưa nội dung lên mạng xã hội để đánh lừa cử tri, Mitchell, người trước đây làm việc tại Google, cho biết.
OpenAI, nhà sản xuất chatbot AI nổi tiếng ChatGPT, đã đưa ra một cảnh báo rõ ràng về nguy cơ thông tin sai lệch do AI tạo ra trong một bài báo nghiên cứu gần đây. Thông tin sai lệch phong phú từ các hệ thống AI, dù là cố ý hay được tạo ra bởi thành kiến hoặc “ảo giác” từ hệ thống, có “khả năng gây nghi ngờ cho toàn bộ môi trường thông tin, đe dọa khả năng phân biệt thực tế với hư cấu của chúng ta,” nó nói.
Các ví dụ về thông tin sai lệch do AI tạo ra đã bắt đầu xuất hiện. Vào tháng 5, một số tài khoản Twitter, bao gồm một số tài khoản đã trả tiền để có dấu kiểm "xác minh" màu xanh lam, đã chia sẻ những hình ảnh giả mạo nhằm mục đích cho thấy một vụ nổ gần Lầu Năm Góc. Trong khi những hình ảnh này nhanh chóng bị lật tẩy, sự lưu hành của chúng nhanh chóng kéo theo sự sụt giảm của thị trường chứng khoán. Twitter đã đình chỉ ít nhất một trong số các tài khoản chịu trách nhiệm phát tán hình ảnh. Facebook đã dán nhãn các bài đăng về hình ảnh là “thông tin sai lệch” cùng với kiểm tra tính xác thực.
Một tháng trước đó, Ủy ban Quốc gia Đảng Cộng hòa đã phát hành một quảng cáo dài 30 giây để đáp lại thông báo tranh cử chính thức của Tổng thống Joe Biden, sử dụng hình ảnh AI để tưởng tượng ra một nước Mỹ lạc hậu sau khi tổng thống thứ 46 tái đắc cử. Quảng cáo của RNC bao gồm tuyên bố từ chối trách nhiệm nhỏ trên màn hình, “Được xây dựng hoàn toàn bằng hình ảnh AI”, nhưng một số cử tri tiềm năng ở Washington D.C. mà CNN đã chiếu video cho họ đã không phát hiện ra điều đó trong lần xem đầu tiên của họ.
Hàng chục nhà lập pháp đảng Dân chủ vào tuần trước đã gửi thư kêu gọi Ủy ban Bầu cử Liên bang xem xét ngăn chặn việc sử dụng công nghệ trí tuệ nhân tạo trong các quảng cáo chính trị, cảnh báo rằng các quảng cáo lừa đảo có thể gây hại cho tính toàn vẹn của cuộc bầu cử năm tới.
Bảo vệ chống lại thông tin sai lệch do AI tạo ra
Trước năm 2024, nhiều nền tảng đã nói rằng họ sẽ triển khai các kế hoạch để bảo vệ tính toàn vẹn của cuộc bầu cử, bao gồm cả mối đe dọa từ nội dung do AI tạo ra.
Đầu năm nay, TikTok đã đưa ra một chính sách quy định rằng phương tiện “tổng hợp” hoặc bị thao túng do AI tạo ra phải được dán nhãn rõ ràng, bên cạnh chính sách liêm chính công dân nghiêm cấm thông tin gây hiểu lầm về quy trình bầu cử và chính sách thông tin sai lệch chung cấm các tuyên bố sai lệch hoặc gây hiểu lầm rằng có thể gây ra “tổn hại đáng kể” cho các cá nhân hoặc xã hội.
YouTube có chính sách về phương tiện bị thao túng nghiêm cấm nội dung đã bị "thao túng hoặc sửa chữa" theo cách có thể gây hiểu lầm cho người dùng và "có thể gây ra nguy cơ gây hại nghiêm trọng". Nền tảng này cũng có các chính sách chống lại nội dung có thể đánh lừa người dùng về cách thức và thời điểm bỏ phiếu, những tuyên bố sai sự thật có thể ngăn cản việc bỏ phiếu và nội dung “khuyến khích người khác can thiệp vào các quy trình dân chủ”. YouTube cũng cho biết họ hiển thị nổi bật các tin tức và thông tin đáng tin cậy về các cuộc bầu cử trên nền tảng của mình và nhóm tập trung vào bầu cử của họ bao gồm các thành viên của nhóm tin cậy và an toàn, sản phẩm và “Bàn thông minh”.
Người phát ngôn của YouTube Ivy Choi cho biết trong một tuyên bố: “Nội dung bị thao túng về mặt kỹ thuật, bao gồm cả nội dung bầu cử, đánh lừa người dùng và có thể gây ra nguy cơ gây hại nghiêm trọng không được phép xuất hiện trên YouTube”. “Chúng tôi thực thi chính sách nội dung bị thao túng của mình bằng cách sử dụng máy học và đánh giá của con người, đồng thời tiếp tục cải thiện công việc này để vượt qua các mối đe dọa tiềm tàng.”
Tham khảo bài viết gốc tại đây
Khi những hình ảnh bắt đầu lan truyền, các tổ chức kiểm tra thực tế và những người dùng tinh mắt đã nhanh chóng đánh dấu chúng là giả mạo. Nhưng Twitter, đã cắt giảm nhiều nhân viên của mình trong những tháng gần đây dưới quyền sở hữu mới, đã không xóa video. Thay vào đó, cuối cùng nó đã thêm một ghi chú cộng đồng — một tính năng do người đóng góp để làm nổi bật thông tin sai lệch trên nền tảng mạng xã hội — vào bài đăng, cảnh báo người dùng trang web rằng trong video “3 bức ảnh tĩnh cho thấy Trump ôm Fauci là hình ảnh do AI tạo ra.”
Các chuyên gia về tính toàn vẹn của thông tin kỹ thuật số cho biết đây mới chỉ là bước khởi đầu của nội dung do AI tạo ra được sử dụng trước cuộc bầu cử Tổng thống Hoa Kỳ năm 2024 theo những cách có thể gây nhầm lẫn hoặc đánh lừa cử tri.
Một loạt công cụ AI mới cung cấp khả năng tạo văn bản hấp dẫn và hình ảnh chân thực — và ngày càng có nhiều video và âm thanh. Các chuyên gia và thậm chí một số giám đốc điều hành giám sát các công ty AI cho biết những công cụ này có nguy cơ lan truyền thông tin sai lệch để đánh lừa cử tri, bao gồm cả trước cuộc bầu cử năm 2024 của Hoa Kỳ.
Jevin West, giáo sư tại Đại học Washington và là người đồng sáng lập Trung tâm Thông tin Công cộng cho biết: “Các chiến dịch đang bắt đầu tăng tốc, các cuộc bầu cử đang diễn ra nhanh chóng và công nghệ đang được cải thiện nhanh chóng. “Chúng tôi đã thấy bằng chứng về tác động mà AI có thể gây ra.”
Các chuyên gia cho biết, các công ty truyền thông xã hội chịu trách nhiệm quan trọng trong việc giải quyết những rủi ro như vậy, vì các nền tảng nơi hàng tỷ người truy cập thông tin và nơi những kẻ xấu thường đến để truyền bá những tuyên bố sai sự thật. Nhưng giờ đây họ phải đối mặt với một cơn bão hoàn hảo gồm các yếu tố có thể khiến việc theo kịp làn sóng thông tin sai lệch về bầu cử tiếp theo trở nên khó khăn hơn bao giờ hết.
Một số mạng xã hội lớn đã rút lại việc thực thi một số thông tin sai lệch liên quan đến bầu cử và đã sa thải nhân viên đáng kể trong sáu tháng qua, điều này trong một số trường hợp ảnh hưởng đến tính liêm chính, an toàn và trách nhiệm của các nhóm AI trong bầu cử. Các quan chức hiện tại và trước đây của Hoa Kỳ cũng đã đưa ra cảnh báo rằng quyết định của thẩm phán liên bang hồi đầu tháng này nhằm hạn chế cách thức một số cơ quan Hoa Kỳ liên lạc với các công ty truyền thông xã hội có thể có “tác động ớn lạnh” đối với cách chính phủ liên bang và các bang giải quyết thông tin sai lệch liên quan đến bầu cử. (Vào thứ Sáu, một tòa phúc thẩm đã tạm thời chặn lệnh này.)
Trong khi đó, AI đang phát triển với tốc độ chóng mặt. Và bất chấp những lời kêu gọi từ những người chơi trong ngành và những người khác, các nhà lập pháp và cơ quan quản lý của Hoa Kỳ vẫn chưa thực hiện các biện pháp bảo vệ thực sự cho các công nghệ AI.
David Evan Harris, nhà nghiên cứu AI và cố vấn đạo đức của Viện Tâm lý Công nghệ, người trước đây đã làm việc về AI có trách nhiệm tại Meta, cho biết: “Tôi không tin tưởng vào khả năng của họ trong việc đối phó với các loại mối đe dọa cũ. “Và bây giờ có những mối đe dọa mới.”
Các nền tảng chính nói với CNN rằng họ có các chính sách và thực tiễn hiện có liên quan đến thông tin sai lệch và trong một số trường hợp, nhắm mục tiêu cụ thể vào nội dung “tổng hợp” hoặc do máy tính tạo ra, mà họ nói sẽ giúp họ xác định và giải quyết mọi thông tin sai lệch do AI tạo ra. Không công ty nào đồng ý cho bất kỳ ai làm việc trong lĩnh vực phát hiện AI tổng quát sẵn sàng tham gia phỏng vấn.
Bhaskar Chakravorti, trưởng khoa kinh doanh toàn cầu tại Trường Fletcher thuộc Đại học Tufts, nói với CNN: “Các nền tảng này “trước đây chưa sẵn sàng và hoàn toàn không có lý do gì để chúng tôi tin rằng chúng sẽ sẵn sàng ngay bây giờ”.
Nội dung gây hiểu lầm, đặc biệt là liên quan đến bầu cử, không có gì mới. Nhưng với sự trợ giúp của trí tuệ nhân tạo, giờ đây bất kỳ ai cũng có thể tạo ra số lượng lớn nội dung giả mạo một cách nhanh chóng, dễ dàng và không tốn kém.
Và với sự cải tiến nhanh chóng của công nghệ AI trong năm qua, hình ảnh, văn bản, âm thanh và video giả mạo có thể sẽ càng khó phát hiện hơn vào thời điểm cuộc bầu cử Hoa Kỳ diễn ra vào năm tới.
“Chúng ta vẫn còn hơn một năm nữa mới đến cuộc bầu cử. Harris cho biết: “Những công cụ này sẽ trở nên tốt hơn và trong tay những người dùng tinh vi, chúng có thể trở nên rất mạnh mẽ”. Ông nói thêm rằng các loại thông tin sai lệch và can thiệp bầu cử diễn ra trên mạng xã hội vào năm 2016 và 2020 có thể sẽ chỉ trở nên trầm trọng hơn do AI.
Margaret Mitchell, nhà nghiên cứu và là nhà nghiên cứu cho biết, các dạng nội dung khác nhau do AI tạo ra có thể được sử dụng cùng nhau để làm cho thông tin sai lệch trở nên đáng tin cậy hơn — ví dụ: một bài báo giả mạo do AI viết kèm theo một bức ảnh do AI tạo ra nhằm mục đích hiển thị những gì đã xảy ra trong báo cáo. nhà khoa học đạo đức trưởng tại công ty AI mã nguồn mở Hugging Face.Các công cụ AI có thể hữu ích cho bất kỳ ai muốn đánh lừa, nhưng đặc biệt là đối với các nhóm có tổ chức và các đối thủ nước ngoài được khuyến khích can thiệp vào các cuộc bầu cử ở Hoa Kỳ. Các trang trại troll nước ngoài khổng lồ đã được thuê để cố gắng gây ảnh hưởng đến các cuộc bầu cử trước đó ở Hoa Kỳ và các nơi khác, nhưng “hiện tại, một người có thể chịu trách nhiệm triển khai hàng nghìn nghìn bot AI tổng hợp hoạt động,” để đưa nội dung lên mạng xã hội để đánh lừa cử tri, Mitchell, người trước đây làm việc tại Google, cho biết.
OpenAI, nhà sản xuất chatbot AI nổi tiếng ChatGPT, đã đưa ra một cảnh báo rõ ràng về nguy cơ thông tin sai lệch do AI tạo ra trong một bài báo nghiên cứu gần đây. Thông tin sai lệch phong phú từ các hệ thống AI, dù là cố ý hay được tạo ra bởi thành kiến hoặc “ảo giác” từ hệ thống, có “khả năng gây nghi ngờ cho toàn bộ môi trường thông tin, đe dọa khả năng phân biệt thực tế với hư cấu của chúng ta,” nó nói.
Các ví dụ về thông tin sai lệch do AI tạo ra đã bắt đầu xuất hiện. Vào tháng 5, một số tài khoản Twitter, bao gồm một số tài khoản đã trả tiền để có dấu kiểm "xác minh" màu xanh lam, đã chia sẻ những hình ảnh giả mạo nhằm mục đích cho thấy một vụ nổ gần Lầu Năm Góc. Trong khi những hình ảnh này nhanh chóng bị lật tẩy, sự lưu hành của chúng nhanh chóng kéo theo sự sụt giảm của thị trường chứng khoán. Twitter đã đình chỉ ít nhất một trong số các tài khoản chịu trách nhiệm phát tán hình ảnh. Facebook đã dán nhãn các bài đăng về hình ảnh là “thông tin sai lệch” cùng với kiểm tra tính xác thực.
Một tháng trước đó, Ủy ban Quốc gia Đảng Cộng hòa đã phát hành một quảng cáo dài 30 giây để đáp lại thông báo tranh cử chính thức của Tổng thống Joe Biden, sử dụng hình ảnh AI để tưởng tượng ra một nước Mỹ lạc hậu sau khi tổng thống thứ 46 tái đắc cử. Quảng cáo của RNC bao gồm tuyên bố từ chối trách nhiệm nhỏ trên màn hình, “Được xây dựng hoàn toàn bằng hình ảnh AI”, nhưng một số cử tri tiềm năng ở Washington D.C. mà CNN đã chiếu video cho họ đã không phát hiện ra điều đó trong lần xem đầu tiên của họ.
Hàng chục nhà lập pháp đảng Dân chủ vào tuần trước đã gửi thư kêu gọi Ủy ban Bầu cử Liên bang xem xét ngăn chặn việc sử dụng công nghệ trí tuệ nhân tạo trong các quảng cáo chính trị, cảnh báo rằng các quảng cáo lừa đảo có thể gây hại cho tính toàn vẹn của cuộc bầu cử năm tới.
Bảo vệ chống lại thông tin sai lệch do AI tạo ra
Trước năm 2024, nhiều nền tảng đã nói rằng họ sẽ triển khai các kế hoạch để bảo vệ tính toàn vẹn của cuộc bầu cử, bao gồm cả mối đe dọa từ nội dung do AI tạo ra.
Đầu năm nay, TikTok đã đưa ra một chính sách quy định rằng phương tiện “tổng hợp” hoặc bị thao túng do AI tạo ra phải được dán nhãn rõ ràng, bên cạnh chính sách liêm chính công dân nghiêm cấm thông tin gây hiểu lầm về quy trình bầu cử và chính sách thông tin sai lệch chung cấm các tuyên bố sai lệch hoặc gây hiểu lầm rằng có thể gây ra “tổn hại đáng kể” cho các cá nhân hoặc xã hội.
YouTube có chính sách về phương tiện bị thao túng nghiêm cấm nội dung đã bị "thao túng hoặc sửa chữa" theo cách có thể gây hiểu lầm cho người dùng và "có thể gây ra nguy cơ gây hại nghiêm trọng". Nền tảng này cũng có các chính sách chống lại nội dung có thể đánh lừa người dùng về cách thức và thời điểm bỏ phiếu, những tuyên bố sai sự thật có thể ngăn cản việc bỏ phiếu và nội dung “khuyến khích người khác can thiệp vào các quy trình dân chủ”. YouTube cũng cho biết họ hiển thị nổi bật các tin tức và thông tin đáng tin cậy về các cuộc bầu cử trên nền tảng của mình và nhóm tập trung vào bầu cử của họ bao gồm các thành viên của nhóm tin cậy và an toàn, sản phẩm và “Bàn thông minh”.
Người phát ngôn của YouTube Ivy Choi cho biết trong một tuyên bố: “Nội dung bị thao túng về mặt kỹ thuật, bao gồm cả nội dung bầu cử, đánh lừa người dùng và có thể gây ra nguy cơ gây hại nghiêm trọng không được phép xuất hiện trên YouTube”. “Chúng tôi thực thi chính sách nội dung bị thao túng của mình bằng cách sử dụng máy học và đánh giá của con người, đồng thời tiếp tục cải thiện công việc này để vượt qua các mối đe dọa tiềm tàng.”
Tham khảo bài viết gốc tại đây
