Thoại Viết Hoàng
Writer
Theo các tác giả nghiên cứu, cách AI mô hình cấu trúc văn bản có thể liên quan đến nó.
Nghiên cứu cho thấy mọi người có khả năng phát hiện ra các tweet sai do AI tạo ra thấp hơn 3% so với các tweet do con người viết.
Giovanni Spitale, nhà nghiên cứu tại Đại học Zurich, người đứng đầu nghiên cứu, cho biết khoảng cách đáng tin cậy đó, mặc dù nhỏ, nhưng có liên quan đến vấn đề thông tin sai lệch do AI tạo ra dường như đang gia tăng đáng kể.
Anh ấy nói: “Thực tế là thông tin sai lệch do AI tạo ra không chỉ rẻ hơn, nhanh hơn mà còn hiệu quả hơn, khiến tôi gặp ác mộng. Anh ấy tin rằng nếu nhóm lặp lại nghiên cứu với mô hình ngôn ngữ lớn mới nhất từ
OpenAI, GPT-4, thì sự khác biệt sẽ còn lớn hơn, do GPT-4 mạnh hơn bao nhiêu.
Để kiểm tra mức độ nhạy cảm của chúng tôi đối với các loại văn bản khác nhau, các nhà nghiên cứu đã chọn các chủ đề thông tin sai lệch phổ biến, bao gồm biến đổi khí hậu và covid. Sau đó, họ yêu cầu mô hình ngôn ngữ lớn GPT-3 của OpenAI tạo ra 10 tweet đúng và 10 tweet sai, đồng thời thu thập một mẫu ngẫu nhiên gồm cả tweet đúng và sai từ Twitter.
Tiếp theo, họ đã tuyển dụng 697 người để hoàn thành một bài kiểm tra trực tuyến đánh giá xem các tweet được tạo bởi AI hay được thu thập từ Twitter và liệu chúng có chính xác hay chứa thông tin sai lệch hay không. Họ phát hiện ra rằng những người tham gia ít tin vào những dòng tweet sai sự thật do con người viết hơn 3% so với những dòng tweet do AI viết.
Các nhà nghiên cứu không chắc chắn lý do tại sao mọi người có nhiều khả năng tin vào các tweet do AI viết hơn. Nhưng cách GPT-3 đặt hàng thông tin có thể liên quan đến nó, theo Spitale.
Ông nói: “Văn bản của GPT-3 có xu hướng có cấu trúc hơn một chút so với văn bản [do con người viết] tự nhiên. “Nhưng nó cũng cô đặc lại nên dễ chế biến hơn.”
Sự bùng nổ AI tổng quát đặt các công cụ AI mạnh mẽ, dễ tiếp cận vào tay mọi người, kể cả những kẻ xấu. Các mô hình như GPT-3 có thể tạo ra văn bản không chính xác có vẻ thuyết phục, có thể được sử dụng để tạo ra các tường thuật sai lệch một cách nhanh chóng và rẻ tiền cho những người theo thuyết âm mưu và các chiến dịch đưa thông tin sai lệch. Vũ khí để giải quyết vấn đề—công cụ phát hiện văn bản AI—vẫn đang trong giai đoạn phát triển ban đầu và nhiều công cụ không hoàn toàn chính xác.
OpenAI biết rằng các công cụ AI của họ có thể được vũ khí hóa để tạo ra các chiến dịch thông tin sai lệch quy mô lớn. Mặc dù điều này vi phạm chính sách của nó, nhưng nó đã đưa ra một báo cáo vào tháng 1 cảnh báo rằng “gần như không thể đảm bảo rằng các mô hình ngôn ngữ lớn không bao giờ được sử dụng để tạo ra thông tin sai lệch”. OpenAI đã không trả lời ngay lập tức yêu cầu bình luận.
Tuy nhiên, công ty cũng đã kêu gọi thận trọng khi đánh giá quá cao tác động của các chiến dịch thông tin sai lệch. Các tác giả của báo cáo của OpenAI cho biết, cần nghiên cứu thêm để xác định các quần thể có nguy cơ cao nhất từ nội dung không trung thực do AI tạo ra, cũng như mối quan hệ giữa kích thước mô hình AI và hiệu suất tổng thể hoặc tính thuyết phục của đầu ra.
Jon Roozenbeek, một nhà nghiên cứu sau tiến sĩ chuyên nghiên cứu thông tin sai lệch tại khoa tâm lý học tại Đại học Cambridge, người không tham gia vào nghiên cứu, cho biết còn quá sớm để hoảng sợ.
Ông nói: Mặc dù việc phát tán thông tin sai lệch trực tuyến bằng AI có thể dễ dàng và rẻ hơn so với các trang trại troll do con người điều khiển, nhưng việc kiểm duyệt trên các nền tảng công nghệ và hệ thống phát hiện tự động vẫn là những trở ngại cho sự lây lan của nó.
“Chỉ vì AI giúp việc viết một dòng tweet có sức thuyết phục hơn một chút dễ dàng hơn bất cứ thứ gì mà một loại nhựa cây tồi tàn nào đó trong một nhà máy nào đó ở St. Petersburg nghĩ ra, điều đó không nhất thiết có nghĩa là đột nhiên mọi người đều sẵn sàng để bị thao túng. , anh ấy nói thêm.
Tham khảo bài gốc tại đây
Một nghiên cứu mới cho thấy thông tin sai lệch do AI tạo ra có thể thuyết phục hơn thông tin sai lệch do con người viết ra.
Giovanni Spitale, nhà nghiên cứu tại Đại học Zurich, người đứng đầu nghiên cứu, cho biết khoảng cách đáng tin cậy đó, mặc dù nhỏ, nhưng có liên quan đến vấn đề thông tin sai lệch do AI tạo ra dường như đang gia tăng đáng kể.
Anh ấy nói: “Thực tế là thông tin sai lệch do AI tạo ra không chỉ rẻ hơn, nhanh hơn mà còn hiệu quả hơn, khiến tôi gặp ác mộng. Anh ấy tin rằng nếu nhóm lặp lại nghiên cứu với mô hình ngôn ngữ lớn mới nhất từ
OpenAI, GPT-4, thì sự khác biệt sẽ còn lớn hơn, do GPT-4 mạnh hơn bao nhiêu.
Để kiểm tra mức độ nhạy cảm của chúng tôi đối với các loại văn bản khác nhau, các nhà nghiên cứu đã chọn các chủ đề thông tin sai lệch phổ biến, bao gồm biến đổi khí hậu và covid. Sau đó, họ yêu cầu mô hình ngôn ngữ lớn GPT-3 của OpenAI tạo ra 10 tweet đúng và 10 tweet sai, đồng thời thu thập một mẫu ngẫu nhiên gồm cả tweet đúng và sai từ Twitter.
Tiếp theo, họ đã tuyển dụng 697 người để hoàn thành một bài kiểm tra trực tuyến đánh giá xem các tweet được tạo bởi AI hay được thu thập từ Twitter và liệu chúng có chính xác hay chứa thông tin sai lệch hay không. Họ phát hiện ra rằng những người tham gia ít tin vào những dòng tweet sai sự thật do con người viết hơn 3% so với những dòng tweet do AI viết.
Các nhà nghiên cứu không chắc chắn lý do tại sao mọi người có nhiều khả năng tin vào các tweet do AI viết hơn. Nhưng cách GPT-3 đặt hàng thông tin có thể liên quan đến nó, theo Spitale.
Ông nói: “Văn bản của GPT-3 có xu hướng có cấu trúc hơn một chút so với văn bản [do con người viết] tự nhiên. “Nhưng nó cũng cô đặc lại nên dễ chế biến hơn.”
Sự bùng nổ AI tổng quát đặt các công cụ AI mạnh mẽ, dễ tiếp cận vào tay mọi người, kể cả những kẻ xấu. Các mô hình như GPT-3 có thể tạo ra văn bản không chính xác có vẻ thuyết phục, có thể được sử dụng để tạo ra các tường thuật sai lệch một cách nhanh chóng và rẻ tiền cho những người theo thuyết âm mưu và các chiến dịch đưa thông tin sai lệch. Vũ khí để giải quyết vấn đề—công cụ phát hiện văn bản AI—vẫn đang trong giai đoạn phát triển ban đầu và nhiều công cụ không hoàn toàn chính xác.
OpenAI biết rằng các công cụ AI của họ có thể được vũ khí hóa để tạo ra các chiến dịch thông tin sai lệch quy mô lớn. Mặc dù điều này vi phạm chính sách của nó, nhưng nó đã đưa ra một báo cáo vào tháng 1 cảnh báo rằng “gần như không thể đảm bảo rằng các mô hình ngôn ngữ lớn không bao giờ được sử dụng để tạo ra thông tin sai lệch”. OpenAI đã không trả lời ngay lập tức yêu cầu bình luận.
Tuy nhiên, công ty cũng đã kêu gọi thận trọng khi đánh giá quá cao tác động của các chiến dịch thông tin sai lệch. Các tác giả của báo cáo của OpenAI cho biết, cần nghiên cứu thêm để xác định các quần thể có nguy cơ cao nhất từ nội dung không trung thực do AI tạo ra, cũng như mối quan hệ giữa kích thước mô hình AI và hiệu suất tổng thể hoặc tính thuyết phục của đầu ra.
Jon Roozenbeek, một nhà nghiên cứu sau tiến sĩ chuyên nghiên cứu thông tin sai lệch tại khoa tâm lý học tại Đại học Cambridge, người không tham gia vào nghiên cứu, cho biết còn quá sớm để hoảng sợ.
Ông nói: Mặc dù việc phát tán thông tin sai lệch trực tuyến bằng AI có thể dễ dàng và rẻ hơn so với các trang trại troll do con người điều khiển, nhưng việc kiểm duyệt trên các nền tảng công nghệ và hệ thống phát hiện tự động vẫn là những trở ngại cho sự lây lan của nó.
“Chỉ vì AI giúp việc viết một dòng tweet có sức thuyết phục hơn một chút dễ dàng hơn bất cứ thứ gì mà một loại nhựa cây tồi tàn nào đó trong một nhà máy nào đó ở St. Petersburg nghĩ ra, điều đó không nhất thiết có nghĩa là đột nhiên mọi người đều sẵn sàng để bị thao túng. , anh ấy nói thêm.
Tham khảo bài gốc tại đây
