thuha19051234
Pearl
Một nghiên cứu mới vừa được công bố trên tạp chí học thuật Proceedings of the National Academy of Sciences xác nhận, những “khuôn mặt” do trí tuệ nhân tạo tạo ra có thể chân thực đến mức, con người không thể phân biệt được đâu là người thật và đâu là mặt tạo ra bởi AI.
Trong nghiên cứu này, có hơn 300 người tham gia đã được yêu cầu xác định xem những hình ảnh được cung cấp là ảnh của người thật hay là ảnh giả do AI tạo ra, nó còn khó hơn việc phải đoán kết quả tung đồng xu. Bất kỳ ai cũng có thể sốc vì trước đây từng nghĩ rằng mình đủ hiểu biết để nhận ra sự khác biệt.
Trong khi các nhà nghiên cứu cho rằng kỳ thích kỹ thuật được tạo ra này “nên được coi là một thành công đối với các lĩnh vực đồ họa máy tính và thị giác", họ cũng đồng thời “khuyến khích những người đang phát triển các công nghệ này cân nhắc xem liệu rủi ro liên quan có lớn hơn lợi ích của chúng hay không”. Những trích dẫn về các mối nguy hiểm theo nghiên cứu này gồm các chiến dịch thông tin sai lệch đối với các nội dung khiêu ***, được tạo ra một cách thiếu căn cứ.
Phân loại chính xác các mặt thực (R) và tổng hợp (S)
Trong thử nghiệm đầu tiên, hơn 300 người tham gia đã xem xét 128 khuôn mặt và được hỏi đâu là khuôn mặt thật và đầu là giả. Họ đã làm đúng khi mất chưa đầy nửa thời gian quy định. Tuy nhiên, những người tham gia đã gặp khó khăn khác nhau với những khuôn mặt có làn da khác nhau. Chẳng hạn như khuôn mặt da trắng khiến họ khó phân biệt nhất, có thể là do dữ liệu của AI bao gồm nhiều ảnh chụp người da trắng hơn so với các màu da khác.
Trong thí nghiệm thứ 2, những người tham gia đã nhận được một hướng dẫn ngắn với các manh mối để phát hiện một khuôn mặt do máy tính tạo ra. Họ được nhìn vào hình ảnh và sau mỗi câu hỏi, họ biết được mình đoán đúng hay sai. Nhờ được giúp đỡ, những người tham gia trong thí nghiệm này đã làm tốt hơn, điều thú vị là tất cả sự cải thiện kết quả là đến từ hướng dẫn, thay vì học từ phản hồi.
Trong thử nghiệm cuối cùng, những người tham gia được yêu cầu đánh giá mức độ đáng tin cậy mà họ nhìn thấy ở từng khuôn mặt trong số 128 khuôn mặt nói trên với thang điểm từ 1 đến 7. Kết quả thật đáng ngạc nhiên, họ nói rằng khuôn mặt AI có vẻ đáng tin hơn khoảng 7.7% so với các khuôn mặt thật.
Những kết quả này cho thấy, AI (có khả năng) đáng tin cậy hơn những khuôn mặt thật, các nhà nghiên cứu kết luận.
Công nghệ khi được áp dụng vào video và âm thanh có thể tạo ra các chiến dịch cung cấp thông tin sai lệch cực kỳ thuyết phục. Chẳng hạn như đối với tình hình hiện tại ở Ukraine, nếu bạn nhìn thấy một video với hình ảnh Vladimir Putin giả (hoặc Joe Biden) - tuyên chiến với một kẻ thù lâu năm sẽ có tốc độ lan truyền nhanh kinh khủng như thế nào trên mạng xã hội, và rất khó để thuyết phục mọi người rằng những gì họ nhìn thấy là không có thật.
Ngoài ra, một mối quan tâm lớn khác là những nội dung khiêu *** giả tạo truyền hình ảnh một người thực hiện các hành vi mà họ chưa bao giờ thực sự làm, điều này sẽ gây hậu quả đáng tiếc như thế nào nếu nó được truyền đi. Các nhà nghiên cứu nói thêm "Có lẽ hậu quả nguy hiểm nhất là trong một thế giới kỹ thuật số trong đó bất kỳ hình ảnh hoặc video nào cũng có thể bị làm giả, còn tính xác thực của sự thật lại có thể bị nghi ngờ."
Nguồn Interestingengineering
Trong nghiên cứu này, có hơn 300 người tham gia đã được yêu cầu xác định xem những hình ảnh được cung cấp là ảnh của người thật hay là ảnh giả do AI tạo ra, nó còn khó hơn việc phải đoán kết quả tung đồng xu. Bất kỳ ai cũng có thể sốc vì trước đây từng nghĩ rằng mình đủ hiểu biết để nhận ra sự khác biệt.
Trong khi các nhà nghiên cứu cho rằng kỳ thích kỹ thuật được tạo ra này “nên được coi là một thành công đối với các lĩnh vực đồ họa máy tính và thị giác", họ cũng đồng thời “khuyến khích những người đang phát triển các công nghệ này cân nhắc xem liệu rủi ro liên quan có lớn hơn lợi ích của chúng hay không”. Những trích dẫn về các mối nguy hiểm theo nghiên cứu này gồm các chiến dịch thông tin sai lệch đối với các nội dung khiêu ***, được tạo ra một cách thiếu căn cứ.
Mạng nơ-ron đang trở nên cực kỳ tốt
Các nhà nghiên cứu đã bắt đầu với 400 khuôn mặt tổng hợp được tạo ra bởi một chương trình AI mã nguồn mở do gã khổng lồ công nghệ NVIDIA thực hiện. Chương trình này sử dụng một cặp mạng nơ-ron để tạo ra các hình ảnh. Trước hết, AI sẽ tạo ra một hình ảnh hoàn toàn ngẫu nhiên, sau đó một bộ ảnh thực khổng lồ được được cung cấp để đưa ra những phản hồi cho trình tạo khuôn mặt. Khi hai mạng nơ-ron hoạt động qua lại, bộ tạo sẽ được cải thiện mỗi lần, cho đến khi bộ phân biệt không thể phân biệt đâu là ảnh thật đâu là ảnh giả.Những thí nghiệm mang đến kết quả đáng ngạc nhiên
Để bổ sung vào nghiên cứu này, các nhà tâm lý học cũng đã xây dựng một mẫu gồm 400 hình ảnh tổng hợp về giới tính, tuổi tác và chủng tộc mà AI của NVDIA đã tạo ra. Nó bao gồm 200 nam và 200 nữ và bao gồm 100 khuôn mặt thuộc 4 chủng tộc: da đen, da trắng, Đông Á và Nam Á. Đối với mỗi khuôn mặt tổng hợp này, các chuyên gia đã chọn một hình ảnh giống nhau về mặt nhân khẩu học từ dữ liệu đào tạo của thiết bị so sánh.Trong thử nghiệm đầu tiên, hơn 300 người tham gia đã xem xét 128 khuôn mặt và được hỏi đâu là khuôn mặt thật và đầu là giả. Họ đã làm đúng khi mất chưa đầy nửa thời gian quy định. Tuy nhiên, những người tham gia đã gặp khó khăn khác nhau với những khuôn mặt có làn da khác nhau. Chẳng hạn như khuôn mặt da trắng khiến họ khó phân biệt nhất, có thể là do dữ liệu của AI bao gồm nhiều ảnh chụp người da trắng hơn so với các màu da khác.
Trong thử nghiệm cuối cùng, những người tham gia được yêu cầu đánh giá mức độ đáng tin cậy mà họ nhìn thấy ở từng khuôn mặt trong số 128 khuôn mặt nói trên với thang điểm từ 1 đến 7. Kết quả thật đáng ngạc nhiên, họ nói rằng khuôn mặt AI có vẻ đáng tin hơn khoảng 7.7% so với các khuôn mặt thật.
Những kết quả này cho thấy, AI (có khả năng) đáng tin cậy hơn những khuôn mặt thật, các nhà nghiên cứu kết luận.
Những tác động từ AI có thể rất lớn
Những kết quả này cho thấy một tương lai của chúng ta có thể xảy ra những tình huống kỳ lạ về khả năng nhận biết cũng như trí nhớ và bất kỳ ai cũng có thể tạo ra một nội dung tổng hợp kỹ thuật mà không cần các kiến thức chuyên môn về Photoshop hoặc CGI. Các nhà nghiên cứu cũng chỉ ra một số cách "bất chính" mà con người có thể sử dụng những loại "hàng giả chất lượng cao" mà hầu như không có cách nào để phân biệt với những hình ảnh thực.Công nghệ khi được áp dụng vào video và âm thanh có thể tạo ra các chiến dịch cung cấp thông tin sai lệch cực kỳ thuyết phục. Chẳng hạn như đối với tình hình hiện tại ở Ukraine, nếu bạn nhìn thấy một video với hình ảnh Vladimir Putin giả (hoặc Joe Biden) - tuyên chiến với một kẻ thù lâu năm sẽ có tốc độ lan truyền nhanh kinh khủng như thế nào trên mạng xã hội, và rất khó để thuyết phục mọi người rằng những gì họ nhìn thấy là không có thật.
Ngoài ra, một mối quan tâm lớn khác là những nội dung khiêu *** giả tạo truyền hình ảnh một người thực hiện các hành vi mà họ chưa bao giờ thực sự làm, điều này sẽ gây hậu quả đáng tiếc như thế nào nếu nó được truyền đi. Các nhà nghiên cứu nói thêm "Có lẽ hậu quả nguy hiểm nhất là trong một thế giới kỹ thuật số trong đó bất kỳ hình ảnh hoặc video nào cũng có thể bị làm giả, còn tính xác thực của sự thật lại có thể bị nghi ngờ."
Nguồn Interestingengineering
