Thảo Nông
Writer
Các nhà nghiên cứu đang chuyển sang các kỹ thuật từ…thiên văn học để giúp phát hiện những hình ảnh AI ‘deepfake do máy tính tạo ra -vốn trông giống hệt những bức ảnh thật ngay từ cái nhìn đầu tiên và rất khó phát hiện bằng mắt thường.
Bằng cách phân tích hình ảnh khuôn mặt bằng các phương pháp thường được sử dụng để khảo sát các thiên hà xa xôi, các nhà thiên văn học có thể đo lường cách mắt của một người phản chiếu ánh sáng, từ đó có thể tiết lộ các dấu hiệu nhận biết về hình ảnh giả.
Kevin Pimbblet, giám đốc Trung tâm về Khoa học Dữ liệu, Trí tuệ Nhân tạo và Mô hình hóa tại Đại học Hull, Vương quốc Anh, người đã trình bày nghiên cứu này cho biết: “Đó không phải là viên đạn bạc, bởi vì chúng tôi có kết quả dương tính giả và âm tính giả. Nhưng nghiên cứu này cung cấp một phương pháp tiềm năng, một hướng đi quan trọng phía trước, có lẽ để bổ sung thêm vào các thử nghiệm mà người ta có thể áp dụng nhằm tìm hiểu xem hình ảnh là thật hay giả.”
Những tiến bộ trong trí tuệ nhân tạo (AI) đang khiến việc phân biệt hình ảnh, video và âm thanh chân thực với những hình ảnh, video và âm thanh giả do máy tính tạo ra ngày càng khó khăn hơn. Deepfake thay thế các đặc điểm của một người hoặc môi trường này bằng một người hoặc môi trường khác và có thể khiến mọi người có vẻ như đã nói hoặc làm những điều mà họ không hề làm. Các nhà chức trách cảnh báo rằng công nghệ này có thể được vũ khí hóa và sử dụng để truyền bá thông tin sai lệch, chẳng hạn như trong các cuộc bầu cử.
Ông Pimbblet giải thích thêm: Những bức ảnh chân thực phải có “tính chất vật lý nhất quán”, “vì vậy những phản chiếu mà bạn nhìn thấy ở nhãn cầu bên trái phải rất giống, mặc dù không nhất thiết phải giống hệt với những phản chiếu nhìn thấy ở nhãn cầu bên phải”. Sự khác biệt rất nhỏ nên để phát hiện ra chúng, các nhà nghiên cứu đã chuyển sang các kỹ thuật được thiết kế để phân tích ánh sáng trong các hình ảnh thiên văn học.
Tác phẩm chưa được xuất bản này đã tạo thành nền tảng cho luận văn thạc sĩ của Adejumoke Owolabi, một nhà khoa học dữ liệu tại Đại học Hull, Vương quốc Anh, đã lấy hình ảnh thật từ Bộ dữ liệu Flickr-Faces-HQ và tạo khuôn mặt giả bằng cách sử dụng trình tạo hình ảnh. Sau đó, Olwolabi phân tích sự phản xạ của nguồn sáng trong mắt trong ảnh bằng hai phép đo thiên văn: hệ thống CAS và chỉ số Gini. Hệ thống CAS định lượng nồng độ, độ bất đối xứng và độ mịn của sự phân bố ánh sáng của vật thể. Trong nhiều thập kỷ, kỹ thuật này đã cho phép các nhà thiên văn học, trong đó có Pimbblet, mô tả đặc điểm ánh sáng của các ngôi sao ngoài thiên hà. Chỉ số Gini đo lường sự bất bình đẳng về phân bố ánh sáng trong hình ảnh của các thiên hà.
Đôi mắt trong ảnh deepfake (trái) có kiểu phản chiếu không nhất quán so với ảnh thật (phải)
Bằng cách so sánh sự phản chiếu trong nhãn cầu của một cá nhân, Owolabi có thể dự đoán chính xác liệu hình ảnh đó có phải là giả trong khoảng 70% trường hợp. Cuối cùng, các nhà nghiên cứu phát hiện ra rằng chỉ số Gini tốt hơn hệ thống CAS trong việc dự đoán liệu một hình ảnh có bị chỉnh sửa hay không.
Brant Robertson, nhà vật lý thiên văn tại Đại học California, Santa Cruz, hoan nghênh nghiên cứu này. Ông cảnh báo: “Tuy nhiên, nếu bạn có thể tính toán một số liệu định lượng mức độ chân thực của hình ảnh deepfake, bạn cũng có thể huấn luyện mô hình AI để tạo ra các bản deepfake thậm chí còn tốt hơn bằng cách tối ưu hóa số liệu đó”.
Zhiwu Huang, một nhà nghiên cứu AI tại Đại học Southampton, Anh, cho biết nghiên cứu của riêng ông chưa xác định được các kiểu ánh sáng không nhất quán trong mắt trong các bức ảnh deepfake. Nhưng “trong khi kỹ thuật cụ thể sử dụng sự phản chiếu không nhất quán trong nhãn cầu có thể không được áp dụng rộng rãi, thì những kỹ thuật như vậy có thể hữu ích để phân tích những dị thường tinh vi về ánh sáng, bóng tối và phản xạ trên các phần khác nhau của hình ảnh”, ông nói. “Việc phát hiện sự không nhất quán trong các tính chất vật lý của ánh sáng có thể bổ sung cho các phương pháp hiện có và cải thiện độ chính xác tổng thể của việc phát hiện deepfake.”
Bằng cách phân tích hình ảnh khuôn mặt bằng các phương pháp thường được sử dụng để khảo sát các thiên hà xa xôi, các nhà thiên văn học có thể đo lường cách mắt của một người phản chiếu ánh sáng, từ đó có thể tiết lộ các dấu hiệu nhận biết về hình ảnh giả.
Kevin Pimbblet, giám đốc Trung tâm về Khoa học Dữ liệu, Trí tuệ Nhân tạo và Mô hình hóa tại Đại học Hull, Vương quốc Anh, người đã trình bày nghiên cứu này cho biết: “Đó không phải là viên đạn bạc, bởi vì chúng tôi có kết quả dương tính giả và âm tính giả. Nhưng nghiên cứu này cung cấp một phương pháp tiềm năng, một hướng đi quan trọng phía trước, có lẽ để bổ sung thêm vào các thử nghiệm mà người ta có thể áp dụng nhằm tìm hiểu xem hình ảnh là thật hay giả.”
Những tiến bộ trong trí tuệ nhân tạo (AI) đang khiến việc phân biệt hình ảnh, video và âm thanh chân thực với những hình ảnh, video và âm thanh giả do máy tính tạo ra ngày càng khó khăn hơn. Deepfake thay thế các đặc điểm của một người hoặc môi trường này bằng một người hoặc môi trường khác và có thể khiến mọi người có vẻ như đã nói hoặc làm những điều mà họ không hề làm. Các nhà chức trách cảnh báo rằng công nghệ này có thể được vũ khí hóa và sử dụng để truyền bá thông tin sai lệch, chẳng hạn như trong các cuộc bầu cử.
Ông Pimbblet giải thích thêm: Những bức ảnh chân thực phải có “tính chất vật lý nhất quán”, “vì vậy những phản chiếu mà bạn nhìn thấy ở nhãn cầu bên trái phải rất giống, mặc dù không nhất thiết phải giống hệt với những phản chiếu nhìn thấy ở nhãn cầu bên phải”. Sự khác biệt rất nhỏ nên để phát hiện ra chúng, các nhà nghiên cứu đã chuyển sang các kỹ thuật được thiết kế để phân tích ánh sáng trong các hình ảnh thiên văn học.
Tác phẩm chưa được xuất bản này đã tạo thành nền tảng cho luận văn thạc sĩ của Adejumoke Owolabi, một nhà khoa học dữ liệu tại Đại học Hull, Vương quốc Anh, đã lấy hình ảnh thật từ Bộ dữ liệu Flickr-Faces-HQ và tạo khuôn mặt giả bằng cách sử dụng trình tạo hình ảnh. Sau đó, Olwolabi phân tích sự phản xạ của nguồn sáng trong mắt trong ảnh bằng hai phép đo thiên văn: hệ thống CAS và chỉ số Gini. Hệ thống CAS định lượng nồng độ, độ bất đối xứng và độ mịn của sự phân bố ánh sáng của vật thể. Trong nhiều thập kỷ, kỹ thuật này đã cho phép các nhà thiên văn học, trong đó có Pimbblet, mô tả đặc điểm ánh sáng của các ngôi sao ngoài thiên hà. Chỉ số Gini đo lường sự bất bình đẳng về phân bố ánh sáng trong hình ảnh của các thiên hà.
Đôi mắt trong ảnh deepfake (trái) có kiểu phản chiếu không nhất quán so với ảnh thật (phải)
Bằng cách so sánh sự phản chiếu trong nhãn cầu của một cá nhân, Owolabi có thể dự đoán chính xác liệu hình ảnh đó có phải là giả trong khoảng 70% trường hợp. Cuối cùng, các nhà nghiên cứu phát hiện ra rằng chỉ số Gini tốt hơn hệ thống CAS trong việc dự đoán liệu một hình ảnh có bị chỉnh sửa hay không.
Brant Robertson, nhà vật lý thiên văn tại Đại học California, Santa Cruz, hoan nghênh nghiên cứu này. Ông cảnh báo: “Tuy nhiên, nếu bạn có thể tính toán một số liệu định lượng mức độ chân thực của hình ảnh deepfake, bạn cũng có thể huấn luyện mô hình AI để tạo ra các bản deepfake thậm chí còn tốt hơn bằng cách tối ưu hóa số liệu đó”.
Zhiwu Huang, một nhà nghiên cứu AI tại Đại học Southampton, Anh, cho biết nghiên cứu của riêng ông chưa xác định được các kiểu ánh sáng không nhất quán trong mắt trong các bức ảnh deepfake. Nhưng “trong khi kỹ thuật cụ thể sử dụng sự phản chiếu không nhất quán trong nhãn cầu có thể không được áp dụng rộng rãi, thì những kỹ thuật như vậy có thể hữu ích để phân tích những dị thường tinh vi về ánh sáng, bóng tối và phản xạ trên các phần khác nhau của hình ảnh”, ông nói. “Việc phát hiện sự không nhất quán trong các tính chất vật lý của ánh sáng có thể bổ sung cho các phương pháp hiện có và cải thiện độ chính xác tổng thể của việc phát hiện deepfake.”
