thumbnail - Muốn phát hiện người chat videocall có phải là deepfake hay không, chỉ cần yêu cầu người đó làm duy nhất một điều này
Tiến Thanh
Hà Nội

Muốn phát hiện người chat videocall có phải là deepfake hay không, chỉ cần yêu cầu người đó làm duy nhất một điều này

Các nhà nghiên cứu đã phát hiện ra một cách đơn giản đáng ngạc nhiên để phát hiện cuộc gọi video deepfake, đó là yêu cầu nghi phạm quay sang một bên.

Muốn phát hiện người chat videocall có phải là deepfake hay không, chỉ cần yêu cầu người đó làm duy nhất một điều này 

Bí quyết này đã được Metaphysic.ai, một công ty khởi nghiệp có trụ sở tại London chia sẻ trong tuần này. Đây cũng là công ty đứng đằng sau những cú deepfakes lan truyền của Tom Cruise.

Công ty đã sử dụng DeepFaceLive, một ứng dụng phổ biến dành cho video deepfakes để biến một tình nguyện viên thành những người nổi tiếng khác nhau.

Hầu hết hình ảnh deepfake đều ấn tượng và chân thực khi người đó nhìn về phía trước. Nhưng một khi khuôn mặt xoay hết 90 độ, hình ảnh ngay lập tức trở nên méo mó và thuật toán “lừa đảo” bị phá vỡ.

Nhóm nghiên cứu tin rằng các khiếm khuyết xuất hiện do phần mềm sử dụng ít điểm tham chiếu hơn để ước tính hình chiếu bên của khuôn mặt. Điều này khiến thuật toán không thể đoán được vùng đó trông như thế nào.

Muốn phát hiện người chat videocall có phải là deepfake hay không, chỉ cần yêu cầu người đó làm duy nhất một điều này 

Martin Anderson giải thích trong một bài đăng trên blog: “Các gói căn chỉnh 2D coi chế độ xem hồ sợ bị ẩn 50% nên cản trở việc nhận dạng, đào tạo chính xác và tổng hợp khuôn mặt sau đó”.

Những điểm yếu này có thể được cải thiện nhưng phải mất rất nhiều công sức.

YouTuber DesiFakes đã chứng minh điều đó là hoàn toàn khả thi sau khi thêm hình ảnh deepfake của diễn viên hài Jerry Seinfeld vào một nhân vật trong Pulp Fiction. Nhưng điều này đòi hỏi quá trình xử lý hậu kỳ rất mất thời gian. Bù lại góc nhìn của Seinfeld gần giống với diễn viên gốc.

Tuy nhiên, điều này khó có thể lặp lại đối với công chúng, bởi vì chúng ta hiếm khi được quay phim hoặc chụp ảnh hồ sơ trừ khi bị bắt buộc.

Điều này có thể khiến các mô hình deepfake không đủ dữ liệu huấn luyện để tạo ra các chế độ xem trông giống như thật.


Muốn phát hiện người chat videocall có phải là deepfake hay không, chỉ cần yêu cầu người đó làm duy nhất một điều này 

Thuật toán ngay lập tức bị "đánh bại" nếu nhân vật quay sang ngang.

Nghiên cứu của Metaphysic.ai xuất hiện trong bối cảnh ngày càng có nhiều lo ngại về cuộc gọi video deepfake. Vào tháng 6, một số thị trưởng châu Âu đã bị lừa bởi một cuộc gọi điện video từ Vitali Klitschko.

Vài ngày sau, FBI cảnh báo những kẻ lừa đảo đang sử dụng deepfake trong các cuộc phỏng vấn công việc từ xa để tiếp cận quyền truy cập vào thông tin có giá trị.

Mặc dù vậy thủ thuật này có thể không cứu được tất cả nạn nhân. Các hệ thống 3D trong tương lai có thể tạo ra các hình ảnh nhân vật chân thực tới mức thuyết phục, trong khi các mô hình CGI siêu thực có thể thay thế toàn bộ phần đầu.

Tuy nhiên, thủ thuật nhìn nghiêng sẽ là một cách hiệu quả để phát hiện những kẻ giả mạo mà bạn nên thử.

>> Điện thoại màn hình gập có dễ hư hỏng không? Định mua nhưng sợ máy không bền

Nguồn: Thenextweb

Chủ đề liên quan

Chủ đề khác