Sasha
Writer
Internet tràn ngập deepfake — âm thanh, hình ảnh hoặc video được tạo bằng các công cụ trí tuệ nhân tạo trong đó mọi người dường như làm hoặc nói những điều họ không làm, ở một nơi họ không ở hoặc bị thay đổi ngoại hình. Một số liên quan đến việc khỏa thân, trong đó ảnh được chỉnh sửa để mô tả một người không mặc quần áo. Các deepfake khác được triển khai để lừa đảo người tiêu dùng hoặc làm tổn hại đến danh tiếng của các chính trị gia và những người khác trong mắt công chúng.
Những tiến bộ trong AI có nghĩa là chỉ cần một vài lần nhấn trên bàn phím để tạo ra một deepfake chân thực. Các chính phủ lo lắng đang cố gắng chống trả, nhưng đó là một cuộc chiến thất bại. Theo dữ liệu từ công ty xác minh danh tính Signicat, các nỗ lực gian lận sử dụng deepfake đã tăng hơn 20 lần trong ba năm qua.
Các nước đang làm gì để chống lại deepfake?
Vào ngày 28 tháng 4, Hạ viện Hoa Kỳ đã thông qua Đạo luật “Take It Down” (Gỡ bỏ) để hình sự hóa nội dung khiêu d.âm không có sự đồng thuận do AI tạo ra, còn được gọi là nội dung khiêu d.âm trả thù deepfake. Dự luật này được đệ nhất phu nhân Melania Trump ủng hộ và Tổng thống Donald Trump dự kiến sẽ ký. Cùng ngày, ủy viên trẻ em của Anh đã kêu gọi chính phủ Anh cấm các ứng dụng khỏa th.ân được cung cấp rộng rãi trực tuyến.
Năm ngoái, Ủy ban Truyền thông Liên bang Hoa Kỳ (FCC) đã ban hành lệnh cấm các công ty sử dụng giọng nói do AI tạo ra trong các cuộc gọi tự động. Lệnh cấm được đưa ra hai ngày sau khi FCC ban hành lệnh ngừng và hủy bỏ đối với công ty chịu trách nhiệm về một cuộc gọi deepfake âm thanh của Tổng thống Joe Biden. Người dân New Hampshire đã nhận được một cuộc gọi tự động trước cuộc bầu cử sơ bộ của tổng thống tiểu bang có giọng nói giống như Biden kêu gọi họ ở nhà và "giữ phiếu bầu của bạn cho cuộc bầu cử vào tháng 11".
Đạo luật AI của Liên minh Châu Âu yêu cầu các nền tảng phải dán nhãn deepfake như vậy. Trung Quốc đã ban hành luật tương tự vào năm 2023.
Những vụ deepfake nổi tiếng?
Những hình ảnh deepfake rõ ràng về ngôi sao nhạc pop Taylor Swift đã được chia sẻ rộng rãi trên mạng xã hội vào tháng 1 năm 2024, khiến hàng loạt người hâm mộ của cô tức giận và Nhà Trắng bày tỏ sự lo ngại.
Trong cuộc bầu cử tổng thống Hoa Kỳ năm 2024, Elon Musk đã chia sẻ một video chiến dịch deepfake có sự góp mặt của ứng cử viên đảng Dân chủ Kamala Harris mà không dán nhãn là gây hiểu lầm. Giọng nói được AI điều khiển trong video dường như cho thấy bà gọi Tổng thống Joe Biden là người già và tuyên bố rằng bà "không biết điều đầu tiên về việc điều hành đất nước".
Video đó đã thu hút hàng chục triệu lượt xem. Để đáp lại, Thống đốc California Gavin Newsom đã tuyên bố sẽ cấm các deepfake chính trị được chỉnh sửa kỹ thuật số và đã ký một đạo luật thực hiện điều này vào tháng 9.
Video deepfake được tạo ra như thế nào?
Chúng thường được tạo ra bằng thuật toán AI được đào tạo để nhận dạng các mẫu trong các bản ghi video thực tế của một người cụ thể, một quá trình được gọi là học sâu. Sau đó, có thể hoán đổi một phần tử của một video, chẳng hạn như khuôn mặt của người đó, thành một phần nội dung khác mà không trông giống như một bản dựng thô sơ. Các thao tác này dễ gây hiểu lầm nhất khi sử dụng công nghệ sao chép giọng nói, công nghệ này chia nhỏ đoạn ghi âm của một người nói thành các đoạn nửa âm tiết có thể được ghép lại thành các từ mới có vẻ như được người trong bản ghi âm gốc nói.
Deepfake đã bùng nổ như thế nào?
Ban đầu, công nghệ này thuộc phạm vi của các học giả và nhà nghiên cứu. Tuy nhiên, Motherboard, một ấn phẩm của Vice, đã đưa tin vào năm 2017 rằng một người dùng Reddit có tên là "deepfakes" đã nghĩ ra một thuật toán để tạo video giả bằng mã nguồn mở. Reddit đã cấm người dùng này, nhưng hoạt động này đã lan rộng. Ban đầu, deepfake yêu cầu video đã tồn tại và một màn trình diễn giọng nói thực sự, cùng với các kỹ năng chỉnh sửa thông minh.
Các hệ thống AI tạo hình ngày nay cho phép người dùng tạo ra hình ảnh và video thuyết phục từ các lời nhắc viết đơn giản. Yêu cầu máy tính tạo video đưa lời nói vào miệng ai đó và video đó sẽ xuất hiện.
Làm sao bạn có thể biết đó có phải là deepfake không?
Các sản phẩm giả mạo kỹ thuật số ngày càng khó phát hiện hơn khi các công ty AI áp dụng các công cụ mới vào khối lượng lớn tài liệu có sẵn trên web, từ YouTube đến các thư viện hình ảnh và video.
Vẫn có thể có những dấu hiệu cho thấy hình ảnh hoặc video được tạo ra bằng AI, từ một chi bị mất cho đến một bàn tay sáu ngón. Có thể có sự không nhất quán giữa màu sắc của các phần đã chỉnh sửa và chưa chỉnh sửa của một hình ảnh. Với video, cũng có thể có sự không khớp giữa chuyển động của lời nói và miệng. AI có thể gặp khó khăn trong việc hiển thị các chi tiết nhỏ của các yếu tố như tóc, miệng và bóng tối, và các cạnh của vật thể đôi khi có thể bị răng cưa và bị vỡ.
Nhưng tất cả những điều này có thể thay đổi khi các mô hình cơ bản được cải thiện.
Một số ví dụ điển hình khác về deepfake?
Những kẻ phá hoại Trung Quốc đã phát tán những hình ảnh bị chỉnh sửa về các vụ cháy rừng trên đảo Maui của Hawaii vào tháng 8 năm 2023 để ủng hộ cho lời khẳng định rằng chúng là do một "vũ khí thời tiết" bí mật đang được Hoa Kỳ thử nghiệm.
Vào tháng 5 năm 2023, cổ phiếu của Hoa Kỳ đã giảm trong thời gian ngắn sau khi một hình ảnh lan truyền trực tuyến dường như cho thấy Lầu Năm Góc đang bốc cháy. Các chuyên gia cho biết bức ảnh giả mạo này có dấu hiệu được tạo ra bởi AI.
Vào tháng 2 năm đó, một đoạn clip âm thanh được dàn dựng đã xuất hiện với những gì nghe giống như ứng cử viên tổng thống Nigeria Atiku Abubakar đang âm mưu gian lận phiếu bầu trong tháng đó.
Năm 2021, một video dài một phút được công bố trên mạng xã hội dường như cho thấy Tổng thống Ukraine Volodymyr Zelenskiy ra lệnh cho binh lính của mình hạ vũ khí và đầu hàng Nga. Các video deepfake khác vô hại, chẳng hạn như video ngôi sao bóng đá Cristiano Ronaldo hát thơ tiếng Ả Rập.
Mối nguy hiểm ở đây là gì?
Người ta lo ngại rằng cuối cùng, video deepfake sẽ trở nên quá thuyết phục đến mức không thể phân biệt được đâu là thật đâu là giả. Hãy tưởng tượng những kẻ lừa đảo thao túng giá cổ phiếu bằng cách tạo ra các video giả mạo về các giám đốc điều hành đưa ra thông tin cập nhật của công ty hoặc video giả mạo về những người lính phạm tội ác chiến tranh. Các chính trị gia, lãnh đạo doanh nghiệp và người nổi tiếng đặc biệt có nguy cơ, vì có rất nhiều bản ghi âm về họ.
Công nghệ này giúp cho cái gọi là phim khiêu d.âm trả thù trở nên khả thi ngay cả khi không có ảnh hoặc video khỏa t.hân thực tế nào, với phụ nữ thường là mục tiêu. Một khi video lan truyền trên internet, thì gần như không thể ngăn chặn được.
Báo cáo tháng 4 của ủy viên trẻ em Vương quốc Anh đã nêu bật nỗi sợ ngày càng tăng của trẻ em về việc trở thành nạn nhân của deepfake rõ ràng. Một mối quan tâm khác là việc nâng cao nhận thức về deepfake sẽ giúp những người thực sự bị bắt quả tang đang làm hoặc nói những điều đáng phản đối hoặc bất hợp pháp dễ dàng hơn khi tuyên bố rằng bằng chứng chống lại họ là giả mạo. Một số người đã sử dụng biện hộ deepfake tại tòa án.
Còn có thể làm gì để ngăn chặn deepfake?
Loại máy học tạo ra deepfake không thể dễ dàng đảo ngược để phát hiện ra chúng. Nhưng một số ít công ty khởi nghiệp như Sensity AI có trụ sở tại Hà Lan và Sentinel có trụ sở tại Estonia đã và đang phát triển công nghệ phát hiện, cũng như nhiều công ty công nghệ lớn của Hoa Kỳ.
Các công ty bao gồm Microsoft đã cam kết nhúng hình mờ kỹ thuật số vào hình ảnh được tạo bằng công cụ AI của họ để phân biệt chúng là giả mạo. Nhà phát triển ChatGPT OpenAI đã phát triển công nghệ phát hiện hình ảnh AI, cũng như một cách để đóng dấu văn bản — mặc dù công ty chưa phát hành công nghệ sau một phần vì công ty cho biết rằng những kẻ xấu có thể dễ dàng vượt qua.
Những tiến bộ trong AI có nghĩa là chỉ cần một vài lần nhấn trên bàn phím để tạo ra một deepfake chân thực. Các chính phủ lo lắng đang cố gắng chống trả, nhưng đó là một cuộc chiến thất bại. Theo dữ liệu từ công ty xác minh danh tính Signicat, các nỗ lực gian lận sử dụng deepfake đã tăng hơn 20 lần trong ba năm qua.
Các nước đang làm gì để chống lại deepfake?
Vào ngày 28 tháng 4, Hạ viện Hoa Kỳ đã thông qua Đạo luật “Take It Down” (Gỡ bỏ) để hình sự hóa nội dung khiêu d.âm không có sự đồng thuận do AI tạo ra, còn được gọi là nội dung khiêu d.âm trả thù deepfake. Dự luật này được đệ nhất phu nhân Melania Trump ủng hộ và Tổng thống Donald Trump dự kiến sẽ ký. Cùng ngày, ủy viên trẻ em của Anh đã kêu gọi chính phủ Anh cấm các ứng dụng khỏa th.ân được cung cấp rộng rãi trực tuyến.
Năm ngoái, Ủy ban Truyền thông Liên bang Hoa Kỳ (FCC) đã ban hành lệnh cấm các công ty sử dụng giọng nói do AI tạo ra trong các cuộc gọi tự động. Lệnh cấm được đưa ra hai ngày sau khi FCC ban hành lệnh ngừng và hủy bỏ đối với công ty chịu trách nhiệm về một cuộc gọi deepfake âm thanh của Tổng thống Joe Biden. Người dân New Hampshire đã nhận được một cuộc gọi tự động trước cuộc bầu cử sơ bộ của tổng thống tiểu bang có giọng nói giống như Biden kêu gọi họ ở nhà và "giữ phiếu bầu của bạn cho cuộc bầu cử vào tháng 11".
Đạo luật AI của Liên minh Châu Âu yêu cầu các nền tảng phải dán nhãn deepfake như vậy. Trung Quốc đã ban hành luật tương tự vào năm 2023.
Những vụ deepfake nổi tiếng?
Những hình ảnh deepfake rõ ràng về ngôi sao nhạc pop Taylor Swift đã được chia sẻ rộng rãi trên mạng xã hội vào tháng 1 năm 2024, khiến hàng loạt người hâm mộ của cô tức giận và Nhà Trắng bày tỏ sự lo ngại.
Trong cuộc bầu cử tổng thống Hoa Kỳ năm 2024, Elon Musk đã chia sẻ một video chiến dịch deepfake có sự góp mặt của ứng cử viên đảng Dân chủ Kamala Harris mà không dán nhãn là gây hiểu lầm. Giọng nói được AI điều khiển trong video dường như cho thấy bà gọi Tổng thống Joe Biden là người già và tuyên bố rằng bà "không biết điều đầu tiên về việc điều hành đất nước".
Video đó đã thu hút hàng chục triệu lượt xem. Để đáp lại, Thống đốc California Gavin Newsom đã tuyên bố sẽ cấm các deepfake chính trị được chỉnh sửa kỹ thuật số và đã ký một đạo luật thực hiện điều này vào tháng 9.
Video deepfake được tạo ra như thế nào?
Chúng thường được tạo ra bằng thuật toán AI được đào tạo để nhận dạng các mẫu trong các bản ghi video thực tế của một người cụ thể, một quá trình được gọi là học sâu. Sau đó, có thể hoán đổi một phần tử của một video, chẳng hạn như khuôn mặt của người đó, thành một phần nội dung khác mà không trông giống như một bản dựng thô sơ. Các thao tác này dễ gây hiểu lầm nhất khi sử dụng công nghệ sao chép giọng nói, công nghệ này chia nhỏ đoạn ghi âm của một người nói thành các đoạn nửa âm tiết có thể được ghép lại thành các từ mới có vẻ như được người trong bản ghi âm gốc nói.
Deepfake đã bùng nổ như thế nào?
Ban đầu, công nghệ này thuộc phạm vi của các học giả và nhà nghiên cứu. Tuy nhiên, Motherboard, một ấn phẩm của Vice, đã đưa tin vào năm 2017 rằng một người dùng Reddit có tên là "deepfakes" đã nghĩ ra một thuật toán để tạo video giả bằng mã nguồn mở. Reddit đã cấm người dùng này, nhưng hoạt động này đã lan rộng. Ban đầu, deepfake yêu cầu video đã tồn tại và một màn trình diễn giọng nói thực sự, cùng với các kỹ năng chỉnh sửa thông minh.
Các hệ thống AI tạo hình ngày nay cho phép người dùng tạo ra hình ảnh và video thuyết phục từ các lời nhắc viết đơn giản. Yêu cầu máy tính tạo video đưa lời nói vào miệng ai đó và video đó sẽ xuất hiện.
Làm sao bạn có thể biết đó có phải là deepfake không?
Các sản phẩm giả mạo kỹ thuật số ngày càng khó phát hiện hơn khi các công ty AI áp dụng các công cụ mới vào khối lượng lớn tài liệu có sẵn trên web, từ YouTube đến các thư viện hình ảnh và video.
Vẫn có thể có những dấu hiệu cho thấy hình ảnh hoặc video được tạo ra bằng AI, từ một chi bị mất cho đến một bàn tay sáu ngón. Có thể có sự không nhất quán giữa màu sắc của các phần đã chỉnh sửa và chưa chỉnh sửa của một hình ảnh. Với video, cũng có thể có sự không khớp giữa chuyển động của lời nói và miệng. AI có thể gặp khó khăn trong việc hiển thị các chi tiết nhỏ của các yếu tố như tóc, miệng và bóng tối, và các cạnh của vật thể đôi khi có thể bị răng cưa và bị vỡ.
Nhưng tất cả những điều này có thể thay đổi khi các mô hình cơ bản được cải thiện.
Một số ví dụ điển hình khác về deepfake?
Những kẻ phá hoại Trung Quốc đã phát tán những hình ảnh bị chỉnh sửa về các vụ cháy rừng trên đảo Maui của Hawaii vào tháng 8 năm 2023 để ủng hộ cho lời khẳng định rằng chúng là do một "vũ khí thời tiết" bí mật đang được Hoa Kỳ thử nghiệm.
Vào tháng 5 năm 2023, cổ phiếu của Hoa Kỳ đã giảm trong thời gian ngắn sau khi một hình ảnh lan truyền trực tuyến dường như cho thấy Lầu Năm Góc đang bốc cháy. Các chuyên gia cho biết bức ảnh giả mạo này có dấu hiệu được tạo ra bởi AI.
Vào tháng 2 năm đó, một đoạn clip âm thanh được dàn dựng đã xuất hiện với những gì nghe giống như ứng cử viên tổng thống Nigeria Atiku Abubakar đang âm mưu gian lận phiếu bầu trong tháng đó.
Năm 2021, một video dài một phút được công bố trên mạng xã hội dường như cho thấy Tổng thống Ukraine Volodymyr Zelenskiy ra lệnh cho binh lính của mình hạ vũ khí và đầu hàng Nga. Các video deepfake khác vô hại, chẳng hạn như video ngôi sao bóng đá Cristiano Ronaldo hát thơ tiếng Ả Rập.
Mối nguy hiểm ở đây là gì?
Người ta lo ngại rằng cuối cùng, video deepfake sẽ trở nên quá thuyết phục đến mức không thể phân biệt được đâu là thật đâu là giả. Hãy tưởng tượng những kẻ lừa đảo thao túng giá cổ phiếu bằng cách tạo ra các video giả mạo về các giám đốc điều hành đưa ra thông tin cập nhật của công ty hoặc video giả mạo về những người lính phạm tội ác chiến tranh. Các chính trị gia, lãnh đạo doanh nghiệp và người nổi tiếng đặc biệt có nguy cơ, vì có rất nhiều bản ghi âm về họ.
Công nghệ này giúp cho cái gọi là phim khiêu d.âm trả thù trở nên khả thi ngay cả khi không có ảnh hoặc video khỏa t.hân thực tế nào, với phụ nữ thường là mục tiêu. Một khi video lan truyền trên internet, thì gần như không thể ngăn chặn được.
Báo cáo tháng 4 của ủy viên trẻ em Vương quốc Anh đã nêu bật nỗi sợ ngày càng tăng của trẻ em về việc trở thành nạn nhân của deepfake rõ ràng. Một mối quan tâm khác là việc nâng cao nhận thức về deepfake sẽ giúp những người thực sự bị bắt quả tang đang làm hoặc nói những điều đáng phản đối hoặc bất hợp pháp dễ dàng hơn khi tuyên bố rằng bằng chứng chống lại họ là giả mạo. Một số người đã sử dụng biện hộ deepfake tại tòa án.
Còn có thể làm gì để ngăn chặn deepfake?
Loại máy học tạo ra deepfake không thể dễ dàng đảo ngược để phát hiện ra chúng. Nhưng một số ít công ty khởi nghiệp như Sensity AI có trụ sở tại Hà Lan và Sentinel có trụ sở tại Estonia đã và đang phát triển công nghệ phát hiện, cũng như nhiều công ty công nghệ lớn của Hoa Kỳ.
Các công ty bao gồm Microsoft đã cam kết nhúng hình mờ kỹ thuật số vào hình ảnh được tạo bằng công cụ AI của họ để phân biệt chúng là giả mạo. Nhà phát triển ChatGPT OpenAI đã phát triển công nghệ phát hiện hình ảnh AI, cũng như một cách để đóng dấu văn bản — mặc dù công ty chưa phát hành công nghệ sau một phần vì công ty cho biết rằng những kẻ xấu có thể dễ dàng vượt qua.
Nguồn: Bloomberg
