6 nguy cơ chính của Deepfake và cách phát hiện

Deepfake thách thức cách chúng ta tin vào những gì mình nhìn thấy trên mạng hoặc trên TV. Vậy, làm thế nào để phát hiện một deepfake?

Trong một thế giới mà danh tính trên mạng kết nối trực tiếp con người ngoài đời, nguy cơ của việc sao chép hoàn hảo thật đáng lo ngại. Nhưng đó chính xác là những gì chúng ta phải đối mặt với sự ra đời của công nghệ deepfake.

Khi công nghệ trở nên rẻ hơn và dễ sử dụng hơn thì deepfake mang đến những nguy cơ gì? Làm thế nào để phát hiện deepfake và hình ảnh thực?

Deepfake là gì?

Deepfake là tên gọi cho video hoặc hình ảnh mà nhân vật trong đó được thay thế bằng hình ảnh của người khác. Thuật ngữ này là từ ghép của "deeplearning" (học sâu) và "fake" (giả mạo), sử dụng các thuật toán học máy và trí tuệ nhân tạo để tạo ra hình ảnh tái tạo trông như thật.

Ở mức cơ bản nhất, bạn có thể thấy một khuôn mặt chồng lên một mô hình khác. Trong giai đoạn phát triển nhanh chóng, công nghệ deepfake đã ghép hình ảnh nạn nhân vào các video khiêu dâm, tin tức giả mạo, trò lừa bịp, v.v.

Mối nguy của Deepfake

Hình ảnh giả mạo luôn tồn tại. Nhiệm vụ xác định đâu là giả và đâu là thật dần trở thành một phần củacuộc sống, đặc biệt là sau sự trỗi dậy của các phương tiện truyền thông số hóa. Nhưng các vấn đề mà công nghệ deepfake tạo ra lại lên một tầm cao mới, với độ chính xác vô song cho hình ảnh và video giả mạo.

Một trong những video deepfake đầu tiên thu hút nhiều khán giả là video Jordan Peele đóng giả Barack Obama:

Video khá thô, giọng nói lạ và còn nhiều vết sần sùi trên khuôn mặt nhân vật, tuy nhiên có thể minh họa cho công nghệ deepfake.

Hoặc bạn đã bao giờ tự hỏi sẽ như thế nào nếu Will Smith đóng vai Neo trong phim The Matrix thay vì Keanu Reeves chưa? Không còn phải tưởng tượng nữa nhé:

Hai video không độc hại này mất hàng trăm giờ học máy để biên tập. Nhưng công nghệ thì có sẵn, và bất cứ ai có đủ thời gian để học và có đủ năng lực tính toán đều có thể theo đuổi. Rào cản đối với việc sử dụng deepfake ban đầu khá lớn. Nhưng khi công nghệ cải tiến và các rào cản gia nhập giảm đáng kể, người ta lại thấydeepfake được ứng dụng vào nhiều mục đích xấu.

1. Giả mạo người nổi tiếng trong các phim người lớn

Một trong những mối đe dọa chính từ công nghệ deepfake là việc giả mạo trong phim người lớn. Có hàng chục nghìn video phim người lớn với khuôn mặt của những sao nữ nổi tiếng như Emma Watson, Natalie Portman và Taylor Swift.

Tất cả đều sử dụng thuật toán học máy deepfake để ghép khuôn mặt người nổi tiếng vào cơ thể của một nữ diễn viên phim người lớn. Những video này thu hút hàng chục triệu lượt xem trên các trang web nội dung người lớn mà không có tác động hay thanh lọc nào từ phía các quản trị trang.

Giorgio Patrini, Giám đốc điều hành và trưởng nhóm nghiên cứu tại Sensity - công ty phân tích và phát hiện deepfake cho biết: "Sẽ không có động thái nào cho đến khi có lý do chính đáng để loại trừ các video này. Mọi người sẽ vẫn tự do tải lên các trang web được hàng trăm triệu người xem này".

Các video này mang tính chất lạm dụng hình ảnh cá nhân và không hề "vô hại với nạn nhân" như một số người sáng tạo nội dung deepfake quả quyết.

2. Giả mạo người không nổi tiếng trong các phim người lớn

Còn gì tệ hơn phim khiêu dâm giả mạo người nổi tiếng? Đó chính là phim khiêu dâm với hình ảnh của những người không hề nổi tiếng. Nghiên cứu của Sensity đã phát hiện ra một bot deepfake trên ứng dụng nhắn tin xã hội Telegram, tạo ra hơn 100.000 hình ảnh khỏa thân deepfake. Nhiều hình ảnh bị đánh cắp từ các tài khoản mạng xã hội là các bạn gái, những người vợ, người mẹ, v.v.

Bot là một tiến bộ lớn trong công nghệ deepfake, bởi người tải ảnh lên không cần kiến ​​thức về deepfake, học máy hay AI. Đây là một quá trình tự động và thứ cần có duy nhất là hình ảnh. Hơn nữa, có vẻ bot này chỉ hoạt động với hình ảnh của phụ nữ, và các gói đăng ký cao cấp (nhiều hình ảnh hơn, không có hình mờ) có giá rẻ bất ngờ.

Giống như các deepfake người nổi tiếng, các ảnh trên bot Telegram mang tính hủy hoại hình ảnh và vô đạo đức. Rất có thể những bức ảnh này sẽ được gửi tới hộp thư đến của chồng, đối tác, thành viên gia đình, đồng nghiệp hoặc sếp của các nạn nhân và phá hoại cuộc sống của họ. Điều này có thể dẫn tới các hình thức tống tiền và làm gia tăng nguy cơ khác như phát tán hình ảnh khiêu dâm để trả thù tình.

Việc đăng các; hình ảnh deepfake trên Telegram cũng dẫn tới một vấn đề khác. Telegram là dịch vụ nhắn tin tập trung vào quyền riêng tư, không can thiệp quá nhiều tới người dùng. Ứng dụng này có chính sách xóa bot khiêu dâm và các bot khác liên quan đến nội dung người lớn nhưng chưa có hành động gì trong trường hợp này.

3. Tung tin đồn nhảm

Bạn đã thấy Jordan Peele đóng vai Obama nhờ công nghệ deepfake. Trong video, Jordan cảnh báo về sự nguy hiểm của chính công nghệ này. Một trong những lo ngại lớn liên quan đến deepfake là ai đó sẽ tạo ra và xuất bản một video quá "thật", dẫn đến một thảm kịch nào đó.

Trong kịch bản xấu nhất, nhiều người cho rằng video deepfake có thể gây ra chiến tranh. Ngoài ra còn có những hậu quả lớn khác. Ví dụ: một video deepfake với hình ảnh một công ty lớn hoặc giám đốc điều hành ngân hàng đưa ra tuyên bố nào đó có thể gây ra sự sụp đổ của thị trường chứng khoán. Mặc dù chúng ta có thể xác minh và đính chính một video là thật hay không, nhưng thị trường thường phản ứng "luôn và ngay" và tình trạng hỗn loạn vẫn xảy ra.

Một vấn đề khác cần xem xét là về số lượng. Việc tạo ra nội dung deepfake ngày càng rẻ cho phép kẻ xấu tạo ra một lượng lớn nội dung deepfake về cùng một người, tập trung vào việc truyền tải cùng một thông điệp giả bằng các sắc thái, địa điểm, phong cách khác nhau, v.v.

4. Chối bỏ thông tin thật

Chúng ta phải thừa nhận rằng các nội dung deepfake sẽ trở nên vô cùng "thật", đến mức mọi người sẽ bắt đầu đặt ra câu hỏi, liệu video có thật hay không, bất kể nội dung của nó như thế nào.

Nếu một người nào đó phạm tội và bằng chứng duy nhất là video, thì làm sao để bác bỏ luận điệu: "Đó là deepfake, đó là bằng chứng giả"? Ngược lại, việc cố tình làm giả bằng chứng bằng video deepfake thì sao?

5. Giả mạo những người có tầm ảnh hưởng

Đã có một số trường hợp nội dung deepfake có nhân vật là người định hướng tư tưởng. Hồ sơ trên LinkedIn và Twitter nêu chi tiết các vai trò cấp cao trong các tổ chức chiến lược, nhưng những người này không hề tồn tại và có vẻ được tạo ra bằng công nghệ deepfake.

Đây không phải vấn đề của riêng deepfake. Từ lâu nay, các chính phủ, mạng lưới gián điệp và các tập đoàn đã sử dụng hồ sơ và danh tính giả để thu thập thông tin, thúc đẩy và thao túng các chương trình nghị sự.

6. Các hình thức lừa đảo khác

Kỹ thuật xã hội (social engineering) là vấn đề quen thuộc trong lĩnh vực an ninh mạng. Con người muốn tin tưởng vào người khác. Nó thuộc về bản chất của chúng ta. Tuy nhiên sự tin tưởng đó có thể dẫn đến các sự cố về bảo mật, đánh cắp dữ liệu... Kỹ thuật xã hội thường yêu cầu các thông tin cá nhân, có thể là qua điện thoại, video call…

Sẽ thế nào nếu ai đó sử dụng công nghệ deepfake giả mạo giám đốc để lấy được mã bảo mật hoặc thông tin nhạy cảm khác.

Cách phát hiện các deepfake

Các deepfake ngày càng nâng cao chất lượng, nên cách để phát hiện ra chúng hết sức quan trọng. Ban đầu chỉ là một số thông tin đơn giản như hình ảnh mờ, video bị lỗi hay một số vấn đề khác. Tuy nhiên, những vấn đề này đang dần giảm đi trong khi chi phí sử dụng công nghệ cũng hạ xuống nhanh chóng.

Không có cách tuyệt đối để phát hiện nội dung deepfake, nhưng dưới đây là 4 mẹo hữu ích:

- Chi tiết. Công nghệ deepfake ngày càng tinh vi hơn nhưng vẫn còn một số khiếm khuyết. Đặc biệt là các chi tiết nhỏ trong video, như chuyển động của tóc, chuyển động của mắt, chuyển động vùng má khi nói hay biểu cảm khuôn mặt không tự nhiên. Đặc biệt, chuyển động mắt là yếu tố quan trọng. Mặc dù deepfake hiện giờ có thể chớp mắt khá hơn nhiều so với những ngày đầu, nhưng vẫn chưa đạt đến độ "thật".

- Cảm xúc. Ngoài chú tâm vào chi tiết thì cảm xúc là yếu tố tiếp theo. Nếu ai đó đang đưa ra một tuyên bố mạnh mẽ, khuôn mặt của họ chắc chắn sẽ biểu hiển cảm xúc. Deepfake không thể mang lại cảm xúc chân thực như người thật.

- Không nhất quán. Điện thoại thông minh của bạn có thể ghi và truyền ở 4K. Nếu một nhà lãnh đạo chính trị đang đưa ra một tuyên bố, thì đó phải là trong một căn phòng đầy đủ các thiết bị ghi hình cao cấp nhất. Do đó, nếu một video chất lượng kém cả về hình ảnh và âm thanh cũng là một vấn đề bất thường.

- Nguồn. Video có xuất hiện trên nền tảng đã được xác minh không? Các nền tảng truyền thông xã hội có dấu xác minh để đảm bảo không bị giả mạo. Do đó, nếu kiểm tra kỹ càng một video quan trọng nào đó đang phát trực tuyến từ đâu hoặc được lưu trữ ở đâu sẽ giúp xác định đó có phải là thật hay không. Bạn cũng có thể tự tìm kiếm trên mạng để kiểm tra các nơi khác xuất hiện thông tin đó.

Các công cụ phát hiện và ngăn chặn deepfake

Bạn không đơn độc trong cuộc chiến chống lại deepfake. Một số công ty công nghệ lớn đang phát triển các công cụ giúp phát hiện deepfake, và nhiều nền tảng cũng đang thực hiện các bước để ngăn chặn deepfake.

Ví dụ: công cụ phát hiện deepfake của Microsoft, Microsoft Video Authenticator, sẽ phân tích trong vòng vài giây và thông báo cho người dùng về tính xác thực. Ngoài ra, Adobe cho phép bạn ký điện tử trên nội dung để bảo vệ nội dung đó không bị lạm dụng.

Các nền tảng như Facebook và Twitter đã cấm các deepfake độc hại. Google đang nghiên cứu công cụ phân tích văn bản thành giọng nói để chống lại các đoạn ghi âm giả mạo.

Kể từ khi trở nên phổ biến vào năm 2018, mục đích chính của các deepfake là lạm dụng phụ nữ. Cho dù đó là tạo nội dung khiêu dâm bằng cách sử dụng khuôn mặt người nổi tiếng hay lột đồ ai đó trên mạng xã hội, tất cả đều tập trung vào việc lạm dụng và hạ thấp phụ nữ trên khắp thế giới. Sự phát triển của công nghệ như vậy gây nguy hại cho cộng đồng nhưng hiện tại mới chỉ có vài động thái để ngăn chặn.

Hồng Loan - Theo MakeUseOf