cpsmartyboy
Pearl
Deepfake đã và sẽ là một loại hình “tội phạm” công nghệ cao mới mà tất cả người dùng cần hết sức dè chừng.
Mặc dù ban đầu thường được sử dụng để sáng tạo hoặc mua vui nhưng có vẻ như deepfake đang ngày càng biến tướng và trở thành công cụ nguy hiểm để triển khai các chiến dịch đưa thông tin sai lệch, gian lận danh tính và làm mất uy tín các nhân vật của công chúng và người nổi tiếng.
Trong một ví dụ khác, CEO Mark Zuckerberg của Meta đã bị mạo danh và thú nhận về việc chia sẻ dữ liệu có âm mưu. Gần đây còn có cả một số video ngớ ngẩn có sự tham gia của các diễn viên như Robert Pattinson và Keanu Reeves.
Đây là điều rất nguy hiểm vì deepfake đang làm tổn hại danh dự của nhiều người nổi tiếng và người của công chúng.
Bạn có tin đây là cựu tổng thống Obama đang phát biểu không?
Tưởng chừng deepfake là một kỹ thuật cực kỳ khó và phức tạp nhưng thật bất ngờ khi deepfake đang dễ tiếp cận hơn bao giờ hết, khiến các phần mềm phát hiện và các quy định quản lý không theo kịp.
Công nghệ deepfake cũng cho phép hồi sinh chân thực các diễn viên đã qua đời và tái hiện lịch sử. Chúng cũng giúp xoa dịu nỗi đau về những người thân yêu đã khuất của họ. Thế nhưng bên cạnh những mặt tích cực, nhiều người đang biến deepfake trở thành một công cụ xấu và gây ra nhiều vấn đề xã hội, cụ thể:
- Deepfake đang được sử dụng làm "bằng chứng" cho các tin tức giả mạo và thông tin sai lệch khác.
- Deepfake đang được sử dụng để làm mất uy tín của những người nổi tiếng và những người khác có sinh kế phụ thuộc vào việc chia sẻ nội dung để duy trì danh tiếng.
- Khó khăn khi cung cấp cảnh quay có thể kiểm chứng cho truyền thông chính trị, thông điệp sức khỏe và chiến dịch bầu cử.
- Khuôn mặt của mọi người sử dụng trong nội dung khiêu ***.
Vào năm 2019, công ty phần mềm phát hiện deepfake Deeptrace đã phát hiện ra 96% trong số 14.000 vụ deepfake có liên quan đến khiêu ***.
Các ứng dụng miễn phí như DeepNude 2.0 hiện không còn tồn tại được sử dụng để ghép khuôn mặt của nhiều phụ nữ vào các bức ảnh hoặc video khỏa thân, cốt nhằm tống tình hoặc tống tiền.
Ở Úc, các ứng dụng deepfake thậm chí còn cho phép thủ phạm lách luật để tống tình. Đây là một vấn đề khá nghiêm trọng.
Ngoài ra, deepfake cũng được sử dụng để lừa đảo và gian lận danh tính, đặc biệt là dưới dạng tin nhắn video từ “đồng nghiệp” hoặc “người thân” để yêu cầu chuyển tiền. Một nghiên cứu cho thấy gian lận danh tính bằng cách sử dụng thao tác kỹ thuật số khiến các tổ chức tài chính Mỹ thiệt hại 20 tỷ USD vào năm 2020.
Đoạn video sử dụng công nghệ deepfake khiến người xem nhầm tưởng đây là Tom Cruise thật
Nhưng có bằng chứng xác thực là việc tạo ra video deepfake đang ngày càng nhanh và dễ hơn. Các nhà nghiên cứu tại sáng kiến Global Pulse của Liên Hợp Quốc đã chứng minh, họ có thể làm giả các bài phát biểu thực tế chỉ trong 13 phút.
Khi các ứng dụng deepfake được phát triển ngày càng nhiều, kể cả những người có kỹ năng thấp cũng có thể tự tạo ra được những video deepfake trông giống như thật.
Mặc dù vậy, luật pháp và các quy định vẫn chưa thể theo kịp loại hình tội phạm mới sử dụng deepfake.
Vào năm 2019, Facebook đã phải hứng chịu những chỉ trích vì không xóa một video về chính trị gia người Mỹ Nancy Pelosi và sau đó được phát hiện là một video deepfake.
Vào năm 2020, Twitter đã cấm chia sẻ các nội dung có thể lừa dối, gây nhầm lẫn hoặc gây hại cho mọi người. TikTok, YouTube sau đó cũng đã làm như vậy.
Nhưng ngay cả khi có các chính sách mới để ngăn chặn deepfake, không chắc người kiểm duyệt có thể phản ứng kịp trước các báo cáo từ cộng đồng.
Tại Úc, các luật sư tại công ty NSW Ashurst cho biết luật bản quyền và phỉ báng hiện hành không bảo vệ được người Úc trước những kẻ lừa đảo.
Thông thường, dấu hiệu đầu tiên của deepfake là bạn sẽ cảm thấy “hụt hẫng”. Nếu vậy, hãy quan sát kỹ hơn khuôn mặt của đối tượng và tự hỏi:
- Có phải khuôn mặt quá mịn hoặc có xương gò má bất thường?
- Các chuyển động của mí mắt và miệng có vẻ rời rạc, gượng gạo hoặc không tự nhiên không?
- Tóc trông có giả không? Công nghệ deepfake hiện nay đang gặp khó khăn trong việc duy trì vẻ ngoài ban đầu của tóc.
Bối cảnh cũng rất quan trọng:
- Tự hỏi bản thân xem hình đó đang nói gì hoặc làm gì. Họ có đang nói nội dung nào đó tiêu cực hoặc thực hiện hành vi khiêu *** không? Bất cứ điều gì có vẻ khác thường hoặc sai trái đều có thể là biểu hiện của deepfake.
- Hãy nhớ tìm kiếm và tìm hiểu các từ khóa về video của người đó. Bởi lẽ bạn sẽ có thêm thông tin đa chiều về đối tượng mà bạn đang xem.
- Hãy thử đánh giá độ tin cậy của nguồn tin xem nó có chính thống hay không? Nếu bạn đang sử dụng nền tảng mạng xã hội, tài khoản của người đăng đã được xác minh hay chưa?
Rất nhiều điều ở trên là kiến thức kỹ thuật số cơ bản và đòi hỏi khả năng phán đoán tốt. Trong trường hợp cảm giác của bạn không thể nhận diện ra được video deepfake, có một số mẹo chuyên sâu hơn giúp bạn phát hiện được. Cụ thể:
- Tìm kiếm các từ khóa được sử dụng trong video để xem liệu có các video công khai về những gì họ đang nói hay không. Nếu có hãy xem và đối chiếu.
- Chụp ảnh màn hình video đang phát và thực hiện tìm kiếm hình ảnh đảo ngược của Google. Điều này có thể tiết lộ liệu hình ảnh gốc trong video có tồn tại hay không, sau đó bạn có thể so sánh với phiên bản đáng ngờ.
- Trực tiếp bật bất kỳ video đáng ngờ nào có “đồng nghiệp” hoặc “người thân” của cá nhân đó và sau đó gọi điện cho họ để kiểm chứng.
Cuối cùng, nếu bạn đã phát hiện ra một video nào đó là deepfake, đừng ngần ngại bấm nút báo cáo để nhanh chóng gỡ bỏ nói khỏi nền tảng.
Nguồn: TNW
>> Deepfake - công nghệ khởi đầu cho những video khiêu ***, dung tục giả mạo
Trong một ví dụ khác, CEO Mark Zuckerberg của Meta đã bị mạo danh và thú nhận về việc chia sẻ dữ liệu có âm mưu. Gần đây còn có cả một số video ngớ ngẩn có sự tham gia của các diễn viên như Robert Pattinson và Keanu Reeves.
Đây là điều rất nguy hiểm vì deepfake đang làm tổn hại danh dự của nhiều người nổi tiếng và người của công chúng.
Bạn có tin đây là cựu tổng thống Obama đang phát biểu không?
Tưởng chừng deepfake là một kỹ thuật cực kỳ khó và phức tạp nhưng thật bất ngờ khi deepfake đang dễ tiếp cận hơn bao giờ hết, khiến các phần mềm phát hiện và các quy định quản lý không theo kịp.
Vậy chúng ta có thể làm gì để ngăn chặn deepfake?
Thao tác văn bản, hình ảnh và cảnh quay từ lâu đã trở thành nền tảng của tính tương tác. Và deepfake cũng không ngoại lệ. Công nghệ này được sử dụng rộng rãi trong nghệ thuật kỹ thuật số và châm biếm. Nó cung cấp các kỹ thuật tinh tế hơn để chèn hình ảnh trực quan so với hình ảnh do máy tính tạo ra.Công nghệ deepfake cũng cho phép hồi sinh chân thực các diễn viên đã qua đời và tái hiện lịch sử. Chúng cũng giúp xoa dịu nỗi đau về những người thân yêu đã khuất của họ. Thế nhưng bên cạnh những mặt tích cực, nhiều người đang biến deepfake trở thành một công cụ xấu và gây ra nhiều vấn đề xã hội, cụ thể:
- Deepfake đang được sử dụng làm "bằng chứng" cho các tin tức giả mạo và thông tin sai lệch khác.
- Deepfake đang được sử dụng để làm mất uy tín của những người nổi tiếng và những người khác có sinh kế phụ thuộc vào việc chia sẻ nội dung để duy trì danh tiếng.
- Khó khăn khi cung cấp cảnh quay có thể kiểm chứng cho truyền thông chính trị, thông điệp sức khỏe và chiến dịch bầu cử.
- Khuôn mặt của mọi người sử dụng trong nội dung khiêu ***.
Các ứng dụng miễn phí như DeepNude 2.0 hiện không còn tồn tại được sử dụng để ghép khuôn mặt của nhiều phụ nữ vào các bức ảnh hoặc video khỏa thân, cốt nhằm tống tình hoặc tống tiền.
Ở Úc, các ứng dụng deepfake thậm chí còn cho phép thủ phạm lách luật để tống tình. Đây là một vấn đề khá nghiêm trọng.
Ngoài ra, deepfake cũng được sử dụng để lừa đảo và gian lận danh tính, đặc biệt là dưới dạng tin nhắn video từ “đồng nghiệp” hoặc “người thân” để yêu cầu chuyển tiền. Một nghiên cứu cho thấy gian lận danh tính bằng cách sử dụng thao tác kỹ thuật số khiến các tổ chức tài chính Mỹ thiệt hại 20 tỷ USD vào năm 2020.
Mối quan tâm ngày càng tăng
Những người tạo ra deepfake nhấn mạnh thời gian và công sức cần thiết để làm cho những video này trông chân thực. Ví dụ như Chris Ume, nghệ sĩ hiệu ứng hình ảnh và AI đứng sau tài khoản TikTok @deeptomcruise. Khi tài khoản này gây chú ý vào năm ngoái, Ume đã nói với The Verge rằng, bạn không thể tạo ra video deepfake chỉ với một nút nhấn.Đoạn video sử dụng công nghệ deepfake khiến người xem nhầm tưởng đây là Tom Cruise thật
Nhưng có bằng chứng xác thực là việc tạo ra video deepfake đang ngày càng nhanh và dễ hơn. Các nhà nghiên cứu tại sáng kiến Global Pulse của Liên Hợp Quốc đã chứng minh, họ có thể làm giả các bài phát biểu thực tế chỉ trong 13 phút.
Khi các ứng dụng deepfake được phát triển ngày càng nhiều, kể cả những người có kỹ năng thấp cũng có thể tự tạo ra được những video deepfake trông giống như thật.
Mặc dù vậy, luật pháp và các quy định vẫn chưa thể theo kịp loại hình tội phạm mới sử dụng deepfake.
Vào năm 2019, Facebook đã phải hứng chịu những chỉ trích vì không xóa một video về chính trị gia người Mỹ Nancy Pelosi và sau đó được phát hiện là một video deepfake.
Vào năm 2020, Twitter đã cấm chia sẻ các nội dung có thể lừa dối, gây nhầm lẫn hoặc gây hại cho mọi người. TikTok, YouTube sau đó cũng đã làm như vậy.
Nhưng ngay cả khi có các chính sách mới để ngăn chặn deepfake, không chắc người kiểm duyệt có thể phản ứng kịp trước các báo cáo từ cộng đồng.
Tại Úc, các luật sư tại công ty NSW Ashurst cho biết luật bản quyền và phỉ báng hiện hành không bảo vệ được người Úc trước những kẻ lừa đảo.
Làm thế nào để phát hiện nội dung deepfake?
Một trong những biện pháp tốt nhất để chống lại deepfake là người dùng cần trang bị cho mình các kỹ năng phát hiện.Thông thường, dấu hiệu đầu tiên của deepfake là bạn sẽ cảm thấy “hụt hẫng”. Nếu vậy, hãy quan sát kỹ hơn khuôn mặt của đối tượng và tự hỏi:
- Có phải khuôn mặt quá mịn hoặc có xương gò má bất thường?
- Các chuyển động của mí mắt và miệng có vẻ rời rạc, gượng gạo hoặc không tự nhiên không?
- Tóc trông có giả không? Công nghệ deepfake hiện nay đang gặp khó khăn trong việc duy trì vẻ ngoài ban đầu của tóc.
Bối cảnh cũng rất quan trọng:
- Tự hỏi bản thân xem hình đó đang nói gì hoặc làm gì. Họ có đang nói nội dung nào đó tiêu cực hoặc thực hiện hành vi khiêu *** không? Bất cứ điều gì có vẻ khác thường hoặc sai trái đều có thể là biểu hiện của deepfake.
- Hãy nhớ tìm kiếm và tìm hiểu các từ khóa về video của người đó. Bởi lẽ bạn sẽ có thêm thông tin đa chiều về đối tượng mà bạn đang xem.
- Hãy thử đánh giá độ tin cậy của nguồn tin xem nó có chính thống hay không? Nếu bạn đang sử dụng nền tảng mạng xã hội, tài khoản của người đăng đã được xác minh hay chưa?
Rất nhiều điều ở trên là kiến thức kỹ thuật số cơ bản và đòi hỏi khả năng phán đoán tốt. Trong trường hợp cảm giác của bạn không thể nhận diện ra được video deepfake, có một số mẹo chuyên sâu hơn giúp bạn phát hiện được. Cụ thể:
- Tìm kiếm các từ khóa được sử dụng trong video để xem liệu có các video công khai về những gì họ đang nói hay không. Nếu có hãy xem và đối chiếu.
- Chụp ảnh màn hình video đang phát và thực hiện tìm kiếm hình ảnh đảo ngược của Google. Điều này có thể tiết lộ liệu hình ảnh gốc trong video có tồn tại hay không, sau đó bạn có thể so sánh với phiên bản đáng ngờ.
- Trực tiếp bật bất kỳ video đáng ngờ nào có “đồng nghiệp” hoặc “người thân” của cá nhân đó và sau đó gọi điện cho họ để kiểm chứng.
Cuối cùng, nếu bạn đã phát hiện ra một video nào đó là deepfake, đừng ngần ngại bấm nút báo cáo để nhanh chóng gỡ bỏ nói khỏi nền tảng.
Nguồn: TNW
>> Deepfake - công nghệ khởi đầu cho những video khiêu ***, dung tục giả mạo
