Cách tránh bị lừa bởi thông tin sai lệch do AI tạo ra

[Lizzie]

Những tiến bộ trong AI tạo ra có nghĩa là hình ảnh, video, âm thanh và bot giả hiện có ở khắp mọi nơi. Nhưng các nghiên cứu đã tiết lộ những cách tốt nhất để biết một cái gì đó là thật.

Bạn có để ý rằng hình ảnh trên được tạo ra bởi trí tuệ nhân tạo không? Có thể khó để phát hiện ra hình ảnh, video, âm thanh và văn bản do AI tạo ra vào thời điểm mà những tiến bộ công nghệ đang khiến chúng ngày càng không thể phân biệt được với nhiều nội dung do con người tạo ra, khiến chúng ta dễ bị thao túng bởi thông tin sai lệch. Nhưng bằng cách biết được tình trạng hiện tại của các công nghệ AI được sử dụng để tạo ra thông tin sai lệch và phạm vi các dấu hiệu cho thấy những gì bạn đang xem có thể là giả mạo, bạn có thể tự bảo vệ mình khỏi bị lừa.

Các nhà lãnh đạo thế giới đang lo ngại. Theo báo cáo của Diễn đàn Kinh tế Thế giới, thông tin sai lệch và thông tin sai lệch có thể “phá vỡ hoàn toàn các quy trình bầu cử ở một số nền kinh tế trong hai năm tới”, trong khi việc tiếp cận dễ dàng hơn với các công cụ AI “đã tạo điều kiện cho sự bùng nổ thông tin giả mạo và cái gọi là nội dung 'tổng hợp', từ việc sao chép giọng nói tinh vi đến các trang web giả mạo”.
Các thuật ngữ thông tin sai lệch và thông tin sai lệch đều đề cập đến thông tin sai lệch hoặc không chính xác, nhưng thông tin sai lệch là thông tin cố ý nhằm lừa dối hoặc gây hiểu lầm.

Hany Farid tại Đại học California, Berkeley cho biết: "Vấn đề với thông tin sai lệch do AI cung cấp là quy mô, tốc độ và mức độ dễ dàng mà các chiến dịch có thể được triển khai". "Những cuộc tấn công này sẽ không còn diễn ra với các tác nhân được nhà nước tài trợ hoặc các tổ chức được tài trợ tốt nữa - một cá nhân duy nhất có quyền truy cập vào một số sức mạnh tính toán khiêm tốn có thể tạo ra một lượng lớn nội dung giả mạo".

Ông cho biết AI tạo ra (xem chú giải thuật ngữ bên dưới) đang “làm ô nhiễm toàn bộ hệ sinh thái thông tin, khiến mọi thứ chúng ta đọc, nhìn và nghe trở nên đáng ngờ”. Ông cho biết nghiên cứu của ông cho thấy rằng, trong nhiều trường hợp, hình ảnh và âm thanh do AI tạo ra “gần như không thể phân biệt được với thực tế”.
Tuy nhiên, nghiên cứu của Farid và những người khác cho thấy có những chiến lược bạn có thể áp dụng để giảm nguy cơ mắc phải thông tin sai lệch hoặc thông tin sai lệch trên mạng xã hội do AI tạo ra.

Cách phát hiện hình ảnh AI giả​

Bạn còn nhớ bức ảnh Đức Giáo hoàng Francis mặc áo khoác phao không? Những hình ảnh AI giả mạo như vậy đã trở nên phổ biến hơn khi các công cụ mới dựa trên mô hình Diffusion (xem chú giải thuật ngữ bên dưới) cho phép bất kỳ ai bắt đầu tạo ra hình ảnh từ các lời nhắc văn bản đơn giản. Một nghiên cứu của Nicholas Dufour tại Google và các đồng nghiệp của ông đã phát hiện ra sự gia tăng nhanh chóng về tỷ lệ hình ảnh do AI tạo ra trong các tuyên bố thông tin sai lệch đã được kiểm tra thực tế từ đầu năm 2023 trở đi.

“Ngày nay, hiểu biết về phương tiện truyền thông đòi hỏi hiểu biết về AI”, Negar Kamali tại Đại học Northwestern ở Illinois cho biết. Trong một nghiên cứu năm 2024, bà và các đồng nghiệp đã xác định năm loại lỗi khác nhau trong hình ảnh do AI tạo ra (được nêu dưới đây) và cung cấp hướng dẫn về cách mọi người có thể tự phát hiện ra những lỗi này. Tin tốt là nghiên cứu của họ cho thấy hiện tại mọi người có độ chính xác khoảng 70 phần trăm trong việc phát hiện hình ảnh AI giả mạo của mọi người. Bạn có thể sử dụng bài kiểm tra hình ảnh trực tuyến để đánh giá kỹ năng điều tra của chính mình.

5 loại lỗi thường gặp trong hình ảnh do AI tạo ra:

1. Những điều không hợp lý về mặt xã hội văn hóa: Cảnh này có miêu tả hành vi hiếm gặp, bất thường hoặc đáng ngạc nhiên đối với một số nền văn hóa hoặc nhân vật lịch sử nhất định không?
2. Những điều không hợp lý về mặt giải phẫu: Hãy xem xét kỹ: các bộ phận cơ thể như bàn tay có hình dạng hoặc kích thước bất thường không? Mắt hoặc miệng có trông lạ không? Có bộ phận nào trên cơ thể bị hợp nhất không?
3. Hiện vật phong cách: Hình ảnh có vẻ không tự nhiên, gần như quá hoàn hảo hay theo phong cách không? Nền có trông kỳ lạ hay như thể thiếu thứ gì đó không? Ánh sáng có lạ hay thay đổi không?
4. Sự vô lý về mặt chức năng: Có vật thể nào trông kỳ lạ hay có vẻ như chúng không có thật hoặc không hoạt động không? Ví dụ, nút hoặc khóa thắt lưng có ở những vị trí kỳ lạ không?
5. Vi phạm vật lý: Bóng có hướng theo các hướng khác nhau không? Phản xạ gương có nhất quán với thế giới được mô tả trong hình ảnh không?

Các vật thể và hành vi lạ có thể là manh mối cho thấy hình ảnh được tạo ra bởi AI.

Cách nhận dạng video deepfake​

Công nghệ AI được gọi là mạng lưới đối nghịch tạo sinh (xem chú giải thuật ngữ bên dưới) đã cho phép những cá nhân am hiểu công nghệ tạo ra video deepfake kể từ năm 2014 – thao túng kỹ thuật số các video hiện có của mọi người để hoán đổi các khuôn mặt khác nhau, tạo ra các biểu cảm khuôn mặt mới và chèn âm thanh nói mới phù hợp với việc đồng bộ hóa môi. Điều này đã cho phép một loạt những kẻ lừa đảo, tin tặc được nhà nước hậu thuẫn và người dùng internet sản xuất video deepfake, nơi những người nổi tiếng như Taylor Swift và những người bình thường có thể thấy mình không muốn xuất hiện trong nội dung khiêu *** deepfake không có sự đồng thuận, lừa đảo và thông tin sai lệch hoặc thông tin sai lệch về chính trị.

Các kỹ thuật phát hiện hình ảnh giả AI (xem ở trên) cũng có thể được áp dụng cho các video đáng ngờ. Ngoài ra, các nhà nghiên cứu tại Viện Công nghệ Massachusetts và Đại học Northwestern ở Illinois đã biên soạn một số mẹo về cách phát hiện các deepfake như vậy, nhưng họ thừa nhận rằng không có phương pháp nào luôn hiệu quả.

6 mẹo để phát hiện video do AI tạo ra:

1. Chuyển động của miệng và môi: Có khoảnh khắc nào mà hình ảnh và âm thanh không đồng bộ hoàn toàn không?
2. Lỗi giải phẫu: Khuôn mặt hoặc cơ thể có trông kỳ lạ hoặc chuyển động không tự nhiên không?
3. Khuôn mặt: Kiểm tra sự không đồng đều về độ mịn của khuôn mặt hoặc nếp nhăn quanh trán và má, cùng với nốt ruồi trên mặt.
4. Ánh sáng: Ánh sáng có không đồng đều không? Bóng đổ có giống như bạn mong đợi không? Hãy đặc biệt chú ý đến mắt, lông mày và kính của một người.
5. Tóc: Lông trên mặt có trông kỳ lạ hoặc chuyển động theo cách kỳ lạ không?
6. Chớp mắt: Chớp mắt quá nhiều hoặc quá ít đều có thể là dấu hiệu của deepfake.

Một thể loại video deepfake mới hơn dựa trên các mô hình Diffusion (xem phần chú giải thuật ngữ bên dưới) – công nghệ AI tương tự đằng sau nhiều trình tạo hình ảnh – có thể tạo ra các đoạn video hoàn toàn do AI tạo ra dựa trên lời nhắc văn bản. Các công ty đã thử nghiệm và phát hành các phiên bản thương mại của trình tạo video AI có thể giúp bất kỳ ai cũng có thể dễ dàng thực hiện điều này mà không cần kiến thức kỹ thuật đặc biệt. Cho đến nay, các video kết quả có xu hướng có khuôn mặt bị bóp méo hoặc chuyển động cơ thể kỳ lạ.

Kamali cho biết: "Những video do AI tạo ra này có lẽ dễ được mọi người phát hiện hơn hình ảnh vì có nhiều chuyển động và có nhiều khả năng xuất hiện các hiện vật và điều không thể do AI tạo ra hơn".

Cách xác định bot AI​

Các tài khoản mạng xã hội do bot máy tính kiểm soát đã trở nên phổ biến trên nhiều nền tảng mạng xã hội và nhắn tin. Một số lượng ngày càng tăng các bot này cũng đã tận dụng các công nghệ AI tạo ra như các mô hình ngôn ngữ lớn (xem phần chú giải thuật ngữ bên dưới) kể từ năm 2022. Những công nghệ này giúp dễ dàng và tiết kiệm chi phí để tạo ra nội dung do AI viết thông qua hàng nghìn bot, vừa đúng ngữ pháp vừa được tùy chỉnh một cách thuyết phục cho các tình huống khác nhau.

Paul Brenner tại Đại học Notre Dame ở Indiana cho biết "việc tùy chỉnh các mô hình ngôn ngữ lớn này cho các đối tượng cụ thể với các thông điệp cụ thể đã trở nên dễ dàng hơn nhiều" .

Brenner và các đồng nghiệp của ông đã phát hiện ra trong nghiên cứu của họ rằng những người tình nguyện chỉ có thể phân biệt được bot do AI hỗ trợ với con người khoảng 42 phần trăm thời gian – mặc dù những người tham gia được thông báo rằng họ có khả năng tương tác với bot.

Brenner cho biết một số chiến lược có thể giúp xác định các bot AI ít phức tạp hơn.

5 cách để xác định xem một tài khoản mạng xã hội có phải là bot AI hay không:

1. Biểu tượng cảm xúc và hashtag: Sử dụng quá nhiều những thứ này có thể là một dấu hiệu.
2. Cách diễn đạt, lựa chọn từ ngữ hoặc phép so sánh không phổ biến: Cách diễn đạt không phổ biến có thể chỉ ra một bot AI.
3. Sự lặp lại và cấu trúc: Bot có thể sử dụng cách diễn đạt lặp lại theo các hình thức tương tự hoặc cứng nhắc và có thể lạm dụng một số thuật ngữ lóng.
4. Đặt câu hỏi: Điều này có thể tiết lộ sự thiếu hiểu biết của bot về một chủ đề nào đó – đặc biệt là khi liên quan đến địa điểm và tình huống tại địa phương.
5. Giả sử trường hợp xấu nhất: Nếu tài khoản mạng xã hội không phải là địa chỉ liên lạc cá nhân và danh tính của họ chưa được xác thực hoặc xác minh rõ ràng thì đó rất có thể là bot AI.

Cách phát hiện âm thanh giả mạo và giọng nói giả mạo​

Nhân bản giọng nói ( xem chú giải thuật ngữ bên dưới) Các công cụ AI đã giúp dễ dàng tạo ra âm thanh nói mới có thể bắt chước hầu như bất kỳ ai. Điều này đã dẫn đến sự gia tăng của các vụ lừa đảo deepfake âm thanh sao chép giọng nói của các thành viên gia đình, giám đốc điều hành công ty và các nhà lãnh đạo chính trị như Tổng thống Hoa Kỳ Joe Biden. Những điều này có thể khó xác định hơn nhiều so với video hoặc hình ảnh do AI tạo ra.

Rachel Tobac, đồng sáng lập SocialProof Security, một tổ chức hacker mũ trắng, cho biết: "Việc sao chép giọng nói đặc biệt khó phân biệt giữa giọng thật và giọng giả vì không có thành phần trực quan nào hỗ trợ não bộ của chúng ta đưa ra quyết định đó" .

Việc phát hiện những giọng nói AI deepfake như vậy có thể đặc biệt khó khăn khi chúng được sử dụng trong các cuộc gọi video và điện thoại. Nhưng có một số bước thông thường mà bạn có thể làm theo để phân biệt giọng nói thật của con người với giọng nói do AI tạo ra.
4 bước để nhận biết âm thanh đã bị sao chép hay làm giả bằng AI:

1. Người của công chúng: Nếu đoạn ghi âm là của một quan chức được bầu hoặc người nổi tiếng, hãy kiểm tra xem những gì họ nói có nhất quán với những gì đã được công khai báo cáo hoặc chia sẻ về quan điểm và hành vi của họ hay không.
2. Tìm kiếm sự không nhất quán: So sánh đoạn âm thanh với đoạn video hoặc đoạn âm thanh đã xác thực trước đó có giọng nói của cùng một người. Có bất kỳ sự không nhất quán nào trong âm thanh giọng nói hoặc cách nói chuyện của họ không?
3. Sự im lặng khó xử: Nếu bạn đang nghe cuộc gọi điện thoại hoặc thư thoại và người nói chuyện có những khoảng dừng dài bất thường khi nói, có thể họ đang sử dụng công nghệ sao chép giọng nói bằng AI.
4. Kỳ lạ và dài dòng: Bất kỳ kiểu nói chuyện máy móc nào hoặc cách nói dài dòng khác thường đều có thể chỉ ra rằng ai đó đang sử dụng sự kết hợp giữa công nghệ sao chép giọng nói để bắt chước giọng nói của người khác và một mô hình ngôn ngữ lớn để tạo ra từ ngữ chính xác.

Những nhân vật Nổi tiếng như Thủ tướng Ấn Độ Narendra Modi hành động không đúng với tính cách của mình có thể là một dấu hiệu tiết lộ AI Những nhân vật công chúng như Narendra Modi hành động không đúng với tính cách của mình có thể là một dấu hiệu tiết lộ AI.

Công nghệ sẽ chỉ trở nên tốt hơn​

Theo tình hình hiện tại, không có quy tắc nhất quán nào có thể luôn phân biệt được nội dung do AI tạo ra với nội dung đích thực của con người. Các mô hình AI có khả năng tạo văn bản, hình ảnh, video và âm thanh gần như chắc chắn sẽ tiếp tục được cải thiện và chúng thường có thể nhanh chóng tạo ra nội dung có vẻ xác thực mà không có bất kỳ hiện vật hoặc lỗi rõ ràng nào. Tobac cho biết: "Hãy lịch sự cảnh giác và nhận ra rằng AI đã thao túng và chế tạo hình ảnh, video và âm thanh nhanh chóng - chúng tôi đang nói đến việc hoàn thành trong 30 giây hoặc ít hơn". "Điều này giúp những cá nhân độc hại muốn lừa mọi người dễ dàng xoay chuyển thông tin sai lệch do AI tạo ra một cách nhanh chóng, đưa lên mạng xã hội trong vòng vài phút sau khi có tin tức mới".
Mặc dù điều quan trọng là phải rèn luyện con mắt của bạn để phát hiện thông tin sai lệch do AI tạo ra và học cách đặt nhiều câu hỏi hơn về những gì bạn đọc, nhìn thấy và nghe thấy, nhưng cuối cùng thì điều này sẽ không đủ để ngăn chặn tác hại và trách nhiệm phát hiện hàng giả không thể hoàn toàn thuộc về cá nhân. Farid là một trong những nhà nghiên cứu cho rằng các cơ quan quản lý của chính phủ phải yêu cầu các công ty công nghệ lớn nhất - cùng với các công ty khởi nghiệp được các nhà đầu tư lớn của Thung lũng Silicon hỗ trợ - chịu trách nhiệm giải trình, những công ty đã phát triển nhiều công cụ đang tràn ngập internet bằng nội dung giả mạo do AI tạo ra. "Công nghệ không trung lập", Farid nói. "Câu nói mà ngành công nghệ đã bán cho chúng ta rằng bằng cách nào đó họ không phải chịu trách nhiệm pháp lý như mọi ngành khác, tôi chỉ đơn giản là từ chối nó".

Một số thuật ngữ AI​

Mô hình Diffusion models: Mô hình AI học bằng cách đầu tiên thêm nhiễu ngẫu nhiên vào dữ liệu – chẳng hạn như làm mờ hình ảnh – rồi đảo ngược quá trình để khôi phục dữ liệu gốc.
Mạng đối nghịch tạo sinh Generative adversarial networks: Một phương pháp học máy dựa trên hai mạng nơ-ron cạnh tranh bằng cách sửa đổi dữ liệu gốc và sau đó cố gắng dự đoán xem dữ liệu được tạo ra có xác thực hay thực tế hay không.
Trí tuệ nhân tạo (AI) tạo ra: Một lớp rộng các mô hình AI có thể tạo ra văn bản, hình ảnh, âm thanh và video sau khi được đào tạo trên các dạng nội dung tương tự.
Mô hình ngôn ngữ lớn: Một tập hợp con của các mô hình AI tạo sinh có thể tạo ra nhiều dạng nội dung viết khác nhau để phản hồi lời nhắc văn bản và đôi khi dịch giữa nhiều ngôn ngữ khác nhau.
Sao chép giọng nói: Phương pháp sử dụng mô hình AI để tạo bản sao kỹ thuật số giọng nói của một người và sau đó có khả năng tạo ra các mẫu giọng nói mới bằng giọng nói đó.