Một nghiên cứu mới cho thấy các nội dung tóm tắt do AI tạo ra dù sai lệch tới 60% vẫn có thể khiến người dùng thay đổi nhận thức và sẵn sàng chi tiền. Thực tế này đặt ra lo ngại lớn về mức độ tin cậy của AI và nguy cơ bị lợi dụng trên không gian mạng.
Khi AI “viết lại” thông tin theo cách dễ thuyết phục hơn
Theo nghiên cứu từ Đại học California, San Diego (Mỹ), các hệ thống AI có thể tóm tắt nội dung theo cách làm thay đổi ý nghĩa ban đầu, thậm chí sai lệch tới 60% so với dữ liệu gốc. Không chỉ dừng ở sai thông tin, AI còn có xu hướng “tô đậm” cảm xúc, khiến nội dung trở nên tích cực hoặc tiêu cực hơn thực tế. Khoảng 26,5% trường hợp ghi nhận sự thay đổi sắc thái này. Điều đáng chú ý là người dùng thường không nhận ra sự sai lệch đó.
Nội dung sai nhưng vẫn khiến người dùng tin và mua
Trong một thử nghiệm, chỉ 52% người tham gia sẵn sàng mua sản phẩm khi đọc đánh giá gốc. Tuy nhiên, khi đọc bản tóm tắt do AI tạo ra, con số này tăng lên tới 84%. Điều này cho thấy AI không chỉ tóm tắt thông tin, mà còn có thể “định hướng” cách người dùng hiểu và ra quyết định.
Nguyên nhân đến từ cách AI xử lý dữ liệu:
Nguyên nhân đến từ cách AI xử lý dữ liệu:
- Ưu tiên thông tin ở đầu nội dung
- Dễ sai khi gặp dữ liệu ngoài phạm vi huấn luyện
- Có xu hướng đơn giản hóa, nhưng lại làm mất ngữ cảnh
Kết quả là thông tin bị “bẻ cong” mà người đọc không nhận ra.
Khi hình ảnh và nội dung AI trở nên khó phân biệt
Không chỉ văn bản, các công cụ AI hiện nay còn có thể tạo ra hình ảnh, nội dung truyền thông với độ chân thực cao. Trên thực tế, người dùng phổ thông gần như không thể phân biệt bằng mắt thường đâu là nội dung thật, đâu là nội dung được tạo ra hoặc chỉnh sửa bởi AI.
Chính điều này khiến các nội dung sai lệch trở nên thuyết phục hơn, đặc biệt khi được trình bày ngắn gọn, rõ ràng như các bản tóm tắt. Khi người dùng tin vào nội dung “có vẻ hợp lý”, họ dễ dàng đưa ra quyết định mà không kiểm chứng lại nguồn gốc thông tin.
Nguy cơ bị lợi dụng trong lừa đảo và thao túng thông tin
Các chuyên gia cảnh báo rằng nếu AI đã có thể ảnh hưởng đến quyết định mua sắm thông thường, thì trong các lĩnh vực nhạy cảm như tài chính, y tế hay chính sách, hậu quả có thể nghiêm trọng hơn nhiều.
Trong bối cảnh tội phạm mạng ngày càng tinh vi, việc kết hợp nội dung sai lệch với hình ảnh, thông tin “được AI dựng lên” có thể trở thành công cụ lừa đảo hiệu quả. Người dùng khi đó không chỉ bị dẫn dắt về nhận thức mà còn có nguy cơ mất tiền, lộ thông tin cá nhân.
Trong bối cảnh tội phạm mạng ngày càng tinh vi, việc kết hợp nội dung sai lệch với hình ảnh, thông tin “được AI dựng lên” có thể trở thành công cụ lừa đảo hiệu quả. Người dùng khi đó không chỉ bị dẫn dắt về nhận thức mà còn có nguy cơ mất tiền, lộ thông tin cá nhân.
Cảnh giác trước “sự tiện lợi” của AI
AI mang lại sự tiện lợi rõ rệt trong việc xử lý thông tin, nhưng cũng tiềm ẩn rủi ro nếu người dùng phụ thuộc hoàn toàn. Các chuyên gia khuyến nghị:
- Không tin tuyệt đối vào nội dung tóm tắt từ AI
- Đối chiếu lại với nguồn gốc ban đầu
- Cẩn trọng với các nội dung quá “hoàn hảo”, dễ thuyết phục
- Không ra quyết định tài chính chỉ dựa trên nội dung rút gọn
Trong thời đại AI, thông tin không chỉ cần nhanh mà còn cần đúng. Nếu không, sự tiện lợi có thể trở thành “cái bẫy” khiến người dùng phải trả giá.
Được phối hợp thực hiện bởi các chuyên gia của Bkav,
cộng đồng An ninh mạng Việt Nam WhiteHat
và cộng đồng Khoa học công nghệ VnReview
