Sóng AI
Writer
ChatGPT vừa ra mắt công cụ tạo hình ảnh mới trong mô hình 4o với khả năng tạo văn bản trong hình ảnh tốt hơn đáng kể.
Người dùng đã nhanh chóng sử dụng công cụ này để tạo hóa đơn nhà hàng giả, tiềm ẩn nguy cơ trở thành công cụ deepfake AI mới cho những kẻ gian lận.
Deedy Das, một nhà đầu tư mạo hiểm và người đăng bài tích cực trên mạng xã hội, đã chia sẻ trên X một hóa đơn giả của một nhà hàng bít tết ở San Francisco được tạo bằng 4o.
Nhiều người dùng khác cũng tạo được các hóa đơn tương tự, thậm chí có cả vết thức ăn hoặc đồ uống để trông chân thực hơn.
Ví dụ chân thực nhất mà TechCrunch tìm thấy đến từ Pháp, nơi một người dùng LinkedIn đăng hóa đơn được tạo bởi AI cho một chuỗi nhà hàng địa phương với vẻ ngoài nhàu nát.
TechCrunch đã thử nghiệm 4o và tạo được hóa đơn giả cho Applebee's ở San Francisco, tuy nhiên có một số dấu hiệu cho thấy đây là hàng giả như sử dụng dấu phẩy thay vì dấu chấm và phép tính không chính xác.
Các mô hình ngôn ngữ lớn vẫn gặp khó khăn với phép tính cơ bản, nhưng kẻ gian lận có thể dễ dàng sửa lỗi bằng phần mềm chỉnh sửa ảnh hoặc lệnh nhắc chính xác hơn.
Khả năng tạo hóa đơn giả dễ dàng mở ra cơ hội lớn cho gian lận, đặc biệt là trong việc yêu cầu "hoàn tiền" cho các chi phí hoàn toàn giả mạo.
Người phát ngôn của OpenAI, Taya Christianson, cho biết tất cả hình ảnh từ ChatGPT đều có metadata chỉ ra rằng chúng được tạo bởi ChatGPT và công ty "có hành động" khi người dùng vi phạm chính sách sử dụng.
OpenAI giải thích rằng mục tiêu của họ là "cung cấp cho người dùng tự do sáng tạo nhiều nhất có thể" và hóa đơn AI giả có thể được sử dụng trong các tình huống không gian lận như "dạy mọi người về kiến thức tài chính" cùng với việc tạo nghệ thuật gốc và quảng cáo sản phẩm.
ChatGPT 4o tạo hóa đơn giả siêu thật, gây lo ngại về khả năng gian lận tài chính. OpenAI bảo vệ tính năng này dưới danh nghĩa tự do sáng tạo, nhưng đã thêm metadata để nhận diện hình ảnh AI, đồng thời cam kết xử lý vi phạm chính sách sử dụng.Nguồn: Songai.vn
