Cảnh sát Singapore vừa cảnh báo về một vụ lừa đảo công nghệ cao sử dụng Deepfake AI để giả mạo hình ảnh và giọng nói của các quan chức cấp cao, trong đó có Thủ tướng Singapore. Vụ việc đã khiến một nạn nhân thiệt hại tới 4,9 triệu USD, tương đương gần 130 tỷ đồng, làm dấy lên lo ngại về mức độ tinh vi ngày càng tăng của các chiêu trò lừa đảo sử dụng trí tuệ nhân tạo.
Cuộc họp trực tuyến tưởng thật nhưng được dựng hoàn toàn bằng AI
Theo thông tin từ cảnh sát Singapore, nạn nhân ban đầu nhận được tin nhắn WhatsApp từ một đối tượng giả danh thư ký nội các nước này và được mời tham gia một cuộc họp trực tuyến quan trọng với sự xuất hiện của Thủ tướng cùng nhiều quan chức trong và ngoài Singapore.
Để tăng độ tin cậy, nhóm lừa đảo còn gửi email và các tài liệu mang danh nghĩa cơ quan chính phủ, yêu cầu ký thỏa thuận bảo mật và cung cấp thông tin cá nhân. Sau đó, nạn nhân được đưa vào một cuộc họp Zoom có sự xuất hiện của nhiều lãnh đạo cấp cao. Tuy nhiên, toàn bộ hình ảnh và giọng nói trong cuộc họp đều được tạo bằng công nghệ Deepfake AI.
Để tăng độ tin cậy, nhóm lừa đảo còn gửi email và các tài liệu mang danh nghĩa cơ quan chính phủ, yêu cầu ký thỏa thuận bảo mật và cung cấp thông tin cá nhân. Sau đó, nạn nhân được đưa vào một cuộc họp Zoom có sự xuất hiện của nhiều lãnh đạo cấp cao. Tuy nhiên, toàn bộ hình ảnh và giọng nói trong cuộc họp đều được tạo bằng công nghệ Deepfake AI.
Nguồn: Internet
Trong kịch bản được dàn dựng, các "quan chức" thảo luận về một quỹ hỗ trợ khẩn cấp liên quan đến tình hình tại eo biển Hormuz và kêu gọi đóng góp tài chính. Để tạo thêm niềm tin, nhóm lừa đảo còn gửi thư bảo lãnh giả mạo có chữ ký của Thủ tướng Singapore, cam kết hoàn trả số tiền sau một thời gian nhất định.
Tin tưởng vào tính xác thực của cuộc họp, nạn nhân đã thực hiện nhiều giao dịch chuyển tiền vào các tài khoản do nhóm đối tượng cung cấp và chỉ phát hiện sự việc khi liên hệ trực tiếp với cơ quan chức năng để xác minh.
Những dấu hiệu cho thấy video Deepfake
Các nhà điều tra cho biết video được sử dụng trong vụ việc tồn tại nhiều dấu hiệu bất thường. Trong một số đoạn, lời nói không khớp hoàn toàn với chuyển động môi. Ngoài ra, toàn bộ phần phát biểu của các "quan chức" được phát từ cùng một nguồn thay vì xuất hiện như các luồng video độc lập trong cuộc họp trực tuyến. Một số chi tiết về phông nền và giao diện Zoom cũng có dấu hiệu chỉnh sửa.
Tuy vậy, với người dùng thông thường, những sai lệch này rất khó nhận ra, đặc biệt khi cuộc họp được xây dựng công phu và có sự xuất hiện của nhiều nhân vật có vị thế cao trong xã hội.
Tuy vậy, với người dùng thông thường, những sai lệch này rất khó nhận ra, đặc biệt khi cuộc họp được xây dựng công phu và có sự xuất hiện của nhiều nhân vật có vị thế cao trong xã hội.
Deepfake đang trở thành công cụ lừa đảo nguy hiểm
Vụ việc tiếp tục làm dấy lên tranh luận trên mạng xã hội về nguy cơ từ công nghệ Deepfake. Nhiều ý kiến cho rằng khi AI có thể tái tạo hình ảnh và giọng nói ngày càng chân thực, người dùng sẽ khó phân biệt thật giả chỉ bằng quan sát thông thường.
Đây cũng không phải lần đầu hình ảnh của Thủ tướng Singapore bị lợi dụng cho các chiến dịch lừa đảo. Trước đó, ông từng công khai cảnh báo về các video Deepfake sử dụng hình ảnh của mình để quảng bá đầu tư tiền điện tử, các chương trình kiếm tiền và dịch vụ nhập cư giả mạo.
Các chuyên gia an ninh mạng nhận định xu hướng lừa đảo bằng Deepfake đang chuyển từ các video quảng cáo đơn giản sang những kịch bản tương tác trực tiếp như cuộc gọi video, họp trực tuyến hoặc xác thực danh tính, khiến nguy cơ bị lừa tăng lên đáng kể.
Đây cũng không phải lần đầu hình ảnh của Thủ tướng Singapore bị lợi dụng cho các chiến dịch lừa đảo. Trước đó, ông từng công khai cảnh báo về các video Deepfake sử dụng hình ảnh của mình để quảng bá đầu tư tiền điện tử, các chương trình kiếm tiền và dịch vụ nhập cư giả mạo.
Các chuyên gia an ninh mạng nhận định xu hướng lừa đảo bằng Deepfake đang chuyển từ các video quảng cáo đơn giản sang những kịch bản tương tác trực tiếp như cuộc gọi video, họp trực tuyến hoặc xác thực danh tính, khiến nguy cơ bị lừa tăng lên đáng kể.
Cảnh báo từ cơ quan chức năng
Cảnh sát Singapore khẳng định các quan chức chính phủ sẽ không bao giờ yêu cầu người dân chuyển tiền, cung cấp thông tin ngân hàng, cài đặt ứng dụng lạ hoặc thực hiện giao dịch tài chính thông qua các cuộc gọi video hay email không chính thức. Đồng thời, cơ quan chức năng kêu gọi người dân kiểm tra thông tin qua các kênh chính thức trước khi thực hiện bất kỳ yêu cầu tài chính nào.
Các chuyên gia bảo mật khuyến cáo:
• Luôn xác minh danh tính người liên hệ qua nhiều kênh độc lập trước khi chuyển tiền
• Cảnh giác với các cuộc họp trực tuyến liên quan đến đầu tư, quyên góp hoặc giao dịch tài chính bất thường
• Không gửi giấy tờ tùy thân hoặc thông tin cá nhân cho người lạ qua mạng
• Kiểm tra kỹ các dấu hiệu bất thường trong hình ảnh và giọng nói khi tham gia cuộc gọi video
• Báo ngay cho cơ quan chức năng nếu phát hiện dấu hiệu giả mạo hoặc lừa đảo sử dụng Deepfake
Các chuyên gia bảo mật khuyến cáo:
• Luôn xác minh danh tính người liên hệ qua nhiều kênh độc lập trước khi chuyển tiền
• Cảnh giác với các cuộc họp trực tuyến liên quan đến đầu tư, quyên góp hoặc giao dịch tài chính bất thường
• Không gửi giấy tờ tùy thân hoặc thông tin cá nhân cho người lạ qua mạng
• Kiểm tra kỹ các dấu hiệu bất thường trong hình ảnh và giọng nói khi tham gia cuộc gọi video
• Báo ngay cho cơ quan chức năng nếu phát hiện dấu hiệu giả mạo hoặc lừa đảo sử dụng Deepfake
Được phối hợp thực hiện bởi các chuyên gia của Bkav,
cộng đồng An ninh mạng Việt Nam WhiteHat
và cộng đồng Khoa học công nghệ VnReview
