AI tạo ra 4.000 tin nhắn độc hại mỗi ngày: 'Vũ khí' mới của 'đội quân mạng' Trung Quốc

[Mai Nhung]

Những điểm chính:

• Các mô hình AI đang bị lợi dụng để tạo ra hàng loạt tin nhắn, bình luận giả mạo, thao túng dư luận.
• AI giúp "đội quân mạng" hoạt động hiệu quả hơn, tạo ra nội dung tinh vi hơn, khó phân biệt với người thật.
• Trung Quốc đã mạnh tay xử lý tình trạng này, đóng cửa hàng trăm website, xóa hàng triệu tài khoản và nội dung vi phạm.
• Trung Quốc yêu cầu gắn nhãn nội dung do AI tạo ra.
• Các chuyên gia cảnh báo về sự nguy hiểm của AI trong việc thao túng dư luận và lan truyền thông tin sai lệch.

Sự phát triển của trí tuệ nhân tạo (AI), đặc biệt là các mô hình ngôn ngữ lớn (LLM), đang tạo ra những công cụ mạnh mẽ cho việc tạo và phát tán nội dung trên mạng. Tuy nhiên, công nghệ này cũng đang bị lợi dụng bởi các "đội quân mạng" (water army - thuật ngữ chỉ những người được thuê để đăng bài, bình luận trên mạng nhằm thao túng dư luận) để tạo ra tin giả, thông tin sai lệch, và thao túng dư luận.

AI và 'đội quân mạng': 'Vũ khí' mới để thao túng dư luận

Theo Jiefang Daily (Thượng Hải), việc "seeding" (phát tán nội dung) trên không gian mạng đang bùng nổ với sự hỗ trợ của AI. Các mô hình AI mới nổi cho phép tạo ra một lượng lớn nội dung (tin nhắn, bình luận...) độc hại, với tốc độ chóng mặt (hơn 4.000 tin nhắn mỗi ngày), nhằm thao túng quan điểm và quyết định của người dùng internet.

AI đã "xâm nhập" vào mọi giai đoạn của hoạt động "seeding":

• Đăng ký hàng loạt tài khoản mạng xã hội.
• Vượt qua hệ thống xác thực tên thật.
• Duy trì hoạt động của tài khoản.
• Kiếm tiền từ các bài đăng.

Sự phát triển của các mô hình AI quy mô lớn trong những năm gần đây đã giúp những kẻ tung tin đồn, thông tin sai lệch ngụy trang tinh vi hơn. Chúng có thể dễ dàng giả dạng thành người dùng bình thường, tạo ra các bài đăng, bình luận có tính kích động, thậm chí còn "thật" hơn cả người thật.

Doanh thu 'khủng' từ hoạt động thao túng dư luận

Giám đốc tiếp thị Diệp Tinh của Geetest (nhà cung cấp dịch vụ bảo mật Internet) cho biết, công ty đã chiến đấu chống lại lĩnh vực "ngầm" này suốt 12 năm, và đã chặn được tổng cộng 2,17 tỷ cuộc tấn công do "đội quân mạng" được hỗ trợ bởi AI khởi xướng.

Các "đội quân mạng" này có thể được thuê bởi các nhà đầu tư phim, người hâm mộ diễn viên, hoặc các doanh nghiệp, tổ chức... để tạo ra sự cường điệu, tấn công đối thủ, hoặc thao túng dư luận.

Vào tháng 6/2024, cảnh sát Nam Xương (Giang Tây) đã điều tra một vụ án liên quan đến việc lan truyền tin đồn và thông tin bịa đặt. Các nghi phạm đã sử dụng phần mềm AI để tạo ra một lượng lớn bài viết, lên tới 4.000-7.000 bài mỗi ngày. Doanh thu ước tính của nhóm này vượt quá 10.000 nhân dân tệ (1.382 USD) mỗi ngày.

Thách thức trong việc phân biệt người thật và AI

Giáo sư Từ Tiểu Kha tại Trung tâm Nghiên cứu Truyền thông Tính toán (Chu Hải), Trường Báo chí và Truyền thông, Đại học Sư phạm Bắc Kinh, nhận định, trước đây, việc phân biệt người đăng bài thật và AI khá dễ dàng, dựa trên IP điện thoại và vị trí địa lý. Tuy nhiên, các phương pháp này không còn hiệu quả với các đối tượng sử dụng thuật toán AI để tạo nội dung hàng loạt và mô phỏng hành vi của người dùng thật.

Trung Quốc mạnh tay xử lý

Để đối phó với tình trạng này, Trung Quốc đã ban hành bộ hướng dẫn về việc gắn nhãn nội dung internet do AI tạo ra, có hiệu lực từ ngày 1/9/2024. Hướng dẫn này yêu cầu:

• Các nhà cung cấp dịch vụ phải thêm nhãn rõ ràng vào nội dung do AI tạo ra, ở các vị trí thích hợp.
• Các tài khoản mạng xã hội do AI đăng ký phải được gắn nhãn rõ ràng.
• Các nền tảng mạng xã hội có trách nhiệm giám sát nội dung do các tài khoản này đăng tải, và nhanh chóng xác định, gắn nhãn nội dung giả mạo hoặc bất hợp pháp.

Kể từ năm 2024, các cơ quan quản lý không gian mạng của Trung Quốc đã tăng cường nỗ lực chống lại hoạt động đăng bài trả tiền. Họ đã điều tra các vấn đề như tuyển dụng, quảng cáo, thao túng lượt truy cập và kiểm soát đánh giá. Kết quả:

• Hơn 400 trang web và nền tảng đã bị đóng cửa hoặc gỡ bỏ.
• 4,82 triệu nội dung bất hợp pháp bị xóa.
• 2,39 triệu tài khoản và cửa hàng trực tuyến bị xử lý.
• 52.000 nhóm trực tuyến bị xử lý.

Sự phát triển của AI đang mang lại những công cụ mạnh mẽ cho việc tạo và phát tán nội dung trên mạng. Tuy nhiên, công nghệ này cũng đang bị lợi dụng cho các mục đích xấu, như thao túng dư luận, lan truyền tin giả. Việc Trung Quốc mạnh tay xử lý các "đội quân mạng" sử dụng AI là một động thái cần thiết, nhưng cũng cho thấy thách thức lớn trong việc kiểm soát và quản lý nội dung trên không gian mạng trong kỷ nguyên AI.