Cảnh báo: AI đã có thể “nhái” được các bài phát biểu của các chính trị gia ở Liên Hợp Quốc

Sẽ thật nguy hiểm nếu trong tương lai AI có thể mạo danh các nguyên thủ quốc gia và lan truyền những nội dung sai sự thật, kích động sự thù hận và bạo lực trên thế giới.

Những khám phá mới về năng lực của AI luôn đi kèm với những lo lắng của con người về một tương lai rùng rợn khi AI đủ khả năng lật đổ loài người. Trên thực tế, AI đã và đang làm được nhiều điều hơn thế, thậm chí nó ngày càng xuất hiện rộng khắp trong nhiều ngành công nghiệp và phương tiện giải trí.

AI và kỹ thuật deep learning đã được sử dụng trong sáng tạo nghệ thuật, phát hiện ung thư, tái tạo khuôn mặt và giờ đây là mô phỏng giọng nói thật của con người. Nhưng sẽ thật nguy hiểm nếu AI có thể "nhái" giọng con người và đưa ra các phát biểu mang tính chính trị.

Theo Interesting Engineering, các nhà nghiên cứu mới đây đã sử dụng mô hình deep learning đơn giản và kho lưu trữ đám mây để thực hiện một dự án AI đặc biệt, mô phỏng bài phát biểu của các chính trị gia tại Liên Hợp Quốc. Ý tưởng về một chính trị gia do AI đảm nhiệm thoạt nghe giống như một bộ phim viễn tưởng nào đó, nhưng quả thực nó đã xuất hiện trong thực tế.

Nhóm nghiên cứu Global Pulse thuộc Liên Hợp Quốc (LHQ) mới đây đã quyết định tìm hiểu xem liệu chúng ta có thể sử dụng các kỹ thuật deep learning đơn giản để giả mạo các thông tin sai lệch có sức thuyết phục cao hay không? Kết quả chắc chắn sẽ gây sốc cho nhiều người. Global Pulse là một sáng kiến của LHQ nhằm khai thác dữ liệu lớn, trí tuệ nhân tạo và công nghệ mới nổi.

Nằm một phần trong dự án hợp tác với Đại học Cornell, nghiên cứu trên sử dụng công cụ mã nguồn mở và bộ dữ liệu lớn để tạo ra các bài phát biểu giả mạo tại LHQ. Tất nhiên để tạo ra được bài phát biểu như ý muốn, nhóm nghiên cứu đã sử dụng mô hình ngôn ngữ có sẵn. Mô hình này thường được sử dụng để đào tạo trên Wikipedia. Sau đó AI còn được huấn luyện nghe các bài phát biểu của các nhà lãnh đạo, chính trị gia tại Đại hội đồng LHQ trong suốt 40 năm qua.

Với chỉ chưa đầy 7,8 USD chi cho dịch vụ đám mây và hơn nửa ngày huấn luyện (13 giờ), "chính trị gia" AI đã có thể đưa ra các bài phát biểu đủ sức nặng để thu hút đám đông tại LHQ. Các bài phát biểu xoay quanh nhiều chủ đề nhạy cảm bao gồm giải trừ hạt nhân hay biến đổi khí hậu.

Các nhà nghiên cứu đã thử nghiệm mô hình dựa trên ba loại gợi ý, đó là chủ đề chung, dòng mở đầu từ các nhận xét của Tổng thư ký LHQ và các cụm từ mang tính kích động. Mô hình deep learning thậm chí có thể làm giảm nhịp đọc các bài phát biểu trong thực tế của các chính trị gia tới 90% thời gian.

Nghiên cứu trên nhìn chung cho thấy, AI đang dần đạt tới khả năng đọc hiểu và sáng tạo nội dung của con người. Tuy nhiên trong tương lai, con người cần hết sức đề cao cảnh giác với khả năng này của AI, bởi không ai biết nó có thể làm được gì nếu như vượt ngoài tầm kiểm soát. Nguy hiểm nhất là việc AI sẽ tự tạo và truyền bá các nội dung sai lệch, phục vụ cho mưu đồ chính trị của kẻ xấu.

Một lần nữa nữa, nghiên cứu này là lời cảnh báo rõ nhất cho con người về việc cần kiểm soát chặt chẽ hơn nữa những năng lực tiềm tàng của AI.

Tiến Thanh