Mạnh Quân✔
Writer
Sự phát triển nhanh của AI tạo sinh đang làm xuất hiện một vấn đề ngày càng khó kiểm soát: khuôn mặt, giọng nói và nhiều đặc điểm sinh trắc học của một người có thể bị AI học và tái tạo mà chính họ không hề cho phép.
Tranh cãi gần đây tại Trung Quốc là một ví dụ. Ngày 16/8, diễn viên lồng tiếng Ma Zhengyang tuyên bố giọng nói của anh đã bị sử dụng trái phép trong nội dung ăn theo và quảng cáo liên quan đến một bộ phim truyền hình nổi tiếng. Ma Zhengyang khẳng định chưa từng cho phép nhà sản xuất, công ty quảng cáo hay đơn vị cung cấp công nghệ AI sử dụng dữ liệu hoặc đặc điểm giọng nói của mình.
Công ty sản xuất Chengdu Wanhou sau đó cho biết phần lồng tiếng được tạo tự động bằng công cụ AI Jimeng và trong quá trình sản xuất đã không xác định được nguồn gốc cũng như quyền sở hữu giọng nói AI. Kết quả là giọng tổng hợp tạo ra có độ tương đồng cao với Ma Zhengyang.
Vụ việc cho thấy một khoảng trống lớn trong cách AI tạo sinh được phát triển và sử dụng. Theo các chuyên gia được trang Sohu phỏng vấn, mô hình AI học từ lượng dữ liệu khổng lồ lấy từ nhiều nguồn như website công khai, mạng xã hội, bộ dữ liệu mã nguồn mở, dữ liệu thương mại và nội dung do người dùng tải lên. Vấn đề nằm ở chỗ một bức ảnh, video hay đoạn ghi âm được đăng công khai trên Internet không đồng nghĩa chủ sở hữu cho phép sử dụng chúng để huấn luyện AI hoặc khai thác thương mại.
Trong sản xuất phim ngắn bằng AI, quy trình này càng phức tạp. Mô hình ngôn ngữ có thể viết kịch bản và phân cảnh, AI tạo hình ảnh và video đảm nhiệm phần hình ảnh, hệ thống chuyển văn bản thành giọng nói thực hiện lồng tiếng, còn một hệ thống khác điều phối tất cả thành sản phẩm hoàn chỉnh. Một bộ phim trước đây cần nhiều nhóm nhân sự giờ có thể được tự động hóa ở mức rất cao.
Theo Zhang Weiming, Phó hiệu trưởng Trường An ninh mạng thuộc Đại học Khoa học và Công nghệ Trung Quốc, tình trạng thu thập trái phép dữ liệu âm thanh và hình ảnh đã khá phổ biến, thậm chí hình thành chuỗi kinh doanh xám. Công nghệ sao chép giọng nói và hoán đổi khuôn mặt ngày càng dễ tiếp cận khiến người nổi tiếng lẫn người bình thường đều có nguy cơ trở thành nạn nhân.
Điều đáng lo là khuôn mặt và giọng nói có thể mới chỉ là bước đầu. Ma Xingjun, nhà nghiên cứu tại Đại học Fudan, cảnh báo các mô hình AI đa phương thức trong tương lai có khả năng học cả dáng đi, tư thế cơ thể, mống mắt và những đặc điểm sinh trắc học khó thay đổi khác. Zhang Weiming thậm chí cho rằng AI có thể tiến tới sao chép cả kỹ năng nghề nghiệp của con người.
Một trường hợp được truyền thông Trung Quốc đề cập là công ty trò chơi tại Sơn Đông thử xây dựng nhân vật AI dựa trên một cựu nhân viên nhân sự. Phiên bản kỹ thuật số này có thể thực hiện những công việc đơn giản như tư vấn, đặt lịch hay tạo PowerPoint và bảng tính. Điều đó đặt ra một câu hỏi mới: nếu AI không chỉ sao chép diện mạo và giọng nói mà còn học cả phong cách, kinh nghiệm và kỹ năng của một người, ranh giới quyền sở hữu đối với “bản sao số” của con người sẽ nằm ở đâu?
Việc bảo vệ quyền lợi cũng không đơn giản. AI có thể pha trộn nhiều giọng nói, thay đổi âm sắc khiến việc nhận dạng khó khăn; nội dung sau đó tiếp tục bị chỉnh sửa và phát tán qua nhiều nền tảng, khiến truy tìm nguồn gốc trở nên phức tạp và tốn kém.
Một giải pháp đang được nghiên cứu là thủy vân ẩn. Chẳng hạn, dữ liệu âm thanh gốc được nhúng một dấu hiệu không thể nghe thấy; nếu âm thanh bị lấy để huấn luyện mô hình sao chép giọng nói, sản phẩm AI tạo ra sau đó vẫn có thể mang dấu vết giúp xác định nguồn. Công nghệ tương tự cũng có thể áp dụng với hình ảnh và video.
Nhưng công nghệ không thể tự giải quyết vấn đề. Khi AI ngày càng có khả năng sao chép những đặc điểm gắn trực tiếp với danh tính con người, từ khuôn mặt, giọng nói đến dáng đi và có thể cả kỹ năng nghề nghiệp, việc bảo vệ con người trước “bản sao AI” sẽ cần đồng thời luật pháp, cơ quan quản lý, nền tảng công nghệ và trách nhiệm của chính doanh nghiệp phát triển AI.
Tranh cãi gần đây tại Trung Quốc là một ví dụ. Ngày 16/8, diễn viên lồng tiếng Ma Zhengyang tuyên bố giọng nói của anh đã bị sử dụng trái phép trong nội dung ăn theo và quảng cáo liên quan đến một bộ phim truyền hình nổi tiếng. Ma Zhengyang khẳng định chưa từng cho phép nhà sản xuất, công ty quảng cáo hay đơn vị cung cấp công nghệ AI sử dụng dữ liệu hoặc đặc điểm giọng nói của mình.
Công ty sản xuất Chengdu Wanhou sau đó cho biết phần lồng tiếng được tạo tự động bằng công cụ AI Jimeng và trong quá trình sản xuất đã không xác định được nguồn gốc cũng như quyền sở hữu giọng nói AI. Kết quả là giọng tổng hợp tạo ra có độ tương đồng cao với Ma Zhengyang.
Vụ việc cho thấy một khoảng trống lớn trong cách AI tạo sinh được phát triển và sử dụng. Theo các chuyên gia được trang Sohu phỏng vấn, mô hình AI học từ lượng dữ liệu khổng lồ lấy từ nhiều nguồn như website công khai, mạng xã hội, bộ dữ liệu mã nguồn mở, dữ liệu thương mại và nội dung do người dùng tải lên. Vấn đề nằm ở chỗ một bức ảnh, video hay đoạn ghi âm được đăng công khai trên Internet không đồng nghĩa chủ sở hữu cho phép sử dụng chúng để huấn luyện AI hoặc khai thác thương mại.
Trong sản xuất phim ngắn bằng AI, quy trình này càng phức tạp. Mô hình ngôn ngữ có thể viết kịch bản và phân cảnh, AI tạo hình ảnh và video đảm nhiệm phần hình ảnh, hệ thống chuyển văn bản thành giọng nói thực hiện lồng tiếng, còn một hệ thống khác điều phối tất cả thành sản phẩm hoàn chỉnh. Một bộ phim trước đây cần nhiều nhóm nhân sự giờ có thể được tự động hóa ở mức rất cao.
Theo Zhang Weiming, Phó hiệu trưởng Trường An ninh mạng thuộc Đại học Khoa học và Công nghệ Trung Quốc, tình trạng thu thập trái phép dữ liệu âm thanh và hình ảnh đã khá phổ biến, thậm chí hình thành chuỗi kinh doanh xám. Công nghệ sao chép giọng nói và hoán đổi khuôn mặt ngày càng dễ tiếp cận khiến người nổi tiếng lẫn người bình thường đều có nguy cơ trở thành nạn nhân.
Điều đáng lo là khuôn mặt và giọng nói có thể mới chỉ là bước đầu. Ma Xingjun, nhà nghiên cứu tại Đại học Fudan, cảnh báo các mô hình AI đa phương thức trong tương lai có khả năng học cả dáng đi, tư thế cơ thể, mống mắt và những đặc điểm sinh trắc học khó thay đổi khác. Zhang Weiming thậm chí cho rằng AI có thể tiến tới sao chép cả kỹ năng nghề nghiệp của con người.
Một trường hợp được truyền thông Trung Quốc đề cập là công ty trò chơi tại Sơn Đông thử xây dựng nhân vật AI dựa trên một cựu nhân viên nhân sự. Phiên bản kỹ thuật số này có thể thực hiện những công việc đơn giản như tư vấn, đặt lịch hay tạo PowerPoint và bảng tính. Điều đó đặt ra một câu hỏi mới: nếu AI không chỉ sao chép diện mạo và giọng nói mà còn học cả phong cách, kinh nghiệm và kỹ năng của một người, ranh giới quyền sở hữu đối với “bản sao số” của con người sẽ nằm ở đâu?
Việc bảo vệ quyền lợi cũng không đơn giản. AI có thể pha trộn nhiều giọng nói, thay đổi âm sắc khiến việc nhận dạng khó khăn; nội dung sau đó tiếp tục bị chỉnh sửa và phát tán qua nhiều nền tảng, khiến truy tìm nguồn gốc trở nên phức tạp và tốn kém.
Một giải pháp đang được nghiên cứu là thủy vân ẩn. Chẳng hạn, dữ liệu âm thanh gốc được nhúng một dấu hiệu không thể nghe thấy; nếu âm thanh bị lấy để huấn luyện mô hình sao chép giọng nói, sản phẩm AI tạo ra sau đó vẫn có thể mang dấu vết giúp xác định nguồn. Công nghệ tương tự cũng có thể áp dụng với hình ảnh và video.
Nhưng công nghệ không thể tự giải quyết vấn đề. Khi AI ngày càng có khả năng sao chép những đặc điểm gắn trực tiếp với danh tính con người, từ khuôn mặt, giọng nói đến dáng đi và có thể cả kỹ năng nghề nghiệp, việc bảo vệ con người trước “bản sao AI” sẽ cần đồng thời luật pháp, cơ quan quản lý, nền tảng công nghệ và trách nhiệm của chính doanh nghiệp phát triển AI.
