Trung Đào
Writer
Tóm tắt nội dung chính:
1. Trung Quốc đề xuất các biện pháp hạn chế chặt chẽ hơn đối với dữ liệu đào tạo và các mô hình được sử dụng để xây dựng các dịch vụ AI tổng hợp nhằm thắt chặt an ninh.
2. Dự thảo nhắm đến hai lĩnh vực chính cần cải thiện – bảo mật dữ liệu đào tạo thô và các mô hình ngôn ngữ lớn được sử dụng để xây dựng các dịch vụ AI tổng quát
3. Dự thảo đề xuất hệ thống danh sách đen nhằm chặn các tài liệu dữ liệu đào tạo chứa hơn 5% nội dung bất hợp pháp
Trung Quốc đang lên kế hoạch hạn chế chặt chẽ hơn cách áp dụng các dịch vụ trí tuệ nhân tạo (AI) trong nước, khi các nhà chức trách cố gắng đạt được sự cân bằng giữa việc khai thác lợi ích của công nghệ trong khi giảm thiểu rủi ro.
Hướng dẫn dự thảo mới được Ủy ban Kỹ thuật Tiêu chuẩn hóa An toàn Thông tin Quốc gia, một cơ quan ban hành các tiêu chuẩn về bảo mật CNTT, công bố hôm thứ Tư tuần qua, nhắm đến hai lĩnh vực chính cần cải thiện – bảo mật dữ liệu đào tạo thô và các mô hình ngôn ngữ lớn (LLM) được sử dụng để xây dựng thế hệ Dịch vụ AI.
Dự thảo quy định tài liệu đào tạo AI không được vi phạm bản quyền hoặc vi phạm bảo mật dữ liệu cá nhân. Nó yêu cầu dữ liệu đào tạo phải được xử lý bởi người gắn nhãn và đánh giá dữ liệu được ủy quyền để vượt qua kiểm tra bảo mật trước tiên.
Thứ hai, theo dự thảo, khi các nhà phát triển xây dựng LLM của họ – các thuật toán học sâu được đào tạo với các bộ dữ liệu khổng lồ cung cấp năng lượng cho các chatbot AI tổng hợp như Ernie Bot của Baidu – thì chúng phải dựa trên các mô hình nền tảng được các cơ quan có thẩm quyền nộp và cấp phép.
Dự thảo đề xuất một hệ thống danh sách đen nhằm chặn các tài liệu dữ liệu đào tạo chứa hơn 5% nội dung bất hợp pháp, cùng với thông tin được coi là có hại theo luật an ninh mạng của quốc gia.
Nội dung bất hợp pháp ở Trung Quốc thường được định nghĩa là tài liệu kích động bạo lực và chủ nghĩa cực đoan, lan truyền tin đồn và thông tin sai lệch hoặc quảng bá nội dung khiêu *** và mê tín. Bắc Kinh cũng kiểm duyệt thông tin chính trị nhạy cảm, chẳng hạn như các câu hỏi về tình trạng của Đài Loan.
Dự thảo đề xuất rằng trong quá trình đào tạo, các nhà phát triển nên coi tính bảo mật của nội dung được tạo ra là một trong những điểm đánh giá chính và “trong mọi cuộc đối thoại [với các dịch vụ AI tổng quát], thông tin do người dùng nhập vào phải trải qua quá trình kiểm tra bảo mật để đảm bảo các mô hình AI tạo ra nội dung tích cực”.
Dự thảo được đề xuất đang lấy ý kiến phản hồi của công chúng cho đến ngày 25 tháng 10.
Vào tháng 8, Trung Quốc đã áp đặt một quy định chung nhắm vào các dịch vụ AI trong nước, khiến nước này trở thành một trong những quốc gia đầu tiên áp đặt các quy tắc quản lý công nghệ mới nổi.
Chính phủ Trung Quốc vào tháng trước đã phê duyệt một loạt dịch vụ AI sáng tạo tại địa phương, bao gồm chatbot từ gã khổng lồ công cụ tìm kiếm Baidu, iFlyTek do nhà nước hậu thuẫn, Zhipu AI, liên doanh mới Baichuan và SenseTime của đồng sáng lập Sogou, Wang Xiaochuan.
Trong các thử nghiệm do Post thực hiện, các chatbot Trung Quốc phản hồi theo nhiều cách khác nhau khi được hỏi liệu Đài Loan có phải là một phần của Trung Quốc hay không. Một số từ chối đưa ra câu trả lời và kết thúc cuộc trò chuyện một cách đột ngột, trong khi những người khác đưa ra câu trả lời ngắn gọn, khẳng định trước khi kết thúc cuộc trò chuyện.
Nguồn: SCMP
1. Trung Quốc đề xuất các biện pháp hạn chế chặt chẽ hơn đối với dữ liệu đào tạo và các mô hình được sử dụng để xây dựng các dịch vụ AI tổng hợp nhằm thắt chặt an ninh.
2. Dự thảo nhắm đến hai lĩnh vực chính cần cải thiện – bảo mật dữ liệu đào tạo thô và các mô hình ngôn ngữ lớn được sử dụng để xây dựng các dịch vụ AI tổng quát
3. Dự thảo đề xuất hệ thống danh sách đen nhằm chặn các tài liệu dữ liệu đào tạo chứa hơn 5% nội dung bất hợp pháp
Hướng dẫn dự thảo mới được Ủy ban Kỹ thuật Tiêu chuẩn hóa An toàn Thông tin Quốc gia, một cơ quan ban hành các tiêu chuẩn về bảo mật CNTT, công bố hôm thứ Tư tuần qua, nhắm đến hai lĩnh vực chính cần cải thiện – bảo mật dữ liệu đào tạo thô và các mô hình ngôn ngữ lớn (LLM) được sử dụng để xây dựng thế hệ Dịch vụ AI.
Dự thảo quy định tài liệu đào tạo AI không được vi phạm bản quyền hoặc vi phạm bảo mật dữ liệu cá nhân. Nó yêu cầu dữ liệu đào tạo phải được xử lý bởi người gắn nhãn và đánh giá dữ liệu được ủy quyền để vượt qua kiểm tra bảo mật trước tiên.
Thứ hai, theo dự thảo, khi các nhà phát triển xây dựng LLM của họ – các thuật toán học sâu được đào tạo với các bộ dữ liệu khổng lồ cung cấp năng lượng cho các chatbot AI tổng hợp như Ernie Bot của Baidu – thì chúng phải dựa trên các mô hình nền tảng được các cơ quan có thẩm quyền nộp và cấp phép.
Dự thảo đề xuất một hệ thống danh sách đen nhằm chặn các tài liệu dữ liệu đào tạo chứa hơn 5% nội dung bất hợp pháp, cùng với thông tin được coi là có hại theo luật an ninh mạng của quốc gia.
Nội dung bất hợp pháp ở Trung Quốc thường được định nghĩa là tài liệu kích động bạo lực và chủ nghĩa cực đoan, lan truyền tin đồn và thông tin sai lệch hoặc quảng bá nội dung khiêu *** và mê tín. Bắc Kinh cũng kiểm duyệt thông tin chính trị nhạy cảm, chẳng hạn như các câu hỏi về tình trạng của Đài Loan.
Dự thảo đề xuất rằng trong quá trình đào tạo, các nhà phát triển nên coi tính bảo mật của nội dung được tạo ra là một trong những điểm đánh giá chính và “trong mọi cuộc đối thoại [với các dịch vụ AI tổng quát], thông tin do người dùng nhập vào phải trải qua quá trình kiểm tra bảo mật để đảm bảo các mô hình AI tạo ra nội dung tích cực”.
Dự thảo được đề xuất đang lấy ý kiến phản hồi của công chúng cho đến ngày 25 tháng 10.
Vào tháng 8, Trung Quốc đã áp đặt một quy định chung nhắm vào các dịch vụ AI trong nước, khiến nước này trở thành một trong những quốc gia đầu tiên áp đặt các quy tắc quản lý công nghệ mới nổi.
Chính phủ Trung Quốc vào tháng trước đã phê duyệt một loạt dịch vụ AI sáng tạo tại địa phương, bao gồm chatbot từ gã khổng lồ công cụ tìm kiếm Baidu, iFlyTek do nhà nước hậu thuẫn, Zhipu AI, liên doanh mới Baichuan và SenseTime của đồng sáng lập Sogou, Wang Xiaochuan.
Trong các thử nghiệm do Post thực hiện, các chatbot Trung Quốc phản hồi theo nhiều cách khác nhau khi được hỏi liệu Đài Loan có phải là một phần của Trung Quốc hay không. Một số từ chối đưa ra câu trả lời và kết thúc cuộc trò chuyện một cách đột ngột, trong khi những người khác đưa ra câu trả lời ngắn gọn, khẳng định trước khi kết thúc cuộc trò chuyện.
Nguồn: SCMP
