Mẫn Nhi
Admin xinh gái
Các công ty trí tuệ nhân tạo (AI) tại Mỹ đã đầu tư hàng trăm tỷ USD để phát triển các chatbot tiên tiến, nhưng đang đối mặt với rủi ro bị suy yếu bởi những đối thủ xây dựng hệ thống cạnh tranh với chi phí thấp hơn nhiều nhờ kỹ thuật chưng cất (distillation).
Mô hình kết quả có thể thực hiện nhiều chức năng tương tự như bản gốc nhưng chỉ tiêu tốn một phần nhỏ chi phí và năng lực tính toán cần thiết để phát triển và vận hành một hệ thống tương đương từ đầu. Kiến thức không được chuyển giao trực tiếp, nhưng mô hình học sinh sẽ học cách bắt chước hành vi của mô hình giáo viên dựa trên kết quả từ các truy vấn của nó.
Phương pháp này được coi là chấp nhận được khi các công ty sử dụng trên các mô hình của riêng họ hoặc khi các nhà phát triển bên ngoài sử dụng để xây dựng các công nghệ không mang tính cạnh tranh.
Vào tháng 6, Anthropic cho biết Alibaba Group Holding Ltd. đã sử dụng phương pháp chưng cất một cách trái phép trên quy mô công nghiệp để trích xuất kết quả từ mô hình Claude nhằm phát triển hệ thống AI riêng. Các cáo buộc tương tự cũng được Anthropic và OpenAI đưa ra đối với các phòng nghiên cứu AI khác của Trung Quốc, bao gồm cả DeepSeek và MiniMax. Cho đến nay, chưa có công ty nào của Trung Quốc, bao gồm cả Alibaba, phản hồi về các cáo buộc này.
Sự khác biệt về mô hình hoạt động làm gia tăng xung đột lợi ích. Nhiều phòng nghiên cứu Trung Quốc như DeepSeek phát triển các mô hình trọng số mở cho phép người dùng tải về và chạy tự do.
Ngược lại, các công ty AI lớn nhất của Mỹ giữ mô hình độc quyền với hy vọng thu phí khách hàng nhằm bù đắp hàng trăm tỷ USD đã đầu tư vào các trung tâm dữ liệu và cơ sở hạ tầng.
Các quan chức Mỹ ước tính rằng hoạt động chưng cất không phép đang gây thiệt hại hàng tỷ USD doanh thu hàng năm cho các doanh nghiệp Mỹ.
Bên cạnh đó, các công ty Mỹ cũng cảnh báo về rủi ro an ninh khi các đối thủ nước ngoài có thể sử dụng kỹ thuật này để phát triển các mô hình AI đã bị loại bỏ các rào cản an toàn, tạo điều kiện cho các hành vi nguy hiểm như tạo mầm bệnh hoặc thực hiện các cuộc tấn công mạng quy mô lớn.
Vào tháng 2, Anthropic tuyên bố ba nhà phát triển AI hàng đầu tại Trung Quốc đã tìm cách trích xuất trái phép kết quả từ các mô hình của họ bằng cách tạo ra hơn 16 triệu lượt trao đổi thông qua các tài khoản giả mạo. Các tài khoản này được xác định dựa trên thông tin từ địa chỉ giao thức internet (IP) và siêu dữ liệu.
Trong một bức thư gửi tới một số nghị sĩ Mỹ và các quan chức Nhà Trắng vào tháng 6, Anthropic tiết lộ rằng nỗ lực chưng cất của Alibaba liên quan đến 28.8 triệu lượt trao đổi với chatbot Claude trong khoảng thời gian từ tháng 4 đến tháng 6, thông qua gần 25.000 tài khoản giả mạo.
Hiện tại, các công ty AI hàng đầu của Mỹ đang thực hiện các biện pháp để chống lại những gì họ gọi là tấn công chưng cất, bao gồm việc chia sẻ thông tin rộng rãi hơn về hành vi trích xuất dữ liệu không phép và chặn các tài khoản nghi vấn.
Chính phủ Mỹ và các nhà lập pháp tại Washington cũng đang chú ý tới vấn đề này. Vào tháng 4, Nhà Trắng cho biết sẽ hợp tác với ngành công nghiệp để xác định cách hạn chế hành vi chưng cất trái phép và quy trách nhiệm cho các bên vi phạm. Các thành viên Cộng hòa tại Hạ viện cũng đã kêu gọi áp dụng các biện pháp trừng phạt của Mỹ đối với các thực thể Trung Quốc thực hiện hành vi này ở quy mô công nghiệp.
Phương pháp chưng cất AI hoạt động như thế nào?
Chưng cất là một phương pháp thường được các phòng nghiên cứu AI sử dụng để huấn luyện một mô hình ngôn ngữ lớn bằng cách sử dụng kết quả đầu ra của một mô hình khác. Trong quy trình này, nhà phát triển gửi một loạt câu lệnh đến một mô hình giáo viên lớn hơn và có năng lực mạnh mẽ hơn, sau đó sử dụng các phản hồi thu được để huấn luyện một mô hình học sinh nhỏ hơn nhằm sao chép nhiều khả năng của mô hình gốc.
Mô hình kết quả có thể thực hiện nhiều chức năng tương tự như bản gốc nhưng chỉ tiêu tốn một phần nhỏ chi phí và năng lực tính toán cần thiết để phát triển và vận hành một hệ thống tương đương từ đầu. Kiến thức không được chuyển giao trực tiếp, nhưng mô hình học sinh sẽ học cách bắt chước hành vi của mô hình giáo viên dựa trên kết quả từ các truy vấn của nó.
Phương pháp này được coi là chấp nhận được khi các công ty sử dụng trên các mô hình của riêng họ hoặc khi các nhà phát triển bên ngoài sử dụng để xây dựng các công nghệ không mang tính cạnh tranh.
Tại sao chưng cất AI gây tranh cãi lớn?
Kỹ thuật này trở nên gây tranh cãi khi bên thứ ba sử dụng nó để sao chép các khả năng của một mô hình AI độc quyền mà không có sự cho phép của chủ sở hữu, làm dấy lên các mối lo ngại về pháp lý, kinh tế và an ninh.
Vào tháng 6, Anthropic cho biết Alibaba Group Holding Ltd. đã sử dụng phương pháp chưng cất một cách trái phép trên quy mô công nghiệp để trích xuất kết quả từ mô hình Claude nhằm phát triển hệ thống AI riêng. Các cáo buộc tương tự cũng được Anthropic và OpenAI đưa ra đối với các phòng nghiên cứu AI khác của Trung Quốc, bao gồm cả DeepSeek và MiniMax. Cho đến nay, chưa có công ty nào của Trung Quốc, bao gồm cả Alibaba, phản hồi về các cáo buộc này.
Sự khác biệt về mô hình hoạt động làm gia tăng xung đột lợi ích. Nhiều phòng nghiên cứu Trung Quốc như DeepSeek phát triển các mô hình trọng số mở cho phép người dùng tải về và chạy tự do.
Ngược lại, các công ty AI lớn nhất của Mỹ giữ mô hình độc quyền với hy vọng thu phí khách hàng nhằm bù đắp hàng trăm tỷ USD đã đầu tư vào các trung tâm dữ liệu và cơ sở hạ tầng.
Các quan chức Mỹ ước tính rằng hoạt động chưng cất không phép đang gây thiệt hại hàng tỷ USD doanh thu hàng năm cho các doanh nghiệp Mỹ.
Bên cạnh đó, các công ty Mỹ cũng cảnh báo về rủi ro an ninh khi các đối thủ nước ngoài có thể sử dụng kỹ thuật này để phát triển các mô hình AI đã bị loại bỏ các rào cản an toàn, tạo điều kiện cho các hành vi nguy hiểm như tạo mầm bệnh hoặc thực hiện các cuộc tấn công mạng quy mô lớn.
Nhận diện và ngăn chặn các cuộc tấn công chưng cất
Việc chứng minh một mô hình đối thủ được phát triển qua phương pháp chưng cất là rất khó khăn và hiện tại các bằng chứng chủ yếu vẫn mang tính gián tiếp.Vào tháng 2, Anthropic tuyên bố ba nhà phát triển AI hàng đầu tại Trung Quốc đã tìm cách trích xuất trái phép kết quả từ các mô hình của họ bằng cách tạo ra hơn 16 triệu lượt trao đổi thông qua các tài khoản giả mạo. Các tài khoản này được xác định dựa trên thông tin từ địa chỉ giao thức internet (IP) và siêu dữ liệu.
Trong một bức thư gửi tới một số nghị sĩ Mỹ và các quan chức Nhà Trắng vào tháng 6, Anthropic tiết lộ rằng nỗ lực chưng cất của Alibaba liên quan đến 28.8 triệu lượt trao đổi với chatbot Claude trong khoảng thời gian từ tháng 4 đến tháng 6, thông qua gần 25.000 tài khoản giả mạo.
Hiện tại, các công ty AI hàng đầu của Mỹ đang thực hiện các biện pháp để chống lại những gì họ gọi là tấn công chưng cất, bao gồm việc chia sẻ thông tin rộng rãi hơn về hành vi trích xuất dữ liệu không phép và chặn các tài khoản nghi vấn.
Chính phủ Mỹ và các nhà lập pháp tại Washington cũng đang chú ý tới vấn đề này. Vào tháng 4, Nhà Trắng cho biết sẽ hợp tác với ngành công nghiệp để xác định cách hạn chế hành vi chưng cất trái phép và quy trách nhiệm cho các bên vi phạm. Các thành viên Cộng hòa tại Hạ viện cũng đã kêu gọi áp dụng các biện pháp trừng phạt của Mỹ đối với các thực thể Trung Quốc thực hiện hành vi này ở quy mô công nghiệp.
