"Chưng cất mô hình" đang trở thành một trong những vấn đề gây tranh cãi nhất trong cuộc đua AI. Về bản chất, đây là kỹ thuật dùng một mô hình mạnh làm "giáo viên", tạo dữ liệu để huấn luyện mô hình nhỏ hơn. Bản thân kỹ thuật này hoàn toàn trung tính. Vấn đề nảy sinh khi các công ty sử dụng đầu ra của những mô hình tiên tiến nhất, hay SOTA, để nhanh chóng sao chép năng lực của đối thủ mà không được phép.
Điều này dễ hiểu từ góc độ kinh doanh. Các công ty như OpenAI hay Anthropic phải chi hàng tỷ USD cho nghiên cứu, dữ liệu, hạ tầng và nhân sự để phát triển mô hình. Nếu đối thủ có thể dùng API để tạo hàng triệu mẫu dữ liệu rồi huấn luyện một mô hình có năng lực tương đương với chi phí thấp hơn nhiều, lợi thế của bên đầu tư ban đầu sẽ nhanh chóng bị thu hẹp.
Nhưng chưng cất cũng có sức hấp dẫn rất lớn. Dữ liệu chất lượng cao là một trong những yếu tố khó và đắt nhất khi xây dựng mô hình. Thay vì tự thu thập và gắn nhãn dữ liệu, các nhà nghiên cứu có thể dùng một mô hình mạnh hơn để tạo dữ liệu huấn luyện. So với việc thay đổi kiến trúc hoặc xây dựng lại toàn bộ quy trình hậu huấn luyện, đây là cách nhanh và ít rủi ro hơn để cải thiện năng lực trong ngắn hạn.
Nếu có thể thu được những dữ liệu phản ánh quá trình này, mô hình "học sinh" có thể nhanh chóng tiếp thu một phần năng lực của mô hình "giáo viên". Đây cũng là lý do chưng cất chuỗi suy luận, hay Chain of Thought, trở thành một hướng được quan tâm.
Tuy nhiên, mô hình tiên tiến ngày càng tăng cường khả năng bảo vệ những thành phần quan trọng. Kiến trúc, phương pháp huấn luyện, dữ liệu, hạ tầng và logic thiết kế không thể được nhìn thấy trực tiếp từ đầu ra. Ngay cả khi một mô hình có thể bắt chước hành vi của mô hình khác, điều đó cũng không đồng nghĩa với việc nó hiểu được cách năng lực đó được tạo ra.
Đây chính là giới hạn của chưng cất: có thể sao chép một phần năng lực, nhưng không dễ sao chép năng lực khám phá ra năng lực mới.
Về dài hạn, đây cũng là điều khiến một số công ty lo ngại. Nếu mỗi khi đối thủ ra mô hình mới, đội ngũ lại mua token để chưng cất rồi huấn luyện mô hình của mình, nguồn lực dành cho nghiên cứu độc lập sẽ bị thu hẹp. Công ty có thể ngày càng giỏi bắt chước nhưng lại yếu đi trong việc tự xây dựng dữ liệu, kiến trúc và phương pháp huấn luyện.
ByteDance được cho là đã nhiều lần ngăn việc phụ thuộc quá mức vào chiến lược này, thậm chí chấp nhận để Seed tạm thời tụt hậu thay vì dùng chưng cất làm con đường tắt để bắt kịp. Logic ở đây khá đơn giản: mô hình có thể chậm hơn đối thủ hôm nay, nhưng công ty không thể đánh mất khả năng tự mình bắt kịp vào ngày mai.
Vấn đề vì thế nằm ở ranh giới giữa học hỏi, sử dụng dữ liệu bên ngoài và sao chép năng lực của đối thủ. Khi các mô hình ngày càng mạnh, cuộc chiến cũng chuyển sang khả năng đặt câu hỏi. Muốn chưng cất hiệu quả, người sử dụng phải biết thiết kế những câu hỏi đủ tốt để khám phá khả năng của mô hình mục tiêu. Chính năng lực này, trớ trêu thay, lại có thể trở thành một phần năng lực nghiên cứu độc lập.
Chưng cất vì thế không phải thứ cần bị loại bỏ hoàn toàn. Tự phát triển mọi thứ từ đầu vừa chậm vừa tốn kém, thậm chí đôi khi không khả thi. Cách tiếp cận thực tế hơn có thể là kết hợp chưng cất với nghiên cứu riêng: dùng kiến thức bên ngoài để rút ngắn giai đoạn ban đầu, sau đó đầu tư vào dữ liệu, kiến trúc và phương pháp huấn luyện của chính mình.
Cuối cùng, cuộc tranh luận không phải là "chưng cất hay không chưng cất", mà là chưng cất bao nhiêu là đủ.
Chưng cất có thể giúp một công ty bắt kịp rất nhanh. Nhưng nếu quá phụ thuộc vào nó, công ty có nguy cơ mất đi thứ quan trọng nhất trong cuộc đua AI: khả năng tự khám phá con đường tiếp theo.
Điều này dễ hiểu từ góc độ kinh doanh. Các công ty như OpenAI hay Anthropic phải chi hàng tỷ USD cho nghiên cứu, dữ liệu, hạ tầng và nhân sự để phát triển mô hình. Nếu đối thủ có thể dùng API để tạo hàng triệu mẫu dữ liệu rồi huấn luyện một mô hình có năng lực tương đương với chi phí thấp hơn nhiều, lợi thế của bên đầu tư ban đầu sẽ nhanh chóng bị thu hẹp.
Nhưng chưng cất cũng có sức hấp dẫn rất lớn. Dữ liệu chất lượng cao là một trong những yếu tố khó và đắt nhất khi xây dựng mô hình. Thay vì tự thu thập và gắn nhãn dữ liệu, các nhà nghiên cứu có thể dùng một mô hình mạnh hơn để tạo dữ liệu huấn luyện. So với việc thay đổi kiến trúc hoặc xây dựng lại toàn bộ quy trình hậu huấn luyện, đây là cách nhanh và ít rủi ro hơn để cải thiện năng lực trong ngắn hạn.
Thứ đáng giá nhất không chỉ là câu trả lời
Theo Yang Mengyue, tiến sĩ tại University College London và trợ lý giáo sư tại Đại học Bristol, giá trị lớn nhất của chưng cất nằm ở khả năng tái tạo quá trình suy luận của mô hình. Một hệ thống lập trình mạnh không chỉ tạo ra đoạn mã cuối cùng, mà còn phải biết phân tích vấn đề, sử dụng công cụ, kiểm tra kết quả và sửa lỗi.Nếu có thể thu được những dữ liệu phản ánh quá trình này, mô hình "học sinh" có thể nhanh chóng tiếp thu một phần năng lực của mô hình "giáo viên". Đây cũng là lý do chưng cất chuỗi suy luận, hay Chain of Thought, trở thành một hướng được quan tâm.
Tuy nhiên, mô hình tiên tiến ngày càng tăng cường khả năng bảo vệ những thành phần quan trọng. Kiến trúc, phương pháp huấn luyện, dữ liệu, hạ tầng và logic thiết kế không thể được nhìn thấy trực tiếp từ đầu ra. Ngay cả khi một mô hình có thể bắt chước hành vi của mô hình khác, điều đó cũng không đồng nghĩa với việc nó hiểu được cách năng lực đó được tạo ra.
Đây chính là giới hạn của chưng cất: có thể sao chép một phần năng lực, nhưng không dễ sao chép năng lực khám phá ra năng lực mới.
Về dài hạn, đây cũng là điều khiến một số công ty lo ngại. Nếu mỗi khi đối thủ ra mô hình mới, đội ngũ lại mua token để chưng cất rồi huấn luyện mô hình của mình, nguồn lực dành cho nghiên cứu độc lập sẽ bị thu hẹp. Công ty có thể ngày càng giỏi bắt chước nhưng lại yếu đi trong việc tự xây dựng dữ liệu, kiến trúc và phương pháp huấn luyện.
ByteDance được cho là đã nhiều lần ngăn việc phụ thuộc quá mức vào chiến lược này, thậm chí chấp nhận để Seed tạm thời tụt hậu thay vì dùng chưng cất làm con đường tắt để bắt kịp. Logic ở đây khá đơn giản: mô hình có thể chậm hơn đối thủ hôm nay, nhưng công ty không thể đánh mất khả năng tự mình bắt kịp vào ngày mai.
Chưng cất lẫn nhau
Cuộc tranh luận này cũng không đơn giản là chuyện "công ty Trung Quốc chưng cất, công ty Mỹ phản đối". Các công ty ở Thung lũng Silicon cũng sử dụng đầu ra của những mô hình khác như một nguồn dữ liệu. Elon Musk từng nói xAI đã sử dụng một phần đầu ra của OpenAI để huấn luyện mô hình.Vấn đề vì thế nằm ở ranh giới giữa học hỏi, sử dụng dữ liệu bên ngoài và sao chép năng lực của đối thủ. Khi các mô hình ngày càng mạnh, cuộc chiến cũng chuyển sang khả năng đặt câu hỏi. Muốn chưng cất hiệu quả, người sử dụng phải biết thiết kế những câu hỏi đủ tốt để khám phá khả năng của mô hình mục tiêu. Chính năng lực này, trớ trêu thay, lại có thể trở thành một phần năng lực nghiên cứu độc lập.
Chưng cất vì thế không phải thứ cần bị loại bỏ hoàn toàn. Tự phát triển mọi thứ từ đầu vừa chậm vừa tốn kém, thậm chí đôi khi không khả thi. Cách tiếp cận thực tế hơn có thể là kết hợp chưng cất với nghiên cứu riêng: dùng kiến thức bên ngoài để rút ngắn giai đoạn ban đầu, sau đó đầu tư vào dữ liệu, kiến trúc và phương pháp huấn luyện của chính mình.
Cuối cùng, cuộc tranh luận không phải là "chưng cất hay không chưng cất", mà là chưng cất bao nhiêu là đủ.
Chưng cất có thể giúp một công ty bắt kịp rất nhanh. Nhưng nếu quá phụ thuộc vào nó, công ty có nguy cơ mất đi thứ quan trọng nhất trong cuộc đua AI: khả năng tự khám phá con đường tiếp theo.
