Trung Đào✔
Writer
Trong hai năm qua, ngành AI dần hình thành một sự phân công: các công ty lớn tập trung tiền bạc và năng lực tính toán để huấn luyện những mô hình nền tảng ngày càng mạnh, còn các công ty ứng dụng chủ yếu gọi API, kết hợp prompt, RAG và các công cụ khác để biến khả năng của AI thành sản phẩm cụ thể.
Mô hình này từng khá hợp lý, nhưng khi lượng người dùng tăng lên, bài toán chi phí bắt đầu trở nên khó chịu. Công ty ứng dụng càng có nhiều người dùng thì càng phải trả nhiều tiền cho mỗi lần gọi mô hình. Nói cách khác, sản phẩm càng phát triển, chi phí mô hình càng tăng theo. Đó là lý do một số công ty bắt đầu tính đến việc tự đào tạo mô hình cho những nhiệm vụ quan trọng nhất.
Genspark là một ví dụ. Nền tảng này cho biết người dùng tạo tới 120.000 bài thuyết trình PowerPoint mỗi ngày. Việc tạo một bài trình chiếu thực tế không chỉ có viết nội dung mà còn gồm thu thập thông tin, lập dàn ý, định dạng, tạo biểu đồ, kiểm tra và chỉnh sửa. Mỗi bước có thể cần nhiều lần gọi mô hình. Nếu một bước làm sai, những bước phía sau có thể tiếp tục sai theo, kéo theo thêm nhiều vòng kiểm tra và sửa chữa.
Trong khi đó, người dùng không quan tâm mô hình phía sau mạnh đến mức nào. Họ chỉ cần một bài trình chiếu tốt, ít phải chỉnh sửa và có chi phí chấp nhận được.
Genspark tự huấn luyện mô hình cho PowerPoint
Tuần này, Genspark giới thiệu Gen-1 Slides, một mô hình dựa trên MiniMax M3 có trọng số mở và được hậu huấn luyện cho nhiệm vụ tạo PowerPoint. Theo Genspark, chất lượng tổng thể của mô hình gần với Claude Opus 5, trong khi chi phí mô hình cho mỗi tài liệu PowerPoint giảm từ khoảng 4,16 USD xuống 0,44 USD, tức gần 90%.
Điểm đáng chú ý là Genspark không đơn giản đổi sang một mô hình rẻ hơn. Công ty chia toàn bộ quá trình tạo PowerPoint thành khoảng 2.000 nhiệm vụ, mô phỏng các tình huống kinh doanh thực tế, rồi cho mô hình thực hành lặp đi lặp lại. Mỗi kết quả được hệ thống chấm điểm dựa trên nội dung, hình ảnh và khả năng hoàn thành nhiệm vụ. Những điểm số này được dùng làm tín hiệu cho quá trình học tăng cường.
Mô hình cũng được yêu cầu tự kiểm tra và sửa lỗi trước khi hoàn thành, thay vì tạo ra một kết quả duy nhất rồi dừng lại. Các quy tắc đánh giá tiếp tục được điều chỉnh để hạn chế việc mô hình tìm cách "lách" hệ thống chấm điểm.
Theo kết quả Genspark công bố, với cùng 200 nhiệm vụ thực tế và cùng bộ công cụ, Gen-1 chỉ đắt hơn khoảng 0,10 USD mỗi sản phẩm so với M3 ban đầu nhưng rẻ hơn Opus 5 khoảng 3,72 USD. Với cùng ngân sách, Gen-1 có thể tạo số lượng bài thuyết trình nhiều hơn khoảng 9,6 lần so với Opus 5 mà vẫn duy trì chất lượng tương đương.
Trong 1,57 triệu nhiệm vụ trực tuyến, tỷ lệ kết quả có điểm thấp của M3 ban đầu là 18,0%, trong khi Gen-1 giảm xuống 3,6%, gần với mức 3,4% của Opus. Điểm đánh giá trung bình cũng tăng từ 3,80 lên 4,25 sao.
Dù vậy, mức giảm gần 90% chỉ nói về chi phí suy luận của mô hình. Chi phí công cụ, hiển thị và lưu trữ không nằm trong con số này. Bản thân quá trình huấn luyện cũng tốn tài nguyên. Riêng vòng học tăng cường cuối cùng sử dụng 96 GPU NVIDIA B300 trong khoảng một tuần, tương đương hơn 16.000 giờ GPU, chưa tính chi phí thử nghiệm, xây dựng nhiệm vụ và đánh giá thủ công.
Cursor và Harvey cũng đang làm điều tương tự
Genspark không phải trường hợp duy nhất. Trong lĩnh vực lập trình, Cursor phải giải quyết bài toán khiến mô hình không chỉ viết được mã mà còn phải hiểu kiến trúc của dự án hiện có. Một yêu cầu của lập trình viên có thể chỉ dài một hoặc hai dòng, nhưng mô hình phải tìm hiểu một kho mã có thể chứa hàng trăm nghìn dòng để xác định chính xác cần sửa gì.
Cursor vì thế phát triển Composer 2 trên nền tảng Kimi K2.5, đưa mô hình vào môi trường thử nghiệm để học tăng cường và sử dụng cả dữ liệu từ người dùng thực tế. Việc nhà phát triển chấp nhận hoặc ngừng sử dụng kết quả của mô hình được dùng làm tín hiệu phản hồi. Theo nội dung gốc, một chu kỳ huấn luyện có thể hoàn thành trong khoảng 5 giờ.
Harvey, công ty AI pháp lý, cũng gặp một bài toán riêng. Một câu trả lời pháp lý không chỉ cần chính xác mà còn phải tránh bỏ sót rủi ro và có trích dẫn hỗ trợ cho kết luận. Harvey chia những yêu cầu này thành các tiêu chí có thể đánh giá, sau đó sử dụng nghiên cứu trường hợp công khai, dữ liệu tổng hợp và dữ liệu chú thích từ đối tác để hậu huấn luyện mô hình Tenet, mà không sử dụng tài liệu gốc của khách hàng.
Điểm chung của Genspark, Cursor và Harvey là họ bắt đầu từ những vấn đề cụ thể trong sản phẩm, xác định cách đo chất lượng rồi dùng chính những kinh nghiệm đó để đào tạo mô hình. Kinh nghiệm kinh doanh không còn chỉ nằm trong prompt hay thiết kế sản phẩm mà được đưa thẳng vào quá trình phát triển mô hình.
Đây cũng là lý do lợi thế của một công ty AI ứng dụng không nhất thiết nằm ở việc sở hữu mô hình mạnh nhất. Các mô hình mã nguồn mở có thể được nhiều đối thủ tiếp cận, còn những cải tiến nhỏ từ việc tinh chỉnh có thể nhanh chóng bị xóa bỏ bởi bản cập nhật của mô hình nền tảng.
Thứ khó sao chép hơn là một quy trình liên tục: lấy phản hồi người dùng, tìm ra vấn đề, đánh giá hiệu quả thay đổi rồi tiếp tục đào tạo. Các công ty vẫn có thể dùng mô hình đa năng bên ngoài để tiếp nhận những khả năng mới, đồng thời tự huấn luyện mô hình chuyên dụng cho những nhiệm vụ có tần suất sử dụng cao.
Cuộc cạnh tranh của AI ứng dụng, theo cách nhìn này, đang chuyển từ việc ai kết nối được với mô hình trước sang việc ai tối ưu được quy trình trước. Không phải nhiệm vụ nào cũng cần một mô hình lớn nhất. Với những công việc được thực hiện hàng triệu lần, một mô hình nhỏ hơn nhưng ổn định, phù hợp và rẻ hơn có thể mang lại giá trị lớn hơn nhiều.
Mô hình này từng khá hợp lý, nhưng khi lượng người dùng tăng lên, bài toán chi phí bắt đầu trở nên khó chịu. Công ty ứng dụng càng có nhiều người dùng thì càng phải trả nhiều tiền cho mỗi lần gọi mô hình. Nói cách khác, sản phẩm càng phát triển, chi phí mô hình càng tăng theo. Đó là lý do một số công ty bắt đầu tính đến việc tự đào tạo mô hình cho những nhiệm vụ quan trọng nhất.
Genspark là một ví dụ. Nền tảng này cho biết người dùng tạo tới 120.000 bài thuyết trình PowerPoint mỗi ngày. Việc tạo một bài trình chiếu thực tế không chỉ có viết nội dung mà còn gồm thu thập thông tin, lập dàn ý, định dạng, tạo biểu đồ, kiểm tra và chỉnh sửa. Mỗi bước có thể cần nhiều lần gọi mô hình. Nếu một bước làm sai, những bước phía sau có thể tiếp tục sai theo, kéo theo thêm nhiều vòng kiểm tra và sửa chữa.
Trong khi đó, người dùng không quan tâm mô hình phía sau mạnh đến mức nào. Họ chỉ cần một bài trình chiếu tốt, ít phải chỉnh sửa và có chi phí chấp nhận được.
Genspark tự huấn luyện mô hình cho PowerPoint
Tuần này, Genspark giới thiệu Gen-1 Slides, một mô hình dựa trên MiniMax M3 có trọng số mở và được hậu huấn luyện cho nhiệm vụ tạo PowerPoint. Theo Genspark, chất lượng tổng thể của mô hình gần với Claude Opus 5, trong khi chi phí mô hình cho mỗi tài liệu PowerPoint giảm từ khoảng 4,16 USD xuống 0,44 USD, tức gần 90%.
Điểm đáng chú ý là Genspark không đơn giản đổi sang một mô hình rẻ hơn. Công ty chia toàn bộ quá trình tạo PowerPoint thành khoảng 2.000 nhiệm vụ, mô phỏng các tình huống kinh doanh thực tế, rồi cho mô hình thực hành lặp đi lặp lại. Mỗi kết quả được hệ thống chấm điểm dựa trên nội dung, hình ảnh và khả năng hoàn thành nhiệm vụ. Những điểm số này được dùng làm tín hiệu cho quá trình học tăng cường.
Mô hình cũng được yêu cầu tự kiểm tra và sửa lỗi trước khi hoàn thành, thay vì tạo ra một kết quả duy nhất rồi dừng lại. Các quy tắc đánh giá tiếp tục được điều chỉnh để hạn chế việc mô hình tìm cách "lách" hệ thống chấm điểm.
Theo kết quả Genspark công bố, với cùng 200 nhiệm vụ thực tế và cùng bộ công cụ, Gen-1 chỉ đắt hơn khoảng 0,10 USD mỗi sản phẩm so với M3 ban đầu nhưng rẻ hơn Opus 5 khoảng 3,72 USD. Với cùng ngân sách, Gen-1 có thể tạo số lượng bài thuyết trình nhiều hơn khoảng 9,6 lần so với Opus 5 mà vẫn duy trì chất lượng tương đương.
Trong 1,57 triệu nhiệm vụ trực tuyến, tỷ lệ kết quả có điểm thấp của M3 ban đầu là 18,0%, trong khi Gen-1 giảm xuống 3,6%, gần với mức 3,4% của Opus. Điểm đánh giá trung bình cũng tăng từ 3,80 lên 4,25 sao.
Dù vậy, mức giảm gần 90% chỉ nói về chi phí suy luận của mô hình. Chi phí công cụ, hiển thị và lưu trữ không nằm trong con số này. Bản thân quá trình huấn luyện cũng tốn tài nguyên. Riêng vòng học tăng cường cuối cùng sử dụng 96 GPU NVIDIA B300 trong khoảng một tuần, tương đương hơn 16.000 giờ GPU, chưa tính chi phí thử nghiệm, xây dựng nhiệm vụ và đánh giá thủ công.
Cursor và Harvey cũng đang làm điều tương tự
Genspark không phải trường hợp duy nhất. Trong lĩnh vực lập trình, Cursor phải giải quyết bài toán khiến mô hình không chỉ viết được mã mà còn phải hiểu kiến trúc của dự án hiện có. Một yêu cầu của lập trình viên có thể chỉ dài một hoặc hai dòng, nhưng mô hình phải tìm hiểu một kho mã có thể chứa hàng trăm nghìn dòng để xác định chính xác cần sửa gì.
Cursor vì thế phát triển Composer 2 trên nền tảng Kimi K2.5, đưa mô hình vào môi trường thử nghiệm để học tăng cường và sử dụng cả dữ liệu từ người dùng thực tế. Việc nhà phát triển chấp nhận hoặc ngừng sử dụng kết quả của mô hình được dùng làm tín hiệu phản hồi. Theo nội dung gốc, một chu kỳ huấn luyện có thể hoàn thành trong khoảng 5 giờ.
Harvey, công ty AI pháp lý, cũng gặp một bài toán riêng. Một câu trả lời pháp lý không chỉ cần chính xác mà còn phải tránh bỏ sót rủi ro và có trích dẫn hỗ trợ cho kết luận. Harvey chia những yêu cầu này thành các tiêu chí có thể đánh giá, sau đó sử dụng nghiên cứu trường hợp công khai, dữ liệu tổng hợp và dữ liệu chú thích từ đối tác để hậu huấn luyện mô hình Tenet, mà không sử dụng tài liệu gốc của khách hàng.
Điểm chung của Genspark, Cursor và Harvey là họ bắt đầu từ những vấn đề cụ thể trong sản phẩm, xác định cách đo chất lượng rồi dùng chính những kinh nghiệm đó để đào tạo mô hình. Kinh nghiệm kinh doanh không còn chỉ nằm trong prompt hay thiết kế sản phẩm mà được đưa thẳng vào quá trình phát triển mô hình.
Đây cũng là lý do lợi thế của một công ty AI ứng dụng không nhất thiết nằm ở việc sở hữu mô hình mạnh nhất. Các mô hình mã nguồn mở có thể được nhiều đối thủ tiếp cận, còn những cải tiến nhỏ từ việc tinh chỉnh có thể nhanh chóng bị xóa bỏ bởi bản cập nhật của mô hình nền tảng.
Thứ khó sao chép hơn là một quy trình liên tục: lấy phản hồi người dùng, tìm ra vấn đề, đánh giá hiệu quả thay đổi rồi tiếp tục đào tạo. Các công ty vẫn có thể dùng mô hình đa năng bên ngoài để tiếp nhận những khả năng mới, đồng thời tự huấn luyện mô hình chuyên dụng cho những nhiệm vụ có tần suất sử dụng cao.
Cuộc cạnh tranh của AI ứng dụng, theo cách nhìn này, đang chuyển từ việc ai kết nối được với mô hình trước sang việc ai tối ưu được quy trình trước. Không phải nhiệm vụ nào cũng cần một mô hình lớn nhất. Với những công việc được thực hiện hàng triệu lần, một mô hình nhỏ hơn nhưng ổn định, phù hợp và rẻ hơn có thể mang lại giá trị lớn hơn nhiều.
