Derpy
Intern Writer
Chỉ một tháng sau khi rời NVIDIA, Jia Yangqing (Giả Dương Thanh) đã trở lại, và lần này ông mang theo một ý tưởng có thể thay đổi cách phần mềm được tạo ra: để AI tự viết, tự kiểm tra và tự sửa lỗi cho chính mình, không cần con người can thiệp.
Dự án mới của ông mang tên Intent Lab, với sản phẩm cốt lõi là Fleet. Nói đơn giản, Fleet là một hệ thống AI có thể biến một ý tưởng mô tả bằng lời thành phần mềm hoàn chỉnh, đạt chuẩn để đưa vào sử dụng thực tế.
Để chứng minh điều đó, Intent Lab công bố ba sản phẩm đầu tiên do Fleet tự làm từ đầu đến cuối. Đáng chú ý nhất là công cụ suy luận GLM 5.2, vốn đã được NVIDIA tối ưu rất kỹ, nên việc cải thiện thêm được ví như vắt kem đánh răng từ tuýp đã gần cạn. Vậy mà Fleet vẫn giúp tốc độ xử lý tăng từ 102 lên 647 token mỗi giây, nhanh hơn 6,3 lần, nhờ bốn lớp tối ưu ở cấp nhân xử lý, thời gian chạy, giao tiếp dữ liệu và kỹ thuật giải mã suy đoán. Hai sản phẩm còn lại là một công cụ tạo cơ sở dữ liệu chỉ từ một câu lệnh, được kiểm chứng qua 6 triệu bài test, và một hệ thống tệp tin tự phát hiện và tự sửa lỗi bằng phương pháp xác minh hình thức.
Câu chuyện phía sau cũng đáng nói. Trước đó, Jia Yangqing từng sáng lập Lepton AI, công ty chuyên về hạ tầng AI, rồi được NVIDIA mua lại với giá khoảng 700 triệu đô la, tương đương 17,78 nghìn tỷ đồng. Nhưng sau sáp nhập, sản phẩm dần chững lại vì không hợp với cách vận hành của một tập đoàn lớn, còn lời hứa mở mã nguồn cũng không được thực hiện. Đó có lẽ là lý do khiến ông quyết định bắt đầu lại, theo một hướng hoàn toàn mới.
Ông chia sẻ rằng khoảng cách giữa mã chạy được và phần mềm thực sự đáng tin cậy không nằm ở năng lực của AI, mà ở việc thiếu một hệ thống trung gian, biết biến ý tưởng mơ hồ thành thiết kế cụ thể, tự kiểm tra và tự cải tiến theo thời gian. Đó chính là điều Fleet đang cố gắng làm được.
Từ Caffe, PyTorch đến Lepton AI và giờ là Intent Lab, dù đổi hướng nhiều lần, Jia Yangqing vẫn theo đuổi một mục tiêu duy nhất: giúp con người tiếp cận sức mạnh tính toán dễ dàng hơn.
Dự án mới của ông mang tên Intent Lab, với sản phẩm cốt lõi là Fleet. Nói đơn giản, Fleet là một hệ thống AI có thể biến một ý tưởng mô tả bằng lời thành phần mềm hoàn chỉnh, đạt chuẩn để đưa vào sử dụng thực tế.
Để chứng minh điều đó, Intent Lab công bố ba sản phẩm đầu tiên do Fleet tự làm từ đầu đến cuối. Đáng chú ý nhất là công cụ suy luận GLM 5.2, vốn đã được NVIDIA tối ưu rất kỹ, nên việc cải thiện thêm được ví như vắt kem đánh răng từ tuýp đã gần cạn. Vậy mà Fleet vẫn giúp tốc độ xử lý tăng từ 102 lên 647 token mỗi giây, nhanh hơn 6,3 lần, nhờ bốn lớp tối ưu ở cấp nhân xử lý, thời gian chạy, giao tiếp dữ liệu và kỹ thuật giải mã suy đoán. Hai sản phẩm còn lại là một công cụ tạo cơ sở dữ liệu chỉ từ một câu lệnh, được kiểm chứng qua 6 triệu bài test, và một hệ thống tệp tin tự phát hiện và tự sửa lỗi bằng phương pháp xác minh hình thức.
Câu chuyện phía sau cũng đáng nói. Trước đó, Jia Yangqing từng sáng lập Lepton AI, công ty chuyên về hạ tầng AI, rồi được NVIDIA mua lại với giá khoảng 700 triệu đô la, tương đương 17,78 nghìn tỷ đồng. Nhưng sau sáp nhập, sản phẩm dần chững lại vì không hợp với cách vận hành của một tập đoàn lớn, còn lời hứa mở mã nguồn cũng không được thực hiện. Đó có lẽ là lý do khiến ông quyết định bắt đầu lại, theo một hướng hoàn toàn mới.
Ông chia sẻ rằng khoảng cách giữa mã chạy được và phần mềm thực sự đáng tin cậy không nằm ở năng lực của AI, mà ở việc thiếu một hệ thống trung gian, biết biến ý tưởng mơ hồ thành thiết kế cụ thể, tự kiểm tra và tự cải tiến theo thời gian. Đó chính là điều Fleet đang cố gắng làm được.
Từ Caffe, PyTorch đến Lepton AI và giờ là Intent Lab, dù đổi hướng nhiều lần, Jia Yangqing vẫn theo đuổi một mục tiêu duy nhất: giúp con người tiếp cận sức mạnh tính toán dễ dàng hơn.
