Phạm Thanh Bình
Writer
Sau khi rời OpenAI, cựu Giám đốc Công nghệ Mira Murati vừa giới thiệu mô hình AI đầu tiên của startup Thinking Machines Lab. Thay vì chạy đua tạo ra mô hình mạnh nhất thế giới, công ty của bà chọn hướng đi khác: AI linh hoạt, chi phí thấp và dễ tùy biến cho doanh nghiệp.
Theo The Wall Street Journal, mô hình mới có tên Inkling, được phát hành dưới dạng trọng số mở (open weights). Điều này cho phép các nhà phát triển tải mô hình về, tinh chỉnh bằng dữ liệu riêng và xây dựng các ứng dụng phù hợp với nhu cầu của mình.
Inkling có tổng cộng 975 tỷ tham số, nhưng chỉ khoảng 41 tỷ tham số được kích hoạt trong mỗi lần xử lý. Thiết kế này giúp giảm đáng kể chi phí tính toán và tăng tốc độ phản hồi, trong khi vẫn duy trì hiệu năng cao.
Đáng chú ý, Thinking Machines thừa nhận kiến trúc của Inkling được lấy cảm hứng từ DeepSeek V3, mô hình AI nổi tiếng của Trung Quốc. Ở giai đoạn hậu huấn luyện, công ty cũng sử dụng dữ liệu do Kimi K2.5, một mô hình AI của startup Trung Quốc Moonshot AI, tạo ra để tối ưu hiệu suất.
Thinking Machines cho biết Inkling chưa phải mô hình mạnh nhất trên thị trường, nhưng mục tiêu của họ không phải vượt qua OpenAI hay Anthropic về điểm chuẩn. Thay vào đó, công ty muốn tạo ra một mô hình cân bằng giữa hiệu năng, chi phí và khả năng triển khai thực tế.
Inkling cũng được tích hợp với Tinker, nền tảng tinh chỉnh AI mà Thinking Machines ra mắt trước đó. Công cụ này cho phép các nhà phát triển huấn luyện và tùy chỉnh những mô hình AI quy mô lớn ngay trên nền tảng đám mây mà không cần đầu tư hạ tầng siêu máy tính.
Về an toàn, Thinking Machines cho biết đã kiểm tra khả năng mô hình bị lạm dụng trong các lĩnh vực như tấn công mạng hoặc hỗ trợ phát triển vũ khí sinh học. Theo công ty, Inkling vượt qua các bài đánh giá nội bộ. Tuy nhiên, vì đây là mô hình trọng số mở nên công ty vẫn tiếp tục nghiên cứu các biện pháp bảo mật bổ sung nhằm giảm nguy cơ bị sử dụng sai mục đích.
Việc một cựu lãnh đạo cấp cao của OpenAI lựa chọn xây dựng mô hình dựa trên công nghệ từ Trung Quốc cũng cho thấy xu hướng mới của ngành AI: thay vì phát triển mọi thứ từ đầu, nhiều startup đang tận dụng các nền tảng mã nguồn mở để rút ngắn thời gian phát triển và cạnh tranh bằng chi phí cùng khả năng tùy biến.
Theo The Wall Street Journal, mô hình mới có tên Inkling, được phát hành dưới dạng trọng số mở (open weights). Điều này cho phép các nhà phát triển tải mô hình về, tinh chỉnh bằng dữ liệu riêng và xây dựng các ứng dụng phù hợp với nhu cầu của mình.
Inkling có tổng cộng 975 tỷ tham số, nhưng chỉ khoảng 41 tỷ tham số được kích hoạt trong mỗi lần xử lý. Thiết kế này giúp giảm đáng kể chi phí tính toán và tăng tốc độ phản hồi, trong khi vẫn duy trì hiệu năng cao.
Đáng chú ý, Thinking Machines thừa nhận kiến trúc của Inkling được lấy cảm hứng từ DeepSeek V3, mô hình AI nổi tiếng của Trung Quốc. Ở giai đoạn hậu huấn luyện, công ty cũng sử dụng dữ liệu do Kimi K2.5, một mô hình AI của startup Trung Quốc Moonshot AI, tạo ra để tối ưu hiệu suất.
Thinking Machines cho biết Inkling chưa phải mô hình mạnh nhất trên thị trường, nhưng mục tiêu của họ không phải vượt qua OpenAI hay Anthropic về điểm chuẩn. Thay vào đó, công ty muốn tạo ra một mô hình cân bằng giữa hiệu năng, chi phí và khả năng triển khai thực tế.
Inkling cũng được tích hợp với Tinker, nền tảng tinh chỉnh AI mà Thinking Machines ra mắt trước đó. Công cụ này cho phép các nhà phát triển huấn luyện và tùy chỉnh những mô hình AI quy mô lớn ngay trên nền tảng đám mây mà không cần đầu tư hạ tầng siêu máy tính.
Về an toàn, Thinking Machines cho biết đã kiểm tra khả năng mô hình bị lạm dụng trong các lĩnh vực như tấn công mạng hoặc hỗ trợ phát triển vũ khí sinh học. Theo công ty, Inkling vượt qua các bài đánh giá nội bộ. Tuy nhiên, vì đây là mô hình trọng số mở nên công ty vẫn tiếp tục nghiên cứu các biện pháp bảo mật bổ sung nhằm giảm nguy cơ bị sử dụng sai mục đích.
Việc một cựu lãnh đạo cấp cao của OpenAI lựa chọn xây dựng mô hình dựa trên công nghệ từ Trung Quốc cũng cho thấy xu hướng mới của ngành AI: thay vì phát triển mọi thứ từ đầu, nhiều startup đang tận dụng các nền tảng mã nguồn mở để rút ngắn thời gian phát triển và cạnh tranh bằng chi phí cùng khả năng tùy biến.
