Sóng AI
Writer
Một framework AI mới phát triển bởi các nhóm liên kết với Đại học Thanh Hoa của Trung Quốc được cho là có thể giảm sự phụ thuộc vào chip Nvidia trong quá trình suy luận (inference) của mô hình AI.
Framework có tên Chitu, do startup Qingcheng.AI và nhóm nghiên cứu dẫn đầu bởi giáo sư khoa học máy tính Zhai Jidong tại Đại học Tsinghua phát triển, được công bố vào ngày thứ Sáu.
Chitu là framework suy luận hiệu năng cao cho các mô hình ngôn ngữ lớn (LLMs), có thể hoạt động trên chip sản xuất tại Trung Quốc.
Framework này thách thức vị thế thống trị của GPU dòng Hopper của Nvidia trong việc hỗ trợ một số mô hình như DeepSeek-R1.
Các framework AI đóng vai trò như những khối xây dựng của các mô hình AI thông minh phức tạp, cung cấp bộ thư viện và công cụ giúp nhà phát triển thiết kế, huấn luyện và xác thực mô hình phức tạp một cách hiệu quả.
Chitu đã được mở nguồn từ thứ Sáu và hỗ trợ các mô hình chính bao gồm DeepSeek và dòng Llama của Meta Platforms.
Khi thử nghiệm với phiên bản đầy đủ của DeepSeek-R1 sử dụng GPU A800 của Nvidia, framework này đạt được tốc độ suy luận mô hình tăng 315% đồng thời giảm 50% mức sử dụng GPU so với các framework nguồn mở nước ngoài.
Sáng kiến này là một phần của nỗ lực rộng lớn hơn từ các công ty AI Trung Quốc nhằm giảm sự phụ thuộc vào Nvidia, hãng có các GPU hiệu suất cao đang bị kiểm soát xuất khẩu bởi Mỹ.
Nvidia hiện bị Washington cấm bán các chip tiên tiến H100 và H800 thuộc dòng Hopper cho khách hàng đặt tại Trung Quốc.
Chitu, framework AI mới từ Qingcheng.AI và Đại học Thanh Hoa, tăng tốc độ suy luận lên 315% và giảm 50% mức sử dụng GPU khi chạy DeepSeek-R1 so với các giải pháp nước ngoài, đánh dấu bước tiến quan trọng trong nỗ lực tự chủ công nghệ của Trung Quốc trước các lệnh cấm của Mỹ.Nguồn: Songai.vn
