Trà Xanh
Moderator
Startup Etched, có trụ sở tại San Francisco, vừa qua đã tạo nên cơn địa chấn trong giới công nghệ khi tuyên bố chip AI mới của họ, Sohu, sở hữu sức mạnh xử lý vượt trội, gấp 20 lần so với GPU H100 đình đám của Nvidia.
Công bố vào ngày 26/6, Sohu là một dạng mạch tích hợp dành riêng cho ứng dụng (ASIC) được thiết kế tối ưu cho mô hình ngôn ngữ lớn (LLM). Theo Etched, Sohu cho thấy khả năng suy luận vượt trội hơn hẳn H100 trong các tác vụ liên quan đến LLM. Thậm chí, một hệ thống trang bị 8 chip Sohu có thể đạt hiệu suất tương đương với 160 GPU H100 kết hợp.
Chip Sohu của Etched. Ảnh: Etched
Lý giải cho bước đột phá này, Etched chỉ ra rằng các hệ thống tăng tốc AI hiện nay, bao gồm cả CPU và GPU, đều được thiết kế để tương thích với nhiều kiến trúc AI khác nhau, từ Mạng thần kinh tích chập (CNN), Mạng bộ nhớ ngắn hạn (LSTM) cho đến mô hình không gian trạng thái. Điều này khiến chúng phải phân bổ một lượng lớn tài nguyên tính toán cho khả năng lập trình, dẫn đến lãng phí hiệu suất đáng kể.
Etched ước tính GPU H100 của Nvidia chỉ sử dụng 3,3% số lượng bóng bán dẫn cho tác vụ chính, trong khi 96,7% còn lại dành cho các tác vụ phụ trợ. Đây là sự lãng phí không hề nhỏ, dù là điều khó tránh khỏi đối với các chip AI đa năng.
Để giải quyết bài toán nan giải này, Etched đã tích hợp Kiến trúc AI biến áp (Transformer) vào Sohu, cho phép phân bổ tối đa số lượng bóng bán dẫn cho tác vụ tính toán AI. Thay vì tạo ra một con chip “đa di năng” nhưng kém hiệu quả, Etched tập trung tối ưu hóa Sohu cho một dạng mô hình AI cụ thể là Transformer, vốn là nền tảng của nhiều mô hình ngôn ngữ lớn như GPT, Sora, Gemini, Stable Diffusion và Dall-E.
“Đây là canh bạc của chúng tôi”, Gavin Uberti, đại diện Etched, chia sẻ với Reuters về quyết định táo bạo khi đặt cược vào kiến trúc Transformer. “Nếu Transformer thất bại, công ty chúng tôi cũng sẽ sụp đổ. Nhưng nếu nó tiếp tục phát triển, chúng tôi có tiềm năng trở thành một trong những công ty lớn nhất thế giới”.
Hiện tại, Etched chưa công bố giá bán chính thức của Sohu. Trong khi đó, đối thủ Nvidia H100 đang được bán với giá 40.000 USD.
Theo Tom's Hardware, Sohu có thể giúp các trung tâm dữ liệu tiết kiệm hàng tỷ USD chi phí đầu tư và vận hành nếu đáp ứng được kỳ vọng. Thậm chí, sản phẩm này còn tiềm ẩn nguy cơ đe dọa vị thế thống trị của Nvidia trong lĩnh vực AI. Tuy nhiên, tất cả vẫn chỉ là dự đoán cho đến khi Sohu chính thức được đưa vào sử dụng thực tế.
Công bố vào ngày 26/6, Sohu là một dạng mạch tích hợp dành riêng cho ứng dụng (ASIC) được thiết kế tối ưu cho mô hình ngôn ngữ lớn (LLM). Theo Etched, Sohu cho thấy khả năng suy luận vượt trội hơn hẳn H100 trong các tác vụ liên quan đến LLM. Thậm chí, một hệ thống trang bị 8 chip Sohu có thể đạt hiệu suất tương đương với 160 GPU H100 kết hợp.
Chip Sohu của Etched. Ảnh: Etched
Lý giải cho bước đột phá này, Etched chỉ ra rằng các hệ thống tăng tốc AI hiện nay, bao gồm cả CPU và GPU, đều được thiết kế để tương thích với nhiều kiến trúc AI khác nhau, từ Mạng thần kinh tích chập (CNN), Mạng bộ nhớ ngắn hạn (LSTM) cho đến mô hình không gian trạng thái. Điều này khiến chúng phải phân bổ một lượng lớn tài nguyên tính toán cho khả năng lập trình, dẫn đến lãng phí hiệu suất đáng kể.
Etched ước tính GPU H100 của Nvidia chỉ sử dụng 3,3% số lượng bóng bán dẫn cho tác vụ chính, trong khi 96,7% còn lại dành cho các tác vụ phụ trợ. Đây là sự lãng phí không hề nhỏ, dù là điều khó tránh khỏi đối với các chip AI đa năng.
Để giải quyết bài toán nan giải này, Etched đã tích hợp Kiến trúc AI biến áp (Transformer) vào Sohu, cho phép phân bổ tối đa số lượng bóng bán dẫn cho tác vụ tính toán AI. Thay vì tạo ra một con chip “đa di năng” nhưng kém hiệu quả, Etched tập trung tối ưu hóa Sohu cho một dạng mô hình AI cụ thể là Transformer, vốn là nền tảng của nhiều mô hình ngôn ngữ lớn như GPT, Sora, Gemini, Stable Diffusion và Dall-E.
“Đây là canh bạc của chúng tôi”, Gavin Uberti, đại diện Etched, chia sẻ với Reuters về quyết định táo bạo khi đặt cược vào kiến trúc Transformer. “Nếu Transformer thất bại, công ty chúng tôi cũng sẽ sụp đổ. Nhưng nếu nó tiếp tục phát triển, chúng tôi có tiềm năng trở thành một trong những công ty lớn nhất thế giới”.
Hiện tại, Etched chưa công bố giá bán chính thức của Sohu. Trong khi đó, đối thủ Nvidia H100 đang được bán với giá 40.000 USD.
Theo Tom's Hardware, Sohu có thể giúp các trung tâm dữ liệu tiết kiệm hàng tỷ USD chi phí đầu tư và vận hành nếu đáp ứng được kỳ vọng. Thậm chí, sản phẩm này còn tiềm ẩn nguy cơ đe dọa vị thế thống trị của Nvidia trong lĩnh vực AI. Tuy nhiên, tất cả vẫn chỉ là dự đoán cho đến khi Sohu chính thức được đưa vào sử dụng thực tế.
