A-Train The Seven
...'cause for once, I didn't hate myself.
Elon Musk và đội ngũ xAI đã tạo nên một kỳ tích kỹ thuật đáng kinh ngạc khi thiết lập một siêu cụm gồm 100.000 GPU H200 Blackwell chỉ trong vòng 19 ngày. CEO của Nvidia, Jensen Huang, đã chia sẻ câu chuyện về khả năng triển khai đáng kinh ngạc của Elon Musk với các thành viên của Tesla Owners Silicon Valley trên X.
Huang mô tả hành trình 19 ngày của Musk với sự ngưỡng mộ và tôn trọng, gọi nỗ lực này là "siêu phàm". Đội ngũ tại xAI được cho là đã chuyển từ giai đoạn "lên ý tưởng" sang khả năng tương thích hoàn toàn với "thiết bị" của Nvidia trong vòng chưa đầy ba tuần. Điều này bao gồm cả việc chạy thử nghiệm đào tạo AI đầu tiên của xAI trên siêu cụm mới được xây dựng.
Từ đầu đến cuối, quá trình này bao gồm việc xây dựng nhà máy X khổng lồ, nơi đặt các GPU, và trang bị cho toàn bộ nhà máy hệ thống làm mát bằng chất lỏng và nguồn điện để vận hành tất cả 200.000 GPU. Chưa kể đến sự phối hợp nhịp nhàng giữa các nhóm kỹ sư của Nvidia và Elon Musk để vận chuyển và lắp đặt tất cả phần cứng và cơ sở hạ tầng một cách chính xác và đồng bộ.
Để dễ hình dung, Huang cho biết một trung tâm dữ liệu trung bình mất bốn năm để thực hiện những gì Elon Musk và nhóm của ông đã làm được trong 19 ngày. Riêng ba năm sẽ dành cho việc lập kế hoạch, trong khi năm còn lại sẽ được sử dụng để vận chuyển thiết bị, lắp đặt và vận hành chúng.
Huang cũng đi sâu vào chi tiết mô tả mức độ phức tạp của việc kết nối mạng trên phần cứng của Nvidia. Ông giải thích rằng việc kết nối mạng các thiết bị của Nvidia không giống như kết nối mạng các máy chủ trung tâm dữ liệu truyền thống. "Số lượng dây kết nối trong một nút... mặt sau của máy tính là toàn bộ dây."
Việc tích hợp 100.000 GPU H200 của Elon Musk "chưa từng được thực hiện trước đây" (theo Jensen Huang) và có lẽ sẽ không công ty nào khác có thể lặp lại, ít nhất là trong một thời gian dài sắp tới.
Huang mô tả hành trình 19 ngày của Musk với sự ngưỡng mộ và tôn trọng, gọi nỗ lực này là "siêu phàm". Đội ngũ tại xAI được cho là đã chuyển từ giai đoạn "lên ý tưởng" sang khả năng tương thích hoàn toàn với "thiết bị" của Nvidia trong vòng chưa đầy ba tuần. Điều này bao gồm cả việc chạy thử nghiệm đào tạo AI đầu tiên của xAI trên siêu cụm mới được xây dựng.
Từ đầu đến cuối, quá trình này bao gồm việc xây dựng nhà máy X khổng lồ, nơi đặt các GPU, và trang bị cho toàn bộ nhà máy hệ thống làm mát bằng chất lỏng và nguồn điện để vận hành tất cả 200.000 GPU. Chưa kể đến sự phối hợp nhịp nhàng giữa các nhóm kỹ sư của Nvidia và Elon Musk để vận chuyển và lắp đặt tất cả phần cứng và cơ sở hạ tầng một cách chính xác và đồng bộ.
Để dễ hình dung, Huang cho biết một trung tâm dữ liệu trung bình mất bốn năm để thực hiện những gì Elon Musk và nhóm của ông đã làm được trong 19 ngày. Riêng ba năm sẽ dành cho việc lập kế hoạch, trong khi năm còn lại sẽ được sử dụng để vận chuyển thiết bị, lắp đặt và vận hành chúng.
Huang cũng đi sâu vào chi tiết mô tả mức độ phức tạp của việc kết nối mạng trên phần cứng của Nvidia. Ông giải thích rằng việc kết nối mạng các thiết bị của Nvidia không giống như kết nối mạng các máy chủ trung tâm dữ liệu truyền thống. "Số lượng dây kết nối trong một nút... mặt sau của máy tính là toàn bộ dây."
Việc tích hợp 100.000 GPU H200 của Elon Musk "chưa từng được thực hiện trước đây" (theo Jensen Huang) và có lẽ sẽ không công ty nào khác có thể lặp lại, ít nhất là trong một thời gian dài sắp tới.
