Homelander The Seven
I will laser every f****** one of you!
Tại GTC 2025, Nvidia đã giới thiệu nền tảng chuyển mạch mạng (networking switch) Spectrum-X Photonics và Quantum-X Photonics cho các trung tâm dữ liệu exascale sử dụng công nghệ silicon photonics. Các nền tảng chuyển mạch mạng mới tăng tốc độ truyền dữ liệu lên 1,6 Tb/giây mỗi cổng và 400 Tb/giây tổng cộng, cho phép hàng triệu GPU hoạt động cùng nhau một cách liền mạch. Nvidia cho biết các bộ chuyển mạch mới cung cấp băng thông cao hơn, tổn thất điện năng thấp hơn và độ tin cậy vượt trội so với các giải pháp mạng thông thường.
Nền tảng Spectrum-X Photonics Ethernet và Quantum-X Photonics InfiniBand cung cấp tốc độ 1,6 Tb/giây mỗi cổng (gấp đôi mức tối đa của các giải pháp Ethernet đồng hàng đầu hiện nay) và tổng băng thông đạt 400 Tb/giây thông qua các cấu hình cổng khác nhau. Bộ chuyển mạch Spectrum-X Photonics của Nvidia có nhiều cấu hình, cung cấp 128 cổng ở tốc độ 800 Gb/giây hoặc 512 cổng ở tốc độ 200 Gb/giây, đạt tổng băng thông 100 Tb/giây. Một mẫu có dung lượng cao hơn cung cấp 512 cổng ở tốc độ 800 Gb/giây hoặc 2.048 cổng ở tốc độ 200 Gb/giây, đạt thông lượng 400 Tb/giây. Dòng Quantum-X Photonics có 144 cổng ở tốc độ 800 Gb/giây InfiniBand, sử dụng SerDes 200 Gb/giây để truyền dữ liệu hiệu quả.
So với các giải pháp mạng thế hệ trước, Quantum-X tăng gấp đôi hiệu suất và tăng khả năng mở rộng tính toán AI lên gấp 5 lần, làm cho nó phù hợp với khối lượng công việc cường độ cao và xây dựng các cụm AI thậm chí còn lớn hơn.
Các thiết bị chuyển mạch Quantum-X InfiniBand bao gồm một hệ thống làm mát bằng chất lỏng, đảm bảo các chip silicon photonics trên bo mạch hoạt động ở hiệu suất cao nhất mà không bị quá nhiệt. Do đó, các nền tảng mạng mới hứa hẹn hiệu quả năng lượng tốt hơn 3,5 lần, độ tin cậy mạng lớn hơn 10 lần và độ toàn vẹn tín hiệu mạnh hơn 63 lần, giảm tiêu thụ điện năng và cải thiện hiệu suất lâu dài. Ngoài ra, tốc độ triển khai tăng 1,3 lần, làm cho các thiết bị chuyển mạch này trở thành một giải pháp hiệu quả hơn cho các trung tâm dữ liệu AI siêu quy mô, theo Nvidia.
Nền tảng Spectrum-X Photonics Ethernet và Quantum-X Photonics InfiniBand của Nvidia sử dụng nền tảng silicon photonics của TSMC có tên là Compact Universal Photonic Engine (COUPE) kết hợp mạch tích hợp điện tử (EIC) 65nm với mạch tích hợp quang tử (PIC) sử dụng công nghệ đóng gói SoIC-X của công ty. Nvidia cũng đã hợp tác với Coherent, Corning, Foxconn, Lumentum, Senko và những công ty khác để thiết lập hệ sinh thái silicon photonics của riêng mình với chuỗi cung ứng ổn định cho phép Nvidia và các đối tác của mình xây dựng các cụm AI và trung tâm dữ liệu mà trước đây không thể sử dụng phần cứng độc quyền.
Nvidia dự kiến các thiết bị chuyển mạch Quantum-X InfiniBand sẽ được phát hành vào cuối năm 2025, trong khi các thiết bị chuyển mạch Spectrum-X Photonics Ethernet sẽ ra mắt vào năm 2026.
Mặc dù những tiến bộ này hứa hẹn những cải tiến đáng kể, nhưng việc tích hợp silicon photonics ở quy mô lớn như vậy rất phức tạp và việc áp dụng rộng rãi phụ thuộc vào việc các tổ chức sẵn sàng nâng cấp cơ sở hạ tầng mạng hiện có của họ. Bất chấp những trở ngại này, công nghệ silicon photonics của Nvidia là một bước tiến lớn trong mạng AI.
Nền tảng Spectrum-X Photonics Ethernet và Quantum-X Photonics InfiniBand cung cấp tốc độ 1,6 Tb/giây mỗi cổng (gấp đôi mức tối đa của các giải pháp Ethernet đồng hàng đầu hiện nay) và tổng băng thông đạt 400 Tb/giây thông qua các cấu hình cổng khác nhau. Bộ chuyển mạch Spectrum-X Photonics của Nvidia có nhiều cấu hình, cung cấp 128 cổng ở tốc độ 800 Gb/giây hoặc 512 cổng ở tốc độ 200 Gb/giây, đạt tổng băng thông 100 Tb/giây. Một mẫu có dung lượng cao hơn cung cấp 512 cổng ở tốc độ 800 Gb/giây hoặc 2.048 cổng ở tốc độ 200 Gb/giây, đạt thông lượng 400 Tb/giây. Dòng Quantum-X Photonics có 144 cổng ở tốc độ 800 Gb/giây InfiniBand, sử dụng SerDes 200 Gb/giây để truyền dữ liệu hiệu quả.
So với các giải pháp mạng thế hệ trước, Quantum-X tăng gấp đôi hiệu suất và tăng khả năng mở rộng tính toán AI lên gấp 5 lần, làm cho nó phù hợp với khối lượng công việc cường độ cao và xây dựng các cụm AI thậm chí còn lớn hơn.
Các thiết bị chuyển mạch Quantum-X InfiniBand bao gồm một hệ thống làm mát bằng chất lỏng, đảm bảo các chip silicon photonics trên bo mạch hoạt động ở hiệu suất cao nhất mà không bị quá nhiệt. Do đó, các nền tảng mạng mới hứa hẹn hiệu quả năng lượng tốt hơn 3,5 lần, độ tin cậy mạng lớn hơn 10 lần và độ toàn vẹn tín hiệu mạnh hơn 63 lần, giảm tiêu thụ điện năng và cải thiện hiệu suất lâu dài. Ngoài ra, tốc độ triển khai tăng 1,3 lần, làm cho các thiết bị chuyển mạch này trở thành một giải pháp hiệu quả hơn cho các trung tâm dữ liệu AI siêu quy mô, theo Nvidia.
Nền tảng Spectrum-X Photonics Ethernet và Quantum-X Photonics InfiniBand của Nvidia sử dụng nền tảng silicon photonics của TSMC có tên là Compact Universal Photonic Engine (COUPE) kết hợp mạch tích hợp điện tử (EIC) 65nm với mạch tích hợp quang tử (PIC) sử dụng công nghệ đóng gói SoIC-X của công ty. Nvidia cũng đã hợp tác với Coherent, Corning, Foxconn, Lumentum, Senko và những công ty khác để thiết lập hệ sinh thái silicon photonics của riêng mình với chuỗi cung ứng ổn định cho phép Nvidia và các đối tác của mình xây dựng các cụm AI và trung tâm dữ liệu mà trước đây không thể sử dụng phần cứng độc quyền.
Nvidia dự kiến các thiết bị chuyển mạch Quantum-X InfiniBand sẽ được phát hành vào cuối năm 2025, trong khi các thiết bị chuyển mạch Spectrum-X Photonics Ethernet sẽ ra mắt vào năm 2026.
Mặc dù những tiến bộ này hứa hẹn những cải tiến đáng kể, nhưng việc tích hợp silicon photonics ở quy mô lớn như vậy rất phức tạp và việc áp dụng rộng rãi phụ thuộc vào việc các tổ chức sẵn sàng nâng cấp cơ sở hạ tầng mạng hiện có của họ. Bất chấp những trở ngại này, công nghệ silicon photonics của Nvidia là một bước tiến lớn trong mạng AI.
