Khi nhu cầu về trí tuệ nhân tạo (AI) đang khiến các trung tâm dữ liệu riêng lẻ có khả năng chạm đến giới hạn, Nvidia vừa công bố một công nghệ kết nối mạng mới mang tên Spectrum-XGS Ethernet. Được thiết kế để kết nối nhiều trung tâm dữ liệu cách xa nhau về mặt địa lý, nền tảng này hứa hẹn sẽ biến chúng thành một "siêu nhà máy AI" khổng lồ duy nhất, loại bỏ các rào cản về khoảng cách.
Theo CEO của Nvidia, ông Jensen Huang, các nhà máy AI quy mô lớn là một cơ sở hạ tầng thiết yếu của cuộc cách mạng công nghiệp AI. Tuy nhiên, khi các mô hình AI ngày càng trở nên lớn hơn, việc chứa toàn bộ sức mạnh tính toán trong một tòa nhà duy nhất là điều không thể.
Nền tảng Spectrum-XGS được giới thiệu như là "trụ cột thứ ba" của điện toán AI, bên cạnh việc "scale-up" (làm cho một máy chủ mạnh hơn) và "scale-out" (kết nối các máy chủ trong cùng một trung tâm dữ liệu). Trụ cột mới này sẽ cho phép kết nối toàn bộ các trung tâm dữ liệu lại với nhau, dù chúng nằm ở các thành phố, quốc gia hay thậm chí là các lục địa khác nhau.
"Với NVIDIA Spectrum-XGS Ethernet, chúng tôi đang kết nối các trung tâm dữ liệu trên khắp các thành phố, quốc gia và lục địa thành các 'siêu nhà máy' AI quy mô siêu khổng lồ," ông Jensen Huang phát biểu.
Việc kết nối các trung tâm dữ liệu ở khoảng cách xa bằng công nghệ Ethernet tiêu chuẩn thường gặp phải các vấn đề lớn về độ trễ cao và hiệu suất không ổn định. Spectrum-XGS được thiết kế để giải quyết chính bài toán này.
Nền tảng này là một "mạng lưới nhận biết khoảng cách", sử dụng các công nghệ như kiểm soát tắc nghẽn tự động điều chỉnh, quản lý độ trễ chính xác và đo lường từ xa đầu cuối. Theo Nvidia, những cải tiến này giúp tăng gần gấp đôi hiệu suất của Thư viện Giao tiếp Tập thể (NCCL) của hãng, vốn là phần mềm cốt lõi giúp các GPU có thể giao tiếp với nhau.
Kết quả là, nhiều trung tâm dữ liệu có thể hoạt động một cách nhịp nhàng như một "siêu nhà máy" AI duy nhất, được tối ưu hóa hoàn toàn cho việc kết nối ở khoảng cách xa.
Spectrum-XGS là một sự mở rộng của nền tảng mạng Spectrum-X hiện có của Nvidia, vốn bao gồm các thiết bị chuyển mạch (switch) Spectrum-X và card mạng SuperNIC ConnectX-8. Nền tảng này đã và đang được sử dụng để xây dựng các nhà máy AI quy mô lớn, bao gồm cả các siêu máy tính AI lớn nhất thế giới.
Với việc ra mắt Spectrum-XGS, Nvidia không còn chỉ bán các con chip riêng lẻ. Họ đang cung cấp một bản thiết kế toàn diện, từ phần cứng, phần mềm cho đến kiến trúc mạng, cho toàn bộ cơ sở hạ tầng toàn cầu sẽ cung cấp năng lượng cho thế hệ trí tuệ nhân tạo tiếp theo.
"Siêu nhà máy AI" và trụ cột thứ ba của điện toán
Theo CEO của Nvidia, ông Jensen Huang, các nhà máy AI quy mô lớn là một cơ sở hạ tầng thiết yếu của cuộc cách mạng công nghiệp AI. Tuy nhiên, khi các mô hình AI ngày càng trở nên lớn hơn, việc chứa toàn bộ sức mạnh tính toán trong một tòa nhà duy nhất là điều không thể.
Nền tảng Spectrum-XGS được giới thiệu như là "trụ cột thứ ba" của điện toán AI, bên cạnh việc "scale-up" (làm cho một máy chủ mạnh hơn) và "scale-out" (kết nối các máy chủ trong cùng một trung tâm dữ liệu). Trụ cột mới này sẽ cho phép kết nối toàn bộ các trung tâm dữ liệu lại với nhau, dù chúng nằm ở các thành phố, quốc gia hay thậm chí là các lục địa khác nhau.
"Với NVIDIA Spectrum-XGS Ethernet, chúng tôi đang kết nối các trung tâm dữ liệu trên khắp các thành phố, quốc gia và lục địa thành các 'siêu nhà máy' AI quy mô siêu khổng lồ," ông Jensen Huang phát biểu.
Công nghệ đằng sau kết nối liên lục địa
Việc kết nối các trung tâm dữ liệu ở khoảng cách xa bằng công nghệ Ethernet tiêu chuẩn thường gặp phải các vấn đề lớn về độ trễ cao và hiệu suất không ổn định. Spectrum-XGS được thiết kế để giải quyết chính bài toán này.
Nền tảng này là một "mạng lưới nhận biết khoảng cách", sử dụng các công nghệ như kiểm soát tắc nghẽn tự động điều chỉnh, quản lý độ trễ chính xác và đo lường từ xa đầu cuối. Theo Nvidia, những cải tiến này giúp tăng gần gấp đôi hiệu suất của Thư viện Giao tiếp Tập thể (NCCL) của hãng, vốn là phần mềm cốt lõi giúp các GPU có thể giao tiếp với nhau.
Kết quả là, nhiều trung tâm dữ liệu có thể hoạt động một cách nhịp nhàng như một "siêu nhà máy" AI duy nhất, được tối ưu hóa hoàn toàn cho việc kết nối ở khoảng cách xa.
Nền tảng cho tương lai của AI
Spectrum-XGS là một sự mở rộng của nền tảng mạng Spectrum-X hiện có của Nvidia, vốn bao gồm các thiết bị chuyển mạch (switch) Spectrum-X và card mạng SuperNIC ConnectX-8. Nền tảng này đã và đang được sử dụng để xây dựng các nhà máy AI quy mô lớn, bao gồm cả các siêu máy tính AI lớn nhất thế giới.
Với việc ra mắt Spectrum-XGS, Nvidia không còn chỉ bán các con chip riêng lẻ. Họ đang cung cấp một bản thiết kế toàn diện, từ phần cứng, phần mềm cho đến kiến trúc mạng, cho toàn bộ cơ sở hạ tầng toàn cầu sẽ cung cấp năng lượng cho thế hệ trí tuệ nhân tạo tiếp theo.
