VNR Content
Pearl
Trong điểm số đo lường MLPerf mới nhất được công bố bởi NVIDIA, công ty tuyên bố đã thiết lập vài kỷ lục mới. Siêu máy tính Eos đã hoàn thành một chuẩn đo lường đào tạo dựa trên mô hình GPT-3, xử lý 175 tỷ tham số được đào tạo trên 1 tỷ token chỉ trong 3,9 phút. Đây là một sự nhảy vọt so với kỷ lục trước đó khi siêu máy tính hoàn thành cùng chuẩn đo lường trong 10,9 phút, nhanh gấp 3 lần.
Về cơ bản, kiến trúc GPU Hopper tiên tiến của NVIDIA đã được kết hợp với phần mềm tinh chỉnh tối ưu nhất. Siêu máy tính Eos hiện đang sử dụng 10,752 GPU NVIDIA H100 Tensor Core, thay thế cho A100s đã lỗi thời, đó là lý do tại sao nó nhanh đến vậy. Hơn nữa, nhờ có phần mềm đào tạo LLM được phát triển tốt như NeMo của NVIDIA, họ đã đạt được kỷ lục trong ngành AI, chứng tỏ vì sao mình là kẻ dẫn đầu.
Nvidia lập kỷ lục về hiệu suất tính toán AI
Hơn nữa, một thành tựu kỷ lục khác của NVIDIA được đề cập là những tiến bộ đã thực hiện trong “quy mô hệ thống”. Nhờ tối ưu hóa các phần mềm khác nhau, công ty đã thành công trong việc đạt tỷ lệ hiệu quả 93%. 10,752 GPU H100 đã vượt xa quy mô đào tạo AI khi sử dụng 3,584 GPU Hopper vào tháng 6. Tầm quan trọng của quy mô hiệu quả là rất lớn trong ngành công nghiệp, vì đạt được sức mạnh tính toán cao đòi hỏi việc sử dụng nhiều tài nguyên phần cứng hơn, nếu không có sự hỗ trợ phần mềm phù hợp, hiệu quả của hệ thống sẽ bị hao hụt ở mức độ lớn hơn.
Vai trò của NVIDIA trong ngành công nghiệp AI có ý nghĩa rất lớn vì công ty có khả năng cung cấp những GPU AI mạnh mẽ nhất được biết đến của loài người, ít nhất là cho đến bây giờ. Họ đang có 1 vị trí không thể thay thế khi AI tạo sinh và làn sóng AI bùng nổ mạnh mẽ hơn bao giờ hết.
>>> Siêu chip AI của MediaTek.
Về cơ bản, kiến trúc GPU Hopper tiên tiến của NVIDIA đã được kết hợp với phần mềm tinh chỉnh tối ưu nhất. Siêu máy tính Eos hiện đang sử dụng 10,752 GPU NVIDIA H100 Tensor Core, thay thế cho A100s đã lỗi thời, đó là lý do tại sao nó nhanh đến vậy. Hơn nữa, nhờ có phần mềm đào tạo LLM được phát triển tốt như NeMo của NVIDIA, họ đã đạt được kỷ lục trong ngành AI, chứng tỏ vì sao mình là kẻ dẫn đầu.
Hơn nữa, một thành tựu kỷ lục khác của NVIDIA được đề cập là những tiến bộ đã thực hiện trong “quy mô hệ thống”. Nhờ tối ưu hóa các phần mềm khác nhau, công ty đã thành công trong việc đạt tỷ lệ hiệu quả 93%. 10,752 GPU H100 đã vượt xa quy mô đào tạo AI khi sử dụng 3,584 GPU Hopper vào tháng 6. Tầm quan trọng của quy mô hiệu quả là rất lớn trong ngành công nghiệp, vì đạt được sức mạnh tính toán cao đòi hỏi việc sử dụng nhiều tài nguyên phần cứng hơn, nếu không có sự hỗ trợ phần mềm phù hợp, hiệu quả của hệ thống sẽ bị hao hụt ở mức độ lớn hơn.
Vai trò của NVIDIA trong ngành công nghiệp AI có ý nghĩa rất lớn vì công ty có khả năng cung cấp những GPU AI mạnh mẽ nhất được biết đến của loài người, ít nhất là cho đến bây giờ. Họ đang có 1 vị trí không thể thay thế khi AI tạo sinh và làn sóng AI bùng nổ mạnh mẽ hơn bao giờ hết.
>>> Siêu chip AI của MediaTek.
