Bỉ Ngạn Hoa
Moderator
Thị trường trí tuệ nhân tạo không phải là thứ duy nhất nóng lên. Tương tự, các chip và máy chủ hỗ trợ công nghệ AI cũng thúc đẩy nhu cầu về các giải pháp làm mát hiệu quả hơn.
Sự phát triển AI đang thúc đẩy nhu cầu của hệ thống làm mát phức tạp cho các trung tâm dữ liệu.
Tập đoàn công nghệ Lite-On của Đài Loan là một trong số các nhà sản xuất linh kiện đang tăng cường nỗ lực phát triển các giải pháp làm mát bằng chất lỏng cho các trung tâm dữ liệu AI khi mức tiêu thụ năng lượng nổi lên như một trong những nút thắt cấp bách nhất trong việc tăng hiệu suất tính toán.
Simon Ong, phó chủ tịch nền tảng và giải pháp cơ sở hạ tầng đám mây của Lite-On, nói với Nikkei Asia: “Có rất nhiều nhiệt cần được giải quyết với các trung tâm dữ liệu AI và các giải pháp làm mát không khí truyền thống không đủ khả năng. Nhu cầu về một công nghệ làm mát phức tạp hơn để giải quyết lượng nhiệt sinh ra từ hệ thống là không thể ngăn cản được”.
Các trung tâm dữ liệu AI chạy trên các chip xử lý đồ họa mạnh mẽ của Nvidia hoặc AMD. Những con chip này có thể xử lý các hoạt động tính toán song song cần thiết để kích hoạt các ứng dụng AI tạo sinh như ChatGPT của OpenAI và Bard của Google.
Nhưng yêu cầu về điện năng của chúng đang tăng mạnh, từ 400 watt đối với chip A100 của Nvidia lên 700 watt đối với chip H100. Thế hệ tiếp theo của B100 sẽ tiêu thụ 1.000 watt điện trên mỗi chip, gấp hơn 4 lần công suất ước tính cần thiết để chạy một chiếc MacBook Air 240 watt trong 8 giờ.
Nhu cầu bùng nổ về bộ xử lý đồ họa (GPU) H100 của Nvidia để đào tạo các mô hình AI đã giúp làm nổi bật ngành cung cấp điện và giải pháp nhiệt, vốn trước đây được coi là lĩnh vực ngoại vi của chuỗi cung ứng.
Khi mức tiêu thụ điện năng của chip tăng cao, nhiệt sinh ra sẽ trở thành nút cổ chai nghiêm trọng. Nhiệt độ ảnh hưởng trực tiếp đến hiệu suất chip và do đó đòi hỏi các giải pháp làm mát phức tạp hơn trước. Theo các chuyên gia trong ngành, hệ thống làm mát không khí truyền thống, chủ yếu sử dụng quạt và đường ống, không thể giải quyết được vấn đề nhiệt độ tăng cao trong các máy chủ AI.
Hơn nữa, công nghệ làm mát rất quan trọng đối với các nhà khai thác trung tâm dữ liệu để duy trì hiệu quả sử dụng năng lượng (PUE) thấp, thước đo mức độ tiết kiệm năng lượng của một trung tâm dữ liệu khi ngành công nghệ chạy đua để đạt được mức phát thải ròng bằng không.
Các công nghệ làm mát mới nổi có làm mát bằng chất lỏng, bao gồm hệ thống nước chảy xung quanh máy chủ để giảm nhiệt độ và công nghệ ngâm, trong đó toàn bộ giá đỡ máy chủ được ngâm trong chất lỏng không dẫn điện.
Lite-On, nhà cung cấp cho Apple, HP và Dell, đồng thời là công ty quan trọng trong các giải pháp nguồn và nhiệt cho cơ sở hạ tầng trung tâm dữ liệu, đang tìm cách củng cố vị thế của mình trong các giải pháp làm mát bằng chất lỏng.
Những công ty khác đang tăng cường nỗ lực trong lĩnh vực này bao gồm Delta Electronics, một công ty chủ chốt khác trong phân khúc giải pháp năng lượng và nhiệt, cũng như các nhà cung cấp điều khiển nhiệt như Cooler Master Technology và Auras Technology. Ngay cả các nhà sản xuất chip như Intel và các nhà tích hợp hệ thống máy chủ như Giga-Byte Technology, Inventec và Wiwynn cũng đang dành nguồn lực để phát triển các công nghệ làm mát tiên tiến.
Theo Lite-On, các phương pháp làm mát thông thường không đáp ứng được thách thức của AI. Công ty cho biết họ đã tiến hành kiểm tra điểm chuẩn trên hai bộ chip sử dụng các giải pháp tản nhiệt khác nhau. Simon Ong cho biết: “Chúng tôi nhận thấy các chip sử dụng phương pháp làm mát bằng không khí chỉ có thể đạt 60% hiệu suất và sẽ có một số lo ngại về quá nhiệt nhất định, trong khi các giải pháp làm mát bằng chất lỏng có thể tiếp tục tăng hiệu suất tính toán lên mức tối ưu”.
Ông nói thêm: “Nếu chip quá nóng, chúng sẽ không bao giờ hoạt động hiệu quả và mạnh mẽ như khi hoạt động trong một môi trường có thể chấp nhận được”.
Theo Simon Ong, các nhà khai thác trung tâm dữ liệu có thể giảm nhiệt độ bằng các phương pháp thông thường bằng cách mở rộng kích thước của các cánh tản nhiệt trong giá máy chủ, “nhưng bạn có muốn một giá máy chủ chứa đầy các cánh tản nhiệt hoặc đầy chip trong một không gian hạn chế như vậy không? Tất nhiên, chúng tôi muốn sức mạnh tính toán ngày càng cao hơn."
Trong tương lai của điện toán AI, “các công nghệ làm mát bằng chất lỏng mới sẽ là một giải pháp rất quan trọng, thay vì các giải pháp nhiệt chủ đạo hiện nay sử dụng không khí để tản nhiệt, rẻ hơn nhưng làm mát bề mặt chậm hơn nhiều”, ông nói.
Chris Wei, chuyên gia tư vấn của Market Intelligence and Consulting Institute (MIC) cho biết các máy chủ AI được trang bị nhiều bộ xử lý trung tâm và GPU hơn các máy chủ truyền thống và mức tiêu thụ năng lượng cao hơn của chúng đang thúc đẩy việc nâng cấp các thành phần và công nghệ hiện có, chẳng hạn như làm mát.
“Mức tiêu thụ điện năng của máy chủ AI phá vỡ giới hạn 300 watt của công nghệ làm mát không khí, thúc đẩy nhu cầu về các công nghệ làm mát phức tạp và hiệu quả hơn, như làm mát bằng nước hoặc chất lỏng”, Chris Wei nói với Nikkei Asia.
Chris Wei cho biết, giá trị sản xuất của máy chủ AI đã vượt quá 50% tổng thị trường máy chủ toàn cầu vào năm 2023, đồng thời MIC dự báo mức độ thâm nhập của máy chủ AI sẽ tăng từ 12,4% toàn ngành vào năm ngoái lên 20,9% vào năm 2027.
Tập đoàn công nghệ Lite-On của Đài Loan là một trong số các nhà sản xuất linh kiện đang tăng cường nỗ lực phát triển các giải pháp làm mát bằng chất lỏng cho các trung tâm dữ liệu AI khi mức tiêu thụ năng lượng nổi lên như một trong những nút thắt cấp bách nhất trong việc tăng hiệu suất tính toán.
Simon Ong, phó chủ tịch nền tảng và giải pháp cơ sở hạ tầng đám mây của Lite-On, nói với Nikkei Asia: “Có rất nhiều nhiệt cần được giải quyết với các trung tâm dữ liệu AI và các giải pháp làm mát không khí truyền thống không đủ khả năng. Nhu cầu về một công nghệ làm mát phức tạp hơn để giải quyết lượng nhiệt sinh ra từ hệ thống là không thể ngăn cản được”.
Các trung tâm dữ liệu AI chạy trên các chip xử lý đồ họa mạnh mẽ của Nvidia hoặc AMD. Những con chip này có thể xử lý các hoạt động tính toán song song cần thiết để kích hoạt các ứng dụng AI tạo sinh như ChatGPT của OpenAI và Bard của Google.
Nhưng yêu cầu về điện năng của chúng đang tăng mạnh, từ 400 watt đối với chip A100 của Nvidia lên 700 watt đối với chip H100. Thế hệ tiếp theo của B100 sẽ tiêu thụ 1.000 watt điện trên mỗi chip, gấp hơn 4 lần công suất ước tính cần thiết để chạy một chiếc MacBook Air 240 watt trong 8 giờ.
Nhu cầu bùng nổ về bộ xử lý đồ họa (GPU) H100 của Nvidia để đào tạo các mô hình AI đã giúp làm nổi bật ngành cung cấp điện và giải pháp nhiệt, vốn trước đây được coi là lĩnh vực ngoại vi của chuỗi cung ứng.
Khi mức tiêu thụ điện năng của chip tăng cao, nhiệt sinh ra sẽ trở thành nút cổ chai nghiêm trọng. Nhiệt độ ảnh hưởng trực tiếp đến hiệu suất chip và do đó đòi hỏi các giải pháp làm mát phức tạp hơn trước. Theo các chuyên gia trong ngành, hệ thống làm mát không khí truyền thống, chủ yếu sử dụng quạt và đường ống, không thể giải quyết được vấn đề nhiệt độ tăng cao trong các máy chủ AI.
Hơn nữa, công nghệ làm mát rất quan trọng đối với các nhà khai thác trung tâm dữ liệu để duy trì hiệu quả sử dụng năng lượng (PUE) thấp, thước đo mức độ tiết kiệm năng lượng của một trung tâm dữ liệu khi ngành công nghệ chạy đua để đạt được mức phát thải ròng bằng không.
Lite-On, nhà cung cấp cho Apple, HP và Dell, đồng thời là công ty quan trọng trong các giải pháp nguồn và nhiệt cho cơ sở hạ tầng trung tâm dữ liệu, đang tìm cách củng cố vị thế của mình trong các giải pháp làm mát bằng chất lỏng.
Những công ty khác đang tăng cường nỗ lực trong lĩnh vực này bao gồm Delta Electronics, một công ty chủ chốt khác trong phân khúc giải pháp năng lượng và nhiệt, cũng như các nhà cung cấp điều khiển nhiệt như Cooler Master Technology và Auras Technology. Ngay cả các nhà sản xuất chip như Intel và các nhà tích hợp hệ thống máy chủ như Giga-Byte Technology, Inventec và Wiwynn cũng đang dành nguồn lực để phát triển các công nghệ làm mát tiên tiến.
Theo Lite-On, các phương pháp làm mát thông thường không đáp ứng được thách thức của AI. Công ty cho biết họ đã tiến hành kiểm tra điểm chuẩn trên hai bộ chip sử dụng các giải pháp tản nhiệt khác nhau. Simon Ong cho biết: “Chúng tôi nhận thấy các chip sử dụng phương pháp làm mát bằng không khí chỉ có thể đạt 60% hiệu suất và sẽ có một số lo ngại về quá nhiệt nhất định, trong khi các giải pháp làm mát bằng chất lỏng có thể tiếp tục tăng hiệu suất tính toán lên mức tối ưu”.
Ông nói thêm: “Nếu chip quá nóng, chúng sẽ không bao giờ hoạt động hiệu quả và mạnh mẽ như khi hoạt động trong một môi trường có thể chấp nhận được”.
Theo Simon Ong, các nhà khai thác trung tâm dữ liệu có thể giảm nhiệt độ bằng các phương pháp thông thường bằng cách mở rộng kích thước của các cánh tản nhiệt trong giá máy chủ, “nhưng bạn có muốn một giá máy chủ chứa đầy các cánh tản nhiệt hoặc đầy chip trong một không gian hạn chế như vậy không? Tất nhiên, chúng tôi muốn sức mạnh tính toán ngày càng cao hơn."
Trong tương lai của điện toán AI, “các công nghệ làm mát bằng chất lỏng mới sẽ là một giải pháp rất quan trọng, thay vì các giải pháp nhiệt chủ đạo hiện nay sử dụng không khí để tản nhiệt, rẻ hơn nhưng làm mát bề mặt chậm hơn nhiều”, ông nói.
Chris Wei, chuyên gia tư vấn của Market Intelligence and Consulting Institute (MIC) cho biết các máy chủ AI được trang bị nhiều bộ xử lý trung tâm và GPU hơn các máy chủ truyền thống và mức tiêu thụ năng lượng cao hơn của chúng đang thúc đẩy việc nâng cấp các thành phần và công nghệ hiện có, chẳng hạn như làm mát.
“Mức tiêu thụ điện năng của máy chủ AI phá vỡ giới hạn 300 watt của công nghệ làm mát không khí, thúc đẩy nhu cầu về các công nghệ làm mát phức tạp và hiệu quả hơn, như làm mát bằng nước hoặc chất lỏng”, Chris Wei nói với Nikkei Asia.
Chris Wei cho biết, giá trị sản xuất của máy chủ AI đã vượt quá 50% tổng thị trường máy chủ toàn cầu vào năm 2023, đồng thời MIC dự báo mức độ thâm nhập của máy chủ AI sẽ tăng từ 12,4% toàn ngành vào năm ngoái lên 20,9% vào năm 2027.
