VNR Content
Pearl
Tại Hội nghị thượng đỉnh công nghệ Trung Quốc về điện toán mở 2023 vừa diễn ra, một số nhà cung cấp cơ sở điện toán như Samsung Electronics, Anmimation Technology, Wave Information, Century Connect đã đề xuất rằng các mô hình AI lớn mang lại những thách thức mới cho các cơ sở điện toán truyền thống, và các doanh nghiệp, với tư cách là nhà cung cấp thiết bị mô hình lớn, cần phải giải quyết vấn đề thiếu dung lượng chip quan trọng, giao diện tính toán và sinh thái không thống nhất càng sớm càng tốt.
Tại cuộc họp, Phó Chủ tịch Samsung Electronics, trưởng nhóm phát triển phần mềm bán dẫn Zhang Qingqing cho biết làn sóng AI tạo ra đã kích hoạt nhu cầu của các doanh nghiệp đối với các thành phần chip, trong đó, nhu cầu về dung lượng và hiệu suất của chip lưu trữ tăng mạnh, chip nhớ đang phải đối mặt với những thách thức của giới hạn tường bộ nhớ.
Giới hạn tường bộ nhớ đề cập đến tốc độ truyền dữ liệu ngày càng tăng giữa bộ xử lý trung tâm (CPU) và bộ nhớ chính trong hệ thống máy tính, trong khi tốc độ truy cập vào thiết bị lưu trữ không tăng lên tương ứng. Sự không phù hợp tốc độ này dẫn đến tắc nghẽn hiệu suất máy tính, ở một mức độ nào đó tạo thành một "bức tường" tắc nghẽn.
Samsung Electronics cho biết tại cuộc họp báo tài chính Q2/2023 rằng công ty đã nhận được một lượng lớn nhu cầu từ khách hàng khi các công ty lớn tăng cường cạnh tranh với các dịch vụ AI, một hiện tượng hiếm hoi xảy ra trong chu kỳ giảm giá bán dẫn. Đặc biệt, nhu cầu của người dùng đối với HBM, một chip lưu trữ băng thông cao, đang phát triển nhanh chóng, và các công ty đang xem xét mở rộng sản xuất HBM trong khi lặp đi lặp lại công nghệ sản phẩm.
"Giải pháp đầu tiên là giới thiệu lưu trữ chủ động (Active Memory) để xây dựng một hệ thống phân cấp bộ nhớ mới, tiếp theo là phát triển các công nghệ điện toán tập trung vào dữ liệu", ông Zhang nói.
Trên thực tế, "bức tường bộ nhớ" không phải là thách thức duy nhất mà Samsung phải đối mặt, xử lý dữ liệu với tốc độ nhanh hơn đòi hỏi rất nhiều tiêu thụ điện năng, điều này chắc chắn sẽ dẫn đến lượng khí thải carbon đáng kể, ông Zhang nói. Để đạt được mục tiêu này, Samsung đã phát triển và áp dụng quy trình Đánh giá Vòng đời (LCA) để tính toán và phát hiện lượng khí thải carbon của tất cả các sản phẩm để giảm tác động môi trường trong vòng đời sản phẩm và chuỗi cung ứng bán dẫn.
Tại cuộc họp, thông tin cho biết số lượng các công ty Trung Quốc đã phát hành hơn 110 mô hình ngôn ngữ lớn, làm dấy lên nhu cầu mạnh mẽ hơn về trí tuệ nhân tạo. Tuy nhiên, do các tuyến đường kỹ thuật khác nhau của các nhà sản xuất, giao thức kết nối giao diện và khả năng tương thích của chip cũng khác nhau, dẫn đến toàn bộ cơ sở hạ tầng điện toán phải đối mặt với những thách thức của sự phân chia phần cứng và sinh thái rời rạc trong việc xây dựng.
Việc tích hợp các hệ thống phần cứng độc quyền vào mô hình phát triển "ống khói" trong toàn bộ hệ thống máy sẽ mất nhiều thời gian và chi phí hơn, điều này sẽ cản trở sự đổi mới ứng dụng và sự phát triển phổ quát của ngành công nghiệp điện toán.
Tại cuộc họp đã ban hành "Hướng dẫn thiết kế máy chủ AI đặc điểm kỹ thuật tăng tốc mở". Điều này là để phát triển hơn nữa và cải thiện lý thuyết thiết kế và phương pháp thiết kế của máy chủ AI tiêu chuẩn hóa. Thông qua hướng dẫn thiết kế mở để chải giao diện máy chủ, phương pháp cung cấp điện, phương pháp tản nhiệt, giao diện quản lý, kết nối máy thẻ..., có thể làm giảm đáng kể chi phí công nghiệp hóa điện toán AI và đẩy nhanh quá trình phổ quát hóa sức mạnh tính toán đa dạng.
>> Lừa đảo, hack, rác... AI đang hủy hoại internet
Giới hạn tường bộ nhớ đề cập đến tốc độ truyền dữ liệu ngày càng tăng giữa bộ xử lý trung tâm (CPU) và bộ nhớ chính trong hệ thống máy tính, trong khi tốc độ truy cập vào thiết bị lưu trữ không tăng lên tương ứng. Sự không phù hợp tốc độ này dẫn đến tắc nghẽn hiệu suất máy tính, ở một mức độ nào đó tạo thành một "bức tường" tắc nghẽn.
Samsung Electronics cho biết tại cuộc họp báo tài chính Q2/2023 rằng công ty đã nhận được một lượng lớn nhu cầu từ khách hàng khi các công ty lớn tăng cường cạnh tranh với các dịch vụ AI, một hiện tượng hiếm hoi xảy ra trong chu kỳ giảm giá bán dẫn. Đặc biệt, nhu cầu của người dùng đối với HBM, một chip lưu trữ băng thông cao, đang phát triển nhanh chóng, và các công ty đang xem xét mở rộng sản xuất HBM trong khi lặp đi lặp lại công nghệ sản phẩm.
"Giải pháp đầu tiên là giới thiệu lưu trữ chủ động (Active Memory) để xây dựng một hệ thống phân cấp bộ nhớ mới, tiếp theo là phát triển các công nghệ điện toán tập trung vào dữ liệu", ông Zhang nói.
Trên thực tế, "bức tường bộ nhớ" không phải là thách thức duy nhất mà Samsung phải đối mặt, xử lý dữ liệu với tốc độ nhanh hơn đòi hỏi rất nhiều tiêu thụ điện năng, điều này chắc chắn sẽ dẫn đến lượng khí thải carbon đáng kể, ông Zhang nói. Để đạt được mục tiêu này, Samsung đã phát triển và áp dụng quy trình Đánh giá Vòng đời (LCA) để tính toán và phát hiện lượng khí thải carbon của tất cả các sản phẩm để giảm tác động môi trường trong vòng đời sản phẩm và chuỗi cung ứng bán dẫn.
Tại cuộc họp, thông tin cho biết số lượng các công ty Trung Quốc đã phát hành hơn 110 mô hình ngôn ngữ lớn, làm dấy lên nhu cầu mạnh mẽ hơn về trí tuệ nhân tạo. Tuy nhiên, do các tuyến đường kỹ thuật khác nhau của các nhà sản xuất, giao thức kết nối giao diện và khả năng tương thích của chip cũng khác nhau, dẫn đến toàn bộ cơ sở hạ tầng điện toán phải đối mặt với những thách thức của sự phân chia phần cứng và sinh thái rời rạc trong việc xây dựng.
Việc tích hợp các hệ thống phần cứng độc quyền vào mô hình phát triển "ống khói" trong toàn bộ hệ thống máy sẽ mất nhiều thời gian và chi phí hơn, điều này sẽ cản trở sự đổi mới ứng dụng và sự phát triển phổ quát của ngành công nghiệp điện toán.
Tại cuộc họp đã ban hành "Hướng dẫn thiết kế máy chủ AI đặc điểm kỹ thuật tăng tốc mở". Điều này là để phát triển hơn nữa và cải thiện lý thuyết thiết kế và phương pháp thiết kế của máy chủ AI tiêu chuẩn hóa. Thông qua hướng dẫn thiết kế mở để chải giao diện máy chủ, phương pháp cung cấp điện, phương pháp tản nhiệt, giao diện quản lý, kết nối máy thẻ..., có thể làm giảm đáng kể chi phí công nghiệp hóa điện toán AI và đẩy nhanh quá trình phổ quát hóa sức mạnh tính toán đa dạng.
>> Lừa đảo, hack, rác... AI đang hủy hoại internet
