Bí mật đằng sau AI Factory của Nvidia và Supermicro: Liệu Telco Việt Nam có thể 'thoát Trung' để làm chủ hạ tầng AI chủ quyền?

[Nguyễn Hoàng]

Hội thảo được tổ chức bởi Supermicro với sự hợp tác từ Nvidia nhắm đến khái niệm “AI Factory” – trung tâm dữ liệu tối ưu cho AI tạo sinh học.

AI Factory là cơ sở hạ tầng chuyên phục vụ huấn luyện, tinh chỉnh và suy luận (suy luận) cho các mô hình AI quy mô lớn, ví dụ như mô hình ngôn ngữ lớn (LLM).

Telco (nhà mạng Viễn thông) đang đóng vai trò là nhà cung cấp quyền chủ sở hữu của AI Factory (Sovereign AI Factory) cho các quốc gia giúp lợi thế có sẵn như trung tâm dữ liệu, kinh nghiệm vận hành mạng phức tạp, và mối quan hệ chặt chẽ với chính phủ.

Nvidia định hình chiến lược AI cho Telco xoay quanh 4 trụ cột chính: AI nhà máy, AI cho vận hành Telco, RAN hỗ trợ AI (mạng truy cập vô tuyến) và tầng cốt lõi AI.

Supermicro và Nvidia cùng nhau xây dựng kiến trúc tham khảo (kiến trúc tham khảo) cho việc phát triển nhà máy AI, giúp rút ngắn “ thời gian đào tạo lần đầu ” – ví dụ như dự án xAI (của Elon Musk) với 100.000 GPU H100 phát triển khai thành công trong 122 ngày.

Hệ thống được thiết kế theo mô-đun, kết nối mạng tối ưu hóa, sử dụng chất làm mát bằng chất lỏng (làm mát bằng chất lỏng) và sẵn sàng phát triển cụm cụm để rút ngắn thời gian đưa vào vận hành.

Một điểm khác biệt đối với hệ thống truyền tải đám mây là hoạt động của nhà máy AI là hệ thống nhất với khối lượng công việc đồng nhất – điều này cải thiện hiệu suất và tài nguyên tối ưu hóa.

AI tạo sinh mang đến cho Telco cơ hội vượt ra ngoài vai trò kết nối, quay trở lại vai trò nhà cung cấp dịch vụ, ví dụ như chatbot công dân, hệ thống chính phủ điện tử, hoặc công cụ suy luận phân tán.

Telco có thể cung cấp mô hình ngôn ngữ riêng cho từng quốc gia, hỗ trợ nhiều ngôn ngữ bản địa, đảm bảo an toàn dữ liệu và quyền chủ.

Hội thảo nêu tiềm năng lớn của Nhà máy AI trong ngành Telco. Với ví dụ phát triển GPU 100.000 trong 122 ngày, Supermicro và Nvidia đã chứng minh khả năng cung cấp hạ tầng AI chủ quyền giúp các quốc gia phát triển mô hình ngôn ngữ riêng và dịch vụ AI bản địa hóa, từ đó mở ra hướng đi mới trong kinh tế số và quyền chủ dữ liệu.

Dưới đây là 4 cột trụ chính trong chiến lược AI dành cho Telco do Nvidia xuất bản trong hội thảo:

1. AI Factory (Nhà máy AI)​

• Là trung tâm dữ liệu mới được thiết kế chuyên biệt cho AI tạo sinh học như huấn luyện mô hình ngôn ngữ lớn, tinh chỉnh (tinh chỉnh) và suy luận (suy luận).
• AI Factory hoạt động như một “nhà sản xuất trí tuệ” – tạo ra token từ dữ liệu tương tự như nhà công nghiệp sản xuất hàng hóa hóa.
• Đây là nền tảng để xây dựng quyền chủ sở hữu AI (AI có chủ quyền) , giúp mỗi quốc gia tự động xây dựng mô hình ngôn ngữ phù hợp văn hóa và ngôn ngữ riêng.
• Telco được định vị là nhà cung cấp AI Factory quốc gia giúp sẵn sàng hạ tầng, trung tâm dữ liệu và mối quan hệ chính phủ.

2. AI cho vận hành Telco (AI for Telco Operations)​

• Áp dụng AI để quản lý mạng tối ưu, hỗ trợ kỹ thuật và chăm sóc khách hàng .
• Telco sử dụng trợ lý AI, chatbot và tự động hóa để hỗ trợ tổng đài hoặc cung cấp dịch vụ tự động cho người dùng.
• Giúp giảm chi phí vận hành, cải thiện trải nghiệm người dùng và tăng hiệu suất xử lý của mạng cố vấn.
• Đây là ứng dụng AI vào nội bộ doanh nghiệp để tăng hiệu quả và giảm chi phí .

3. RAN (Mạng truy cập vô tuyến) hỗ trợ AI​

• Tích hợp AI trực tiếp vào hạ tầng mạng truy cập vô tuyến , như 5G hoặc 6G.
• Telco phát triển GPU khai báo tại các trạm phát sóng hoặc Edge để xử lý dữ liệu, chạy mô hình AI tại phòng (suy luận tại chỗ).
• Có thể cung cấp dịch vụ AI tạo sinh trực tiếp từ mạng – ví dụ: suy luận cho ứng dụng AI di động.
• Ví dụ thực tế: Nvidia công bố hợp tác với T-Mobile, Ericsson và NOA về việc phát triển RAN hỗ trợ AI.

4. Hạ tầng Mạng lõi AI (Cơ sở hạ tầng AI)​

• Bao gồm các phần cứng hỗ trợ AI như DPU (Bộ xử lý dữ liệu), chuyển đổi tốc độ cao, mạng bảo mật .
• Đây là nền tảng cơ bản giúp đảm bảo mạng có khả năng truyền tải dữ liệu lớn, tốc độ chậm và bảo mật cao – điều cần thiết cho AI tạo sinh học.
• Nvidia cung cấp đầy đủ hệ sinh thái hạ tầng AI để Telco phát triển khai thác từ trung tâm dữ liệu đến biên mạng (edge).

Nguồn: https://songai.vn/posts/hoi-thao-su...g-ai-factories-de-tao-ra-ha-tang-ai-chu-quyen