Qualcomm AI Hub mở rộng sang những ứng dụng AI trên các dòng PC trang bị chip Snapdragon, cho phép tạo ra hàng loạt ứng dụng AI tạo sinh

Nhật Quang
Nhật Quang
Phản hồi: 0

Nhật Quang

Editor
Thành viên BQT
Tại sự kiện Microsoft Build 2024, Qualcomm đã công bố việc mở rộng Trung tâm Trí tuệ Nhân tạo Qualcomm AI Hub nhằm hỗ trợ Nền tảng Snapdragon X Series.

1716351595891.png

Trung tâm Trí tuệ Nhân tạo Qualcomm (Qualcomm AI Hub) được mở rộng nhằm hỗ trợ cho Nền tảng Snapdragon X Series, trao quyền cho các nhà phát triển dễ dàng nắm bắt được lợi thế từ những bộ vi xử lý CPU với đẳng cấp hàng đầu và NPU nhanh nhất trên thế giới hiện nay dành cho laptop. Nhờ đó, họ có thể tạo ra các ứng dụng AI tạo sinh (generative AI) trên thiết bị tiết kiệm năng lượng và đảm bảo được tính phản hồi nhanh chóng ngay trên các dòng máy tính (PC) Windows thuộc thế hệ tiếp theo.

Điều này giúp rút ngắn thời gian đưa sản phẩm ra thị trường cho các nhà phát triển và kích hoạt những lợi ích của AI tạo sinh trên thiết bị cho các dòng PC Windows thuộc thế hệ tiếp theo. Bên cạnh đó, các nhà phát triển giờ đây có thể tạo ra các mô hình AI của riêng họ và tối ưu hóa chúng để hoạt động trực tiếp một cách mượt mà, dễ dàng trên thiết bị. Khả năng chạy các mô hình AI trên thiết bị mang lại những lợi thế đáng kể, bao gồm phản hồi nhanh hơn, quyền riêng tư được tăng cường, độ tin cậy được cải thiện và mang đến trải nghiệm được cá nhân hóa hơn cho người dùng.

Giờ đây các nhà phát triển có thể tối ưu hóa các mô hình của riêng họ với Qualcomm AI Hub, tăng thêm tính linh hoạt và khả năng tùy chỉnh, đồng thời đẩy nhanh chu kỳ phát triển, bên cạnh đó, họ còn được tận dụng kho thư viện phong phú cho các mô hình AI tiền tối ưu.

"Bằng việc hỗ trợ Nền tảng Snapdragon X Series trong Trung tâm Trí tuệ Nhân tạo Qualcomm AI Hub, chúng tôi đang cung cấp cho các nhà phát triển sự linh hoạt và sức mạnh để tạo ra các ứng dụng AI tiên tiến cho các sản phẩm PC Windows thuộc thế hệ tiếp theo," ông Durga Malladi, Phó chủ tịch cấp cao kiêm Giám đốc điều hành mảng lập kế hoạch công nghệ và giải pháp biên của Qualcomm Technologies, Inc. cho biết. "Chúng tôi cam kết cung cấp cho các nhà phát triển những công cụ và tài nguyên cần thiết nhằm khai phóng toàn bộ tiềm năng của Trí tuệ Nhân tạo Tổng hợp trên thiết bị."

Qualcomm AI Hub là cổng thông tin dành cho các nhà phát triển, cung cấp tài nguyên, công cụ và dịch vụ, cho phép đạt được hiệu năng AI vượt trội trên thiết bị, đi kèm một thư viện đang liên tục phát triển với hơn 100 mô hình AI được tiền tối ưu hóa và sẽ có thể sử dụng ngay trên Hugging Face và GitHub.

Bên cạnh đó, Qualcomm AI Hub hiện cho phép các nhà phát triển “Xây dựng Mô hình của riêng mình” (Bring Your Own Model – BYOM) – với tính năng đăng tải, tối ưu hóa và biên dịch các mô hình này để chạy hiệu quả trên các nền tảng Snapdragon và Qualcomm – trong đó bao gồm hỗ trợ tất cả các khung chính như PyTorch, TensorFlow và ONNX.

1716351697907.png

Chỉ với vài dòng code và trong chưa đầy năm phút, các nhà phát triển có thể dễ dàng kiểm chứng và xác thực các mô hình trên các thiết bị lưu trữ đám mây. Bằng cách đơn giản hóa quá trình tối ưu hóa và xác minh mô hình, các nhà phát triển có thể tiết kiệm đáng kể thời gian và công sức, đẩy nhanh chu kỳ phát triển tạo điều kiện cho vòng đời triển khai các bước lặp lại nhằm phát triển, cải tiến sản phẩm được rút ngắn.

Các nhà sản xuất thiết bị gốc (OEMs) cho PC hàng đầu toàn cầu, bao gồm Acer, ASUS, Dell, HP, Lenovo, Samsung và OEM7, dự kiến sẽ ra mắt các sản phẩm PC được trang bị Nền tảng Điện toán Snapdragon X Elite và/hoặc X Plus, cho phép các nhà phát triển sử dụng Qualcomm AI Hub để mang lại trải nghiệm vượt trội cho thế hệ thiết bị mới này.

Nền tảng Snapdragon X Series hỗ trợ nhiều công cụ phát triển AI. Nhờ tích hợp sâu với ONNX Runtime và Hugging Face Optimum, cũng như hỗ trợ Llama.cpp, giờ đây các nhà phát triển có thể chạy hàng nghìn mô hình trên Nền tảng Snapdragon X Series và xây dựng các ứng dụng Windows phong phú hỗ trợ bởi AI. Các nhà phát triển cũng có thể tìm hiểu về AI trên thiết bị và cách triển khai công nghệ này cho ứng dụng của mình trong khóa học trực tuyến do DeepLearning.AI hợp tác với Qualcomm Technologies cung cấp.


#QualcommAIHub #SnapdragonXSeries
 


Đăng nhập một lần thảo luận tẹt ga
Thành viên mới đăng
Top