VNR Content
Pearl
Trong vô số sản phẩm mới ra mắt trên thị trường điện thoại thông minh, một xu hướng đang nổi lên đang dần làm nổi bật đường nét của nó - các mẫu máy cỡ lớn AI.
Với sự xuất hiện của ChatGPT và xu hướng phát triển ứng dụng trên toàn quốc, các nhà sản xuất điện thoại di động đã bắt đầu khám phá việc nhúng các mô hình AI lớn vào điện thoại thông minh để mang đến cho người dùng trải nghiệm thông minh được cá nhân hóa hơn.
Tại Hội nghị nhà phát triển OPPO (ODC 2023) tổ chức mới đây, ColorOS 14 đã chính thức trình làng.
Điều khác biệt so với trước đây là ở bản cập nhật hệ thống này, lần đầu tiên OPPO đã tích hợp sẵn mẫu Andes GPT. Theo giới thiệu chính thức, mô hình này bao gồm nhiều mẫu mã với thang đo tham số khác nhau từ 1 tỷ đến 100 tỷ và sẽ được tích hợp hoàn toàn với hệ thống Pantanal.
Nửa tháng trước, vivo đã chính thức phát hành mẫu lớn Blue Heart tự phát triển, đây là một ma trận mô hình lớn chung do vivo phát triển, từ mã nguồn mở sang tự phát triển hoàn toàn, bao gồm ba mẫu khác nhau: tỷ , hàng chục tỷ và hàng trăm tỷ. Năm mô hình lớn tự phát triển với các mức tham số bao gồm đầy đủ các kịch bản ứng dụng cốt lõi và khả năng ma trận mô hình lớn được tích hợp hoàn toàn vào OriginOS 4.
Ngoài ra, Giám đốc điều hành Honor Zhao Ming mới đây cũng tiết lộ rằng Honor Magic 6 mới sẽ được trang bị mô hình AI end-to-side cấp tham số 7 tỷ thông số do chính họ phát triển. Tương tự, Huawei thông báo hệ thống điện thoại di động của họ sẽ được kết nối với mẫu Pangu.
Khi các nhà sản xuất điện thoại di động hàng đầu bước vào đường đua mô hình lớn AI, điều đó cho thấy rằng các thiết bị đầu cuối điện thoại di động triển khai các mô hình lớn AI sẽ ngày càng trở nên phổ biến, mang lại những cơ hội mới cho ngành.
Sự xuất hiện của các mô hình lớn cho phép chúng ta sử dụng lượng dữ liệu khổng lồ hiệu quả hơn để trích xuất thông tin có giá trị. Vậy làm thế nào để chạy một mô hình lớn với hàng trăm tỷ thông số trên điện thoại di động? Lúc này, kiến trúc lai giữa cộng tác thiết bị-đám mây trở thành chìa khóa.
Mẫu lớn OPPO Andes áp dụng sự kết hợp giữa đám mây và đám mây để hiện thực hóa mô hình lớn cuối cùng. Thông qua sự kết hợp giữa phần cứng điện thoại di động và đám mây, nó có thể nhận ra các chức năng mà trợ lý giọng nói thông minh vốn chỉ dựa vào các dịch vụ đám mây trong quá khứ. Các mô hình lớn sẽ gọi các mô hình khác nhau dựa trên các yêu cầu nhiệm vụ và khả năng của mô hình khác nhau. Các tác vụ đơn giản, chẳng hạn như truy vấn liên hệ, v.v., sẽ sử dụng các mô hình nhỏ để phản hồi nhanh chóng ở phía máy khách, trong khi các tác vụ phức tạp, chẳng hạn như truy vấn kiến thức và thông tin, sẽ sử dụng các mô hình đám mây lớn để có câu trả lời chính xác.
Mẫu trái tim xanh của Vivo có 5 kích thước thông số 1 tỷ, 7 tỷ, 70 tỷ, 130 tỷ và 175 tỷ, trong đó 1 tỷ và 7 tỷ có thể được hỗ trợ bởi sức mạnh tính toán cục bộ, trong khi dữ liệu lớn hơn vẫn cần được chạy trên đám mây.
Vì lý do này, vivo không bắt buộc người dùng phải sử dụng thiết bị hoặc đám mây mà để người dùng lựa chọn. Ví dụ: các chức năng như phương thức nhập liệu không yêu cầu quyền riêng tư và bảo mật cao như vậy có thể được chọn để chạy trên đám mây, trong khi các tập tin và album ảnh của công ty có thể chạy trên đám mây. Đợi đã, bạn có thể sử dụng sức mạnh tính toán của chính điện thoại di động để hoàn thành nó.
So với việc chỉ triển khai các ứng dụng và dịch vụ AI tổng quát trên đám mây, việc triển khai AI tổng quát trên thiết bị đầu cuối di động có thể chạy các thuật toán AI phức tạp trên thiết bị, từ đó giảm sự phụ thuộc vào dịch vụ đám mây. đảm bảo An toàn Dữ liệu. Ngoài ra, điện thoại di động có thể hiểu và đáp ứng tốt hơn nhu cầu của người dùng, từ đó đáp ứng mong đợi của người dùng về những chiếc điện thoại di động thông minh hơn.
Liu Haifeng, Chủ tịch Bộ phận Kỹ thuật Trí tuệ Kỹ thuật số của OPPO, cho biết với sự hỗ trợ của công nghệ AI tổng quát, điện thoại di động sẽ hiểu chính xác hơn ý định của người dùng và nhận thức tình huống.
“Ví dụ, trước đây hệ thống chỉ đẩy thông tin hành trình đường sắt cao tốc khi biết người dùng đã đặt chuyến đi đường sắt cao tốc tới Bắc Kinh. Nhưng trong tương lai, hệ thống điện thoại di động sẽ hình thành một thẻ mới dựa trên nhu cầu của người dùng, bao gồm lịch trình đường sắt cao tốc, thời gian di chuyển và nhiệt độ thời tiết tại nơi đi du lịch. Ngoài ra, hệ thống cũng sẽ đưa ra khuyến nghị cho các dịch vụ liên quan như điều hướng đến bãi đậu xe ga đường sắt cao tốc rất nhiều dựa trên tình trạng tắc nghẽn giao thông và sở thích của người dùng. Nếu nhận thấy rằng người dùng muốn đi du lịch, nó cũng sẽ cung cấp một bộ đầy đủ các dịch vụ liên quan đến du lịch".
Đầu tiên là sức mạnh tính toán, các dòng máy lớn yêu cầu khối lượng tính toán lớn và yêu cầu hỗ trợ tài nguyên máy tính mạnh mẽ, các nhà sản xuất điện thoại di động thường không có đủ nguồn dự trữ về cơ sở hạ tầng sức mạnh tính toán.
Chu Châu, Giám đốc Viện nghiên cứu toàn cầu Vivo AI, tiết lộ rằng các mẫu lớn với hơn 130 tỷ thông số hiện yêu cầu sức mạnh tính toán rất cao, hiện việc đào tạo đã bị đình chỉ, trong khi việc đào tạo các mẫu lớn với dưới 130 tỷ thông số vẫn đang tiếp tục. Được biết, vivo cũng đang liên hệ với các nhà sản xuất chip điện toán khác nhưng vẫn chưa có kế hoạch rõ ràng.
Ngoài ra, từ phía ứng dụng, việc triển khai cục bộ nhẹ nhàng là xu hướng quan trọng đối với các mẫu điện thoại di động cỡ lớn. Để chạy các mô hình lớn một cách hiệu quả trên điện thoại di động, các nhà sản xuất điện thoại di động cần nén và làm nhẹ các mô hình, đồng thời sử dụng việc cắt tỉa, định lượng, phân tách và các công nghệ khác để giảm kích thước và số lượng tính toán của mô hình nhằm đảm bảo mô hình có thể chạy hiệu quả trên điện thoại di động.
Từ góc độ của ngành, việc ứng dụng các mô hình AI lớn trên điện thoại di động hiện nay vẫn còn ở giai đoạn sơ khai, nhưng đây là đỉnh cao công nghệ cần phải cạnh tranh trong tương lai. Theo dự đoán của IDC, đến năm 2026, gần 50% thiết bị đầu cuối tại thị trường Trung Quốc sẽ có công nghệ AI engine trong bộ xử lý.
Điều này có nghĩa là khả năng các nhà sản xuất điện thoại di động có được những mô hình AI lớn sẽ ngày càng trở nên quan trọng. Đối với người dùng, được hỗ trợ bởi các mô hình AI lớn, sự phát triển của điện thoại di động trong tương lai sẽ mở ra nhiều đổi mới “chất lượng” hơn ở cấp độ trải nghiệm.
Với sự xuất hiện của ChatGPT và xu hướng phát triển ứng dụng trên toàn quốc, các nhà sản xuất điện thoại di động đã bắt đầu khám phá việc nhúng các mô hình AI lớn vào điện thoại thông minh để mang đến cho người dùng trải nghiệm thông minh được cá nhân hóa hơn.
Tại Hội nghị nhà phát triển OPPO (ODC 2023) tổ chức mới đây, ColorOS 14 đã chính thức trình làng.
Nửa tháng trước, vivo đã chính thức phát hành mẫu lớn Blue Heart tự phát triển, đây là một ma trận mô hình lớn chung do vivo phát triển, từ mã nguồn mở sang tự phát triển hoàn toàn, bao gồm ba mẫu khác nhau: tỷ , hàng chục tỷ và hàng trăm tỷ. Năm mô hình lớn tự phát triển với các mức tham số bao gồm đầy đủ các kịch bản ứng dụng cốt lõi và khả năng ma trận mô hình lớn được tích hợp hoàn toàn vào OriginOS 4.
Ngoài ra, Giám đốc điều hành Honor Zhao Ming mới đây cũng tiết lộ rằng Honor Magic 6 mới sẽ được trang bị mô hình AI end-to-side cấp tham số 7 tỷ thông số do chính họ phát triển. Tương tự, Huawei thông báo hệ thống điện thoại di động của họ sẽ được kết nối với mẫu Pangu.
Khi các nhà sản xuất điện thoại di động hàng đầu bước vào đường đua mô hình lớn AI, điều đó cho thấy rằng các thiết bị đầu cuối điện thoại di động triển khai các mô hình lớn AI sẽ ngày càng trở nên phổ biến, mang lại những cơ hội mới cho ngành.
Các nhà sản xuất hàng đầu cạnh tranh các mô hình AI lớn
Nếu dữ liệu là loại dầu mới thì các mô hình lớn là các nhà máy lọc dầu tinh chế loại dầu này.Sự xuất hiện của các mô hình lớn cho phép chúng ta sử dụng lượng dữ liệu khổng lồ hiệu quả hơn để trích xuất thông tin có giá trị. Vậy làm thế nào để chạy một mô hình lớn với hàng trăm tỷ thông số trên điện thoại di động? Lúc này, kiến trúc lai giữa cộng tác thiết bị-đám mây trở thành chìa khóa.
Mẫu lớn OPPO Andes áp dụng sự kết hợp giữa đám mây và đám mây để hiện thực hóa mô hình lớn cuối cùng. Thông qua sự kết hợp giữa phần cứng điện thoại di động và đám mây, nó có thể nhận ra các chức năng mà trợ lý giọng nói thông minh vốn chỉ dựa vào các dịch vụ đám mây trong quá khứ. Các mô hình lớn sẽ gọi các mô hình khác nhau dựa trên các yêu cầu nhiệm vụ và khả năng của mô hình khác nhau. Các tác vụ đơn giản, chẳng hạn như truy vấn liên hệ, v.v., sẽ sử dụng các mô hình nhỏ để phản hồi nhanh chóng ở phía máy khách, trong khi các tác vụ phức tạp, chẳng hạn như truy vấn kiến thức và thông tin, sẽ sử dụng các mô hình đám mây lớn để có câu trả lời chính xác.
Mẫu trái tim xanh của Vivo có 5 kích thước thông số 1 tỷ, 7 tỷ, 70 tỷ, 130 tỷ và 175 tỷ, trong đó 1 tỷ và 7 tỷ có thể được hỗ trợ bởi sức mạnh tính toán cục bộ, trong khi dữ liệu lớn hơn vẫn cần được chạy trên đám mây.
Vì lý do này, vivo không bắt buộc người dùng phải sử dụng thiết bị hoặc đám mây mà để người dùng lựa chọn. Ví dụ: các chức năng như phương thức nhập liệu không yêu cầu quyền riêng tư và bảo mật cao như vậy có thể được chọn để chạy trên đám mây, trong khi các tập tin và album ảnh của công ty có thể chạy trên đám mây. Đợi đã, bạn có thể sử dụng sức mạnh tính toán của chính điện thoại di động để hoàn thành nó.
So với việc chỉ triển khai các ứng dụng và dịch vụ AI tổng quát trên đám mây, việc triển khai AI tổng quát trên thiết bị đầu cuối di động có thể chạy các thuật toán AI phức tạp trên thiết bị, từ đó giảm sự phụ thuộc vào dịch vụ đám mây. đảm bảo An toàn Dữ liệu. Ngoài ra, điện thoại di động có thể hiểu và đáp ứng tốt hơn nhu cầu của người dùng, từ đó đáp ứng mong đợi của người dùng về những chiếc điện thoại di động thông minh hơn.
Liu Haifeng, Chủ tịch Bộ phận Kỹ thuật Trí tuệ Kỹ thuật số của OPPO, cho biết với sự hỗ trợ của công nghệ AI tổng quát, điện thoại di động sẽ hiểu chính xác hơn ý định của người dùng và nhận thức tình huống.
“Ví dụ, trước đây hệ thống chỉ đẩy thông tin hành trình đường sắt cao tốc khi biết người dùng đã đặt chuyến đi đường sắt cao tốc tới Bắc Kinh. Nhưng trong tương lai, hệ thống điện thoại di động sẽ hình thành một thẻ mới dựa trên nhu cầu của người dùng, bao gồm lịch trình đường sắt cao tốc, thời gian di chuyển và nhiệt độ thời tiết tại nơi đi du lịch. Ngoài ra, hệ thống cũng sẽ đưa ra khuyến nghị cho các dịch vụ liên quan như điều hướng đến bãi đậu xe ga đường sắt cao tốc rất nhiều dựa trên tình trạng tắc nghẽn giao thông và sở thích của người dùng. Nếu nhận thấy rằng người dùng muốn đi du lịch, nó cũng sẽ cung cấp một bộ đầy đủ các dịch vụ liên quan đến du lịch".
Triển khai các mô hình AI lớn ở phía terminal vẫn còn những thách thức
Là một công nghệ tiên tiến thúc đẩy sự phát triển của các loại điện thoại di động, so với việc chỉ triển khai các ứng dụng và dịch vụ AI tổng quát trên đám mây, việc triển khai AI tổng quát trên thiết bị đầu cuối di động có thể tiết kiệm chi phí máy chủ, bảo vệ bảo mật thông tin người dùng, cải thiện hiệu suất thời gian thực, và đạt được trải nghiệm người dùng được cá nhân hóa. Nó mang lại triển vọng ứng dụng rộng hơn. Đồng thời, việc triển khai các mô hình AI lớn trên điện thoại di động vẫn gặp phải những thách thức không nhỏ.Đầu tiên là sức mạnh tính toán, các dòng máy lớn yêu cầu khối lượng tính toán lớn và yêu cầu hỗ trợ tài nguyên máy tính mạnh mẽ, các nhà sản xuất điện thoại di động thường không có đủ nguồn dự trữ về cơ sở hạ tầng sức mạnh tính toán.
Chu Châu, Giám đốc Viện nghiên cứu toàn cầu Vivo AI, tiết lộ rằng các mẫu lớn với hơn 130 tỷ thông số hiện yêu cầu sức mạnh tính toán rất cao, hiện việc đào tạo đã bị đình chỉ, trong khi việc đào tạo các mẫu lớn với dưới 130 tỷ thông số vẫn đang tiếp tục. Được biết, vivo cũng đang liên hệ với các nhà sản xuất chip điện toán khác nhưng vẫn chưa có kế hoạch rõ ràng.
Ngoài ra, từ phía ứng dụng, việc triển khai cục bộ nhẹ nhàng là xu hướng quan trọng đối với các mẫu điện thoại di động cỡ lớn. Để chạy các mô hình lớn một cách hiệu quả trên điện thoại di động, các nhà sản xuất điện thoại di động cần nén và làm nhẹ các mô hình, đồng thời sử dụng việc cắt tỉa, định lượng, phân tách và các công nghệ khác để giảm kích thước và số lượng tính toán của mô hình nhằm đảm bảo mô hình có thể chạy hiệu quả trên điện thoại di động.
Từ góc độ của ngành, việc ứng dụng các mô hình AI lớn trên điện thoại di động hiện nay vẫn còn ở giai đoạn sơ khai, nhưng đây là đỉnh cao công nghệ cần phải cạnh tranh trong tương lai. Theo dự đoán của IDC, đến năm 2026, gần 50% thiết bị đầu cuối tại thị trường Trung Quốc sẽ có công nghệ AI engine trong bộ xử lý.
Điều này có nghĩa là khả năng các nhà sản xuất điện thoại di động có được những mô hình AI lớn sẽ ngày càng trở nên quan trọng. Đối với người dùng, được hỗ trợ bởi các mô hình AI lớn, sự phát triển của điện thoại di động trong tương lai sẽ mở ra nhiều đổi mới “chất lượng” hơn ở cấp độ trải nghiệm.
