Sóng AI
Writer
* Hiệu suất AI đang phát triển với tốc độ đáng kinh ngạc và chi tiêu cho cơ sở hạ tầng AI đang tăng vọt. Theo IDC, thị trường này sẽ vượt 200 tỷ USD trong 5 năm tới.
* Sức mạnh tính toán đơn thuần không đủ để thúc đẩy AI. Thách thức thực sự là cân bằng hiệu suất với hiệu quả chi phí.
* DeepSeek và OpenAI hiểu rằng việc mở rộng quy mô mô hình mà không tối ưu hóa chi phí, tốc độ và chất lượng là không bền vững.
* Hai công ty này áp dụng khung chiến lược "techonomics" để đạt được sự cân bằng tối ưu giữa các yếu tố.
* Techonomics, khái niệm được giới thiệu bởi Aart de Geus, đồng sáng lập và chủ tịch điều hành của Synopsys, xem xét công nghệ dựa trên 3 yếu tố kinh tế quan trọng:
- Chất lượng kết quả (QoR): đo lường chất lượng đầu ra của mô hình AI
- Thời gian đạt kết quả (TTR): thời gian cần thiết để mô hình đưa ra kết quả
- Chi phí kết quả (CoR): nguồn lực cần thiết để đạt được chất lượng đó
* Câu hỏi cốt lõi của techonomics: liệu chất lượng bổ sung có xứng đáng với chi phí và thời gian bổ sung không?
* Cả DeepSeek và OpenAI đều đang nỗ lực làm cho mô hình tốt hơn, không chỉ lớn hơn, thông qua:
- Chưng cất mô hình (model distillation): huấn luyện mô hình nhỏ hơn học từ mô hình lớn
- Lượng tử hóa (quantization): giảm độ chính xác của phép tính để tiết kiệm bộ nhớ
- Sử dụng phần cứng chuyên dụng như TPU và GPU
- Kỹ thuật đào tạo phân tán tiên tiến
* DeepSeek áp dụng kiến trúc đặc biệt thay vì mở rộng quy mô quá mạnh:
- Mixture of Experts (MoE): chỉ kích hoạt một phần nhỏ của mô hình tại một thời điểm
- Multi-Head Latent Attention (MLA): chia thông tin thành các phần nhỏ, chuyên biệt xử lý đồng thời
* Triết lý của DeepSeek dựa trên tiến bộ thuật toán thay vì chỉ tăng sức mạnh tính toán, kết hợp với phương pháp nguồn mở.
* Phát triển AI đang trải qua 3 giai đoạn riêng biệt:
- Giai đoạn 1 (Nghiên cứu ban đầu): tối đa hóa chất lượng kết quả, chi phí tính toán cao
- Giai đoạn 2 (Tối ưu hóa hiệu quả): cân bằng khả năng với hiệu quả chi phí - là giai đoạn hiện tại
- Giai đoạn 3 (Trưởng thành và tích hợp): AI sẽ được nhúng vào các ứng dụng hàng ngày, hiệu quả là ưu tiên hàng đầu
* AI nguồn mở đang là yếu tố thay đổi cuộc chơi, cho phép nhiều nhà phát triển đóng góp và đẩy nhanh tiến bộ.
* Trọng tâm của việc mở rộng quy mô AI đang chuyển hướng sang kiến trúc thông minh hơn, quản lý tài nguyên tốt hơn và giảm chi phí tính toán.
Tương lai AI thuộc về các mô hình cân bằng chất lượng-tốc độ-chi phí. DeepSeek và OpenAI đang dẫn đầu xu hướng này với kiến trúc thông minh như MoE và MLA, chứng minh rằng hiệu quả quan trọng không kém sức mạnh tính toán thuần túy.
Optimizing AI’s Future: How DeepSeek And OpenAI Leverage Techonomics To Balance Quality, Speed And Cost
Techonomics, a concept introduced by Aart de Geus, co-founder and executive chair of Synopsys, is a way of thinking about technology in terms of its economic trade-offs.
www.forbes.com
Nguồn: Songai.vn
