VNR Content
Pearl
Theo Dylan Patel của hãng phân tích bán dẫn SemiAnalysis, chi phí vận hành của ChatGPT rơi vào khoảng 700.000 USD, tương đương 16,4 tỷ đồng mỗi ngày.
ChatGPT cần năng lực điện toán khổng lồ để tính toán phản hồi dựa trên dữ liệu nhập (prompt) của người dùng. Tuy nhiên, trong cuộc phỏng vấn với Business Insider, Patel cho rằng chi phí duy trì ChatGPT ngày nay thậm chí còn cao hơn do ước tính ban đầu được ông đưa ra dựa trên mô hình GPT-3. Mô hình mới nhất GPT-4 của OpenAI mạnh hơn rất nhiều, cũng đồng nghĩa nó cần năng lực điện toán tương xứng.
Để giảm thiểu chi phí cần thiết vận hành mô hình AI tạo sinh, Microsoft đang phát triển chip AI có tên Athena. Theo The Information, dự án bắt đầu từ năm 2019, vài năm sau khi công ty ký thỏa thuận 1 tỷ USD với OpenAI để startup chỉ sử dụng máy chủ đám mây Azure.
Có hai nguyên nhân được cho là thúc đẩy Microsoft phát triển chip: hãng đang tụt hậu so với những đối thủ là Google và Amazon trong lĩnh vực này, và họ cũng cần tìm kiếm phương án rẻ hơn dùng chip của Nvidia. Dự kiến, với hơn 300 nhân viên đang có trong dự án, con chip của Microsoft có thể sẵn sàng thử nghiệm nội bộ ngay trong năm sau.
Để giảm thiểu chi phí cần thiết vận hành mô hình AI tạo sinh, Microsoft đang phát triển chip AI có tên Athena. Theo The Information, dự án bắt đầu từ năm 2019, vài năm sau khi công ty ký thỏa thuận 1 tỷ USD với OpenAI để startup chỉ sử dụng máy chủ đám mây Azure.
Có hai nguyên nhân được cho là thúc đẩy Microsoft phát triển chip: hãng đang tụt hậu so với những đối thủ là Google và Amazon trong lĩnh vực này, và họ cũng cần tìm kiếm phương án rẻ hơn dùng chip của Nvidia. Dự kiến, với hơn 300 nhân viên đang có trong dự án, con chip của Microsoft có thể sẵn sàng thử nghiệm nội bộ ngay trong năm sau.
