Sóng AI
Writer
Công ty AI Cohere Inc. đã phát hành mô hình ngôn ngữ lớn (LLM) chi phí thấp mới tên Command A, được xây dựng với chi phí dưới 30 triệu USD - thấp hơn nhiều so với các đối thủ cạnh tranh.
Theo đánh giá từ Cohere, Command A hoạt động ngang bằng hoặc tốt hơn các mô hình hàng đầu từ OpenAI và DeepSeek (Trung Quốc) trong một số tác vụ như lập trình, trả lời câu hỏi kỹ thuật và hỗ trợ dịch vụ khách hàng.
Nick Frosst, đồng sáng lập Cohere, cho biết công ty đạt được kết quả này nhờ tập trung xây dựng mô hình hữu ích cho khách hàng doanh nghiệp, thay vì công nghệ có thể làm mọi thứ.
Khác với OpenAI và Anthropic đang cố gắng phát triển trí tuệ nhân tạo tổng quát (AGI), Cohere tập trung vào hiệu quả đầu tư (ROI) thay vì AGI.
Theo CEO Anthropic Dario Amodei, các mô hình LLM tiên tiến có thể tốn 100 triệu USD để đào tạo, với chi phí tăng nhanh chóng.
Cohere chỉ có quyền truy cập vào khoảng 8.500 GPU, trong khi xAI của Elon Musk xây dựng cơ sở với 100.000 GPU và có kế hoạch tăng gấp đôi con số này.
Giai đoạn đầu xây dựng Command A chỉ sử dụng 2.000 GPU, và khách hàng có thể triển khai mô hình trên cơ sở hạ tầng máy tính của riêng họ với chỉ 2 GPU, trong khi các mô hình khác có thể yêu cầu tới 32 GPU.
Cohere khẳng định chi phí 30 triệu USD bao gồm toàn bộ quá trình đào tạo, không chỉ nỗ lực cuối cùng.
Công ty cũng tập trung vào việc đảm bảo mô hình thông thạo nhiều ngôn ngữ, tìm thấy sự quan tâm bên ngoài Bắc Mỹ, đã phát triển LLM tiếng Nhật với Fujitsu và gần đây hợp tác với LG CNS.
Cohere không có ứng dụng hướng đến người tiêu dùng như ChatGPT, vốn đòi hỏi sức mạnh xử lý lớn, giúp tiết kiệm chi phí đáng kể.
Cohere đã tạo ra mô hình AI Command A với chi phí chỉ 30 triệu USD, bằng cách sử dụng 2.000 GPU, tập trung vào nhu cầu doanh nghiệp thay vì theo đuổi AGI. Mô hình này cạnh tranh được với các đối thủ lớn trong các tác vụ doanh nghiệp, chỉ cần 2 GPU để triển khai.Nguồn: Songai.vn
