Databricks giới thiệu 4 công cụ mới giúp doanh nghiệp triển khai AI agent ở quy mô lớn

[Sóng AI]

• 
  85% doanh nghiệp toàn cầu đã sử dụng AI tạo sinh, nhưng gặp khó khăn trong việc mở rộng quy mô do thiếu độ chính xác, quản trị và kiểm soát rủi ro.
  
  
• 
  Databricks giới thiệu nhiều công cụ mới để giúp doanh nghiệp triển khai AI agent một cách tự tin:
  
  • 
    Mosaic AI Gateway: Quản lý tập trung các mô hình AI nguồn mở và thương mại
    
    
  • 
    Bộ API Genie Conversation: Tích hợp chatbot vào các ứng dụng và công cụ năng suất
    
    
  • 
    Ứng dụng Agent Evaluation Review nâng cấp: Đơn giản hóa quy trình đánh giá và phản hồi của chuyên gia
    
    
  • 
    Suy luận hàng loạt không cần cấp phép: Chạy suy luận hàng loạt chỉ bằng truy vấn SQL
    
• 
  Mở rộng AI Gateway để hỗ trợ bất kỳ endpoint LLM nào, cho phép quản lý thống nhất các mô hình
  
  
• 
  API Genie Conversation cho phép truy vấn thông tin bằng ngôn ngữ tự nhiên từ nhiều nền tảng khác nhau
  
  
• 
  Cập nhật ứng dụng Agent Evaluation Review giúp thu thập phản hồi có cấu trúc dễ dàng hơn
  
  
• 
  Hỗ trợ suy luận hàng loạt không cần cấu hình cơ sở hạ tầng, chỉ cần viết truy vấn SQL đơn giản
  
  
• 
  Altana đã ứng dụng thành công suy luận hàng loạt với AI Functions, cải thiện đáng kể tốc độ phát triển
  
  
• 
  Databricks sẽ tiếp tục giới thiệu thêm nhiều tính năng mới trong "Tuần lễ Agent" để giúp doanh nghiệp triển khai AI agent ở quy mô lớn một cách tự tin
  

Databricks giới thiệu 4 công cụ mới giúp doanh nghiệp triển khai AI agent ở quy mô lớn: quản lý tập trung mô hình, tích hợp chatbot, đánh giá agent và suy luận hàng loạt. Các giải pháp này giải quyết thách thức về độ chính xác, quản trị và rủi ro, tăng cường niềm tin khi triển khai AI trong các ứng dụng quan trọng.

Nguồn: Songai.vn​