Sóng AI
Writer
- Wells Fargo đã âm thầm xây dựng thành công hệ thống AI tạo sinh quy mô lớn trong thực tế. Trợ lý AI Fargo của ngân hàng này đã xử lý 245,4 triệu tương tác trong năm 2024, gấp đôi dự đoán ban đầu và không để lộ dữ liệu khách hàng nhạy cảm nào cho mô hình ngôn ngữ.
- Fargo hỗ trợ khách hàng thực hiện các nhu cầu ngân hàng hàng ngày qua giọng nói hoặc văn bản, bao gồm thanh toán hóa đơn, chuyển tiền, cung cấp chi tiết giao dịch và trả lời câu hỏi về hoạt động tài khoản.
- Hệ thống hoạt động thông qua quy trình ưu tiên quyền riêng tư: khách hàng tương tác qua ứng dụng, nơi lời nói được phiên âm cục bộ bằng mô hình chuyển đổi giọng nói thành văn bản. Văn bản sau đó được làm sạch và mã hóa bởi hệ thống nội bộ của Wells Fargo, bao gồm mô hình ngôn ngữ nhỏ (SLM) để phát hiện thông tin nhận dạng cá nhân (PII). Chỉ sau đó mới có cuộc gọi đến mô hình Flash 2.0 của Google để trích xuất ý định của người dùng.
- Chintan Mehta, CIO của Wells Fargo, giải thích rằng mô hình chỉ xác định ý định và thực thể dựa trên cụm từ người dùng gửi, như xác định rằng yêu cầu liên quan đến tài khoản tiết kiệm. Tất cả tính toán và giải mã đều thực hiện ở phía ngân hàng.
- Thống kê nội bộ của Wells Fargo cho thấy sự tăng trưởng mạnh mẽ: từ 21,3 triệu tương tác năm 2023 lên hơn 245 triệu năm 2024, với tổng cộng hơn 336 triệu tương tác kể từ khi ra mắt. Việc sử dụng tiếng Tây Ban Nha cũng tăng vọt, chiếm hơn 80% lượng sử dụng kể từ khi triển khai vào tháng 9/2023.
- Wells Fargo đang áp dụng chiến lược "hệ thống phức hợp", nơi các lớp điều phối quyết định sử dụng mô hình nào dựa trên nhiệm vụ. Gemini Flash 2.0 cung cấp năng lượng cho Fargo, nhưng các mô hình nhỏ hơn như Llama được sử dụng nội bộ, và mô hình OpenAI có thể được tận dụng khi cần thiết.
- Ngân hàng này cũng đang tiến tới các hệ thống tự chủ hơn. Mehta mô tả một dự án gần đây để tái bảo lãnh 15 năm tài liệu khoản vay lưu trữ, sử dụng mạng lưới các agent tương tác, một số được xây dựng trên framework nguồn mở như LangGraph.
- Mehta nhấn mạnh rằng thách thức thực sự cho việc áp dụng AI không phải là hiệu suất mô hình hay GPU, mà là năng lượng. "Hạn chế sẽ không phải là chip," ông nói. "Đó sẽ là việc tạo ra và phân phối năng lượng."
Wells Fargo đã xử lý 245,4 triệu tương tác AI trong năm 2024 với kiến trúc bảo mật đặc biệt, không để lộ dữ liệu nhạy cảm. Ngân hàng đang chuyển hướng sang hệ thống đa mô hình, đa đám mây và phát triển các agent tự chủ, nhưng thách thức lớn nhất là nguồn năng lượng.
Wells Fargo’s AI assistant just crossed 245 million interactions – no human handoffs, no sensitive data exposed
Wells Fargo’s generative AI assistant, Fargo, surpassed 245 million interactions in 2024 using a model-agnostic architecture powered by Google’s Flash 2.0. The bank’s privacy-forward orchestration approach offers a blueprint for regulated industries looking to scale AI safely and efficiently.
venturebeat.com
Nguồn: Songai.vn
