VNR Content
Pearl
Các nhân viên của Google được cho là đã nhiều lần chỉ trích chatbot Bard khi nhắn tin nội bộ, chê sản phẩm "tệ hơn cả vô dụng" và thậm chí cầu xin công ty đừng tung ra nó.
Báo cáo từ Bloomberg trích dẫn cuộc thảo luận của 18 nhân viên đã hoặc đang làm việc tại Google, cũng như ảnh chụp màn hình một số đoạn tin nhắn trao đổi nội bộ. Trong đó, một người nhấn mạnh rằng Bard - chatbot cạnh tranh ChatGPT của Google - thường đưa ra lời khuyên nguy hiểm cho người dùng, từ các chủ để đơn giản như lặn biển đến phức tạp như cách hạ cánh máy bay.
"Bard còn tệ hơn cả vô dụng", một người khác nói.
Công ty thậm chí đã "bỏ qua đánh giá rủi ro" do nhóm an toàn nội bộ đệ trình nói hệ thống chưa sẵn sàng để sử dụng rộng rãi. Trước sức ép từ ChatGPT và Bing AI, Google đã bắt đầu mở quyền truy cập sớm vào hệ thống chatbot thử nghiệm vào tháng 3.
Cuối năm 2020 và đầu năm 2021, công ty sa thải liên tiếp hai nhà nghiên cứu Timnit Gebru và Margaret Mitchell sau khi họ xuất bản nghiên cứu các lỗ hổng trong hệ thống ngôn ngữ AI làm nền tảng cho những chatbot như Bard. Với việc các hệ thống này đe dọa mô hình kinh doanh tìm kiếm, Google còn bị cho là bỏ qua các vấn đề về an toàn để tập trung vào kinh doanh.
Trước đó, theo Business Insider, Google không có thời gian và nhân lực để đánh giá và cải thiện chất lượng những phản hồi mà Bard đưa ra nên đã giao nhiệm vụ cho các đối tác thực hiện. Theo bốn nguồn tin từ nhà thầu của Google cũng như tài liệu nội bộ, việc thử nghiệm Bard diễn ra vội vã do họ không có đủ thời gian để xác minh câu trả lời đúng từ chatbot AI.
Thực tế, tạo ra những văn bản độc hại hay cung cấp thông tin sai lệch nhưng nó cũng giống như vô số nguồn tin khác trên internet hiện nay. ChatGPT hay Bing AI cũng gặp vấn đề như Bard, nhưng điểm khác biệt là Google hiện đang dẫn đầu trong lĩnh vực tìm kiếm, với quá nhiều thứ để mất.
Google vội vã ra mắt Bard vào ngày 6/2, nhưng ngay khi vừa trình làng, chatbot này đã trả lời sai câu hỏi về kiến thức, thổi bay 100 tỷ USD giá trị vốn hóa của công ty. Trước khi giới thiệu Bard, Google cũng được cho là đã yêu cầu nhân viên toàn thời gian dành từ hai đến bốn giờ để trò chuyện với bot mới. Họ sẽ đặt câu hỏi, gắn cờ các câu trả lời không đáp ứng các tiêu chuẩn về độ chính xác và các yếu tố khác.
Báo cáo từ Bloomberg trích dẫn cuộc thảo luận của 18 nhân viên đã hoặc đang làm việc tại Google, cũng như ảnh chụp màn hình một số đoạn tin nhắn trao đổi nội bộ. Trong đó, một người nhấn mạnh rằng Bard - chatbot cạnh tranh ChatGPT của Google - thường đưa ra lời khuyên nguy hiểm cho người dùng, từ các chủ để đơn giản như lặn biển đến phức tạp như cách hạ cánh máy bay.
Công ty thậm chí đã "bỏ qua đánh giá rủi ro" do nhóm an toàn nội bộ đệ trình nói hệ thống chưa sẵn sàng để sử dụng rộng rãi. Trước sức ép từ ChatGPT và Bing AI, Google đã bắt đầu mở quyền truy cập sớm vào hệ thống chatbot thử nghiệm vào tháng 3.
Cuối năm 2020 và đầu năm 2021, công ty sa thải liên tiếp hai nhà nghiên cứu Timnit Gebru và Margaret Mitchell sau khi họ xuất bản nghiên cứu các lỗ hổng trong hệ thống ngôn ngữ AI làm nền tảng cho những chatbot như Bard. Với việc các hệ thống này đe dọa mô hình kinh doanh tìm kiếm, Google còn bị cho là bỏ qua các vấn đề về an toàn để tập trung vào kinh doanh.
Trước đó, theo Business Insider, Google không có thời gian và nhân lực để đánh giá và cải thiện chất lượng những phản hồi mà Bard đưa ra nên đã giao nhiệm vụ cho các đối tác thực hiện. Theo bốn nguồn tin từ nhà thầu của Google cũng như tài liệu nội bộ, việc thử nghiệm Bard diễn ra vội vã do họ không có đủ thời gian để xác minh câu trả lời đúng từ chatbot AI.
Thực tế, tạo ra những văn bản độc hại hay cung cấp thông tin sai lệch nhưng nó cũng giống như vô số nguồn tin khác trên internet hiện nay. ChatGPT hay Bing AI cũng gặp vấn đề như Bard, nhưng điểm khác biệt là Google hiện đang dẫn đầu trong lĩnh vực tìm kiếm, với quá nhiều thứ để mất.
Google vội vã ra mắt Bard vào ngày 6/2, nhưng ngay khi vừa trình làng, chatbot này đã trả lời sai câu hỏi về kiến thức, thổi bay 100 tỷ USD giá trị vốn hóa của công ty. Trước khi giới thiệu Bard, Google cũng được cho là đã yêu cầu nhân viên toàn thời gian dành từ hai đến bốn giờ để trò chuyện với bot mới. Họ sẽ đặt câu hỏi, gắn cờ các câu trả lời không đáp ứng các tiêu chuẩn về độ chính xác và các yếu tố khác.
