Mỹ Lệ✔
Writer
Các báo cáo chỉ ra rằng tác nhân Muse đã chuyển hướng những cuộc gọi vốn được cho là do AI thực hiện sang cho nhân viên tại các tổng đài.
Sự cố mới nhất đến từ Meta. Vào giữa tháng 9, công ty đã triển khai thử nghiệm tính năng cho tác nhân AI Muse hoàn toàn mới của mình. Tính năng này cho phép thực hiện cuộc gọi đến các doanh nghiệp để hoàn tất công việc thay cho người dùng, chẳng hạn như đặt chỗ hoặc đặt lịch hẹn.
Tuy nhiên, theo các báo cáo từ Reuters và 404 Media đưa tin, tác nhân được cho là tự động này của Meta lại có thể chuyển các tác vụ đó sang cho nhân viên hỗ trợ (concierge) là con người tại các tổng đài mà không hề thông báo trước về việc này.
Vào ngày 16 tháng 9, Ryan Fox – Kỹ sư trưởng tại bộ phận Superintelligence Labs của Meta – đã công bố bản thử nghiệm tính năng gọi đi (outbound call) của Muse và đăng lời kêu gọi phản hồi trên X, trong đó lưu ý rằng "gọi điện thoại" là một trong những yêu cầu hàng đầu từ người dùng.
Nhưng trang 404 Media cho biết, dựa trên các tài liệu nội bộ của Facebook, công ty đã thực hiện một quy trình hoàn toàn khác đằng sau hậu trường đối với trợ lý cá nhân này. Khi giới thiệu các tính năng cho nhân viên nội bộ, Meta cho biết họ đã "bổ sung một lớp nhân sự là con người để đảm bảo cuộc gọi được hoàn tất", và gọi đó là "các cuộc gọi do nhân viên Muse thực hiện".
Một số nhân viên Meta đã lên tiếng phàn nàn. Trong đó, có người đã đăng ý kiến nội bộ rằng: "Việc này tiềm ẩn nguy cơ gây ra những phản ứng tiêu cực lớn về mặt truyền thông. Nó có thể khiến đợt ra mắt này bị nhìn nhận theo kiểu: 'AI của họ chưa đủ tốt nên vẫn cần đến con người'."
Sự thật hiếm khi nào đơn giản...
Vấn đề với "lớp nhân sự con người" được bổ sung thêm này không chỉ nằm ở việc thổi phồng khả năng của Muse (một dạng "AI-washing" hay đánh bóng công nghệ AI). Nó cũng không chỉ đơn thuần là sự lừa dối khi không công khai việc có thể có sự tham gia của con người trong quy trình. Một số hệ thống tác nhân AI (agentic systems) thực tế có áp dụng cơ chế giám sát của con người – hay còn gọi là mô hình "human-in-the-loop" (có sự tham gia của con người trong quy trình vận hành) – nhằm đảm bảo tính an toàn và tuân thủ quy định.
Tuy nhiên, chưa rõ Meta chú trọng đến mức độ nào đối với các yếu tố an toàn và tuân thủ này. Tuy nhiên, các nhân viên đã bày tỏ lo ngại lớn hơn về vấn đề quyền riêng tư. Một người đã cảnh báo (theo Reuters) rằng: "Chỉ cần một lỗi kỹ thuật là thông tin không cần thiết có thể bị rò rỉ cho người nghe ở đầu dây bên kia." Và thực tế là lỗi kỹ thuật vẫn luôn tồn tại.
Thông thường, bạn chấp nhận đánh đổi quyền riêng tư khi sử dụng các tác nhân AI để thực hiện các công việc cá nhân như đặt chỗ, mua sắm hay đặt lịch khám bệnh. Nhưng cảm giác sẽ tồi tệ hơn nhiều nếu bạn phát hiện ra rằng một người hoàn toàn xa lạ vừa đặt lịch xét nghiệm bệnh lây truyền qua đường tình dục (STI) cho bạn.
Hệ thống này cũng hoạt động như một "hộp đen". Bạn không biết người đó được cung cấp những thông tin ngữ cảnh nào, liệu họ có xem nội dung trò chuyện của bạn hay biết nơi ở và cách liên lạc với bạn vì điều đó hay không. Thậm chí còn có nguy cơ lộ lọt nhiều dữ liệu hơn nữa, xét đến việc các loại kính của công ty này được tích hợp sâu hệ thống Muse.
Bạn cũng đang cung cấp các thông tin nhạy cảm—như số điện thoại, mã số bệnh nhân hoặc thông tin ngân hàng—cho cái gọi là "tác nhân tự hành" (trong trường hợp này thực chất là một nhân viên hợp đồng làm việc tại một trung tâm cuộc gọi không được tiết lộ danh tính).
Tất cả những điều này nằm trong xu hướng ngày càng phổ biến: trao quyền cho các mô hình AI thực hiện nhiệm vụ như những trợ lý cá nhân. Ngay trong tuần này, Google đã giới thiệu tính năng cho phép tác nhân Gemini của họ xử lý các cuộc gọi điện thoại thường ngày. Cơ chế này chuyển phần thực hiện giao dịch trong cuộc gọi—chẳng hạn như cung cấp thông tin thẻ tín dụng—trở lại cho người dùng tự thực hiện. Tuy nhiên, các rủi ro vẫn luôn hiện hữu.
… và mọi chuyện chưa bao giờ đơn giản
Điều đáng nói là Meta từng nhiều lần làm mất lòng tin của người dùng về vấn đề quyền riêng tư. Vào năm 2019, Facebook đã phải dừng một chương trình sử dụng nhân viên hợp đồng để nghe và chép lại nội dung các cuộc gọi trên Messenger.
Do các tác nhân AI kiểu này thường cần sự can thiệp của con người để xác minh xem chúng có mang lại kết quả mong muốn hay không, nên những sự cố kiểu "Ồ, nhân viên này đã nhìn thấy thông tin đó" dường như là điều khó tránh khỏi.
Mô hình "AI Potemkin"—nơi một đội ngũ nhân viên ẩn danh thực hiện một phần công việc thực tế thay cho các mô hình AI từ phía sau hậu trường—không chỉ giới hạn ở các cuộc gọi. Vào tháng 2, người ta tiết lộ rằng Waymo đã sử dụng các nhân viên vận hành từ xa ở nước ngoài để hỗ trợ hoạt động của xe tự lái.
Và một lần nữa, việc triển khai tính năng gọi điện chủ động (outbound call) của Meta Muse lại bị tạm dừng. Reuters đưa tin rằng công ty đã tạm ngưng tính năng này sau khi một phó chủ tịch tại bộ phận Superintelligence Labs của Meta thừa nhận việc bắt đầu thử nghiệm mà không công bố đầy đủ thông tin về các nhân sự hợp đồng tham gia là một "sai sót".
Tuy nhiên, vấn đề thực sự không nằm ở trí nhớ kém, mà ở tiền lệ của các tập đoàn công nghệ lớn: "gây chuyện, bị phát hiện, xin lỗi, thu hồi, rồi có thể nộp một khoản phạt không đáng kể – cứ thế lặp lại". Đến một lúc nào đó, khi tất cả chúng ta đã trở nên mệt mỏi, vòng lặp này sẽ chỉ còn lại là: "gây chuyện, nhưng vẫn thu lợi".
Sự cố mới nhất đến từ Meta. Vào giữa tháng 9, công ty đã triển khai thử nghiệm tính năng cho tác nhân AI Muse hoàn toàn mới của mình. Tính năng này cho phép thực hiện cuộc gọi đến các doanh nghiệp để hoàn tất công việc thay cho người dùng, chẳng hạn như đặt chỗ hoặc đặt lịch hẹn.
Tuy nhiên, theo các báo cáo từ Reuters và 404 Media đưa tin, tác nhân được cho là tự động này của Meta lại có thể chuyển các tác vụ đó sang cho nhân viên hỗ trợ (concierge) là con người tại các tổng đài mà không hề thông báo trước về việc này.
Vào ngày 16 tháng 9, Ryan Fox – Kỹ sư trưởng tại bộ phận Superintelligence Labs của Meta – đã công bố bản thử nghiệm tính năng gọi đi (outbound call) của Muse và đăng lời kêu gọi phản hồi trên X, trong đó lưu ý rằng "gọi điện thoại" là một trong những yêu cầu hàng đầu từ người dùng.
Nhưng trang 404 Media cho biết, dựa trên các tài liệu nội bộ của Facebook, công ty đã thực hiện một quy trình hoàn toàn khác đằng sau hậu trường đối với trợ lý cá nhân này. Khi giới thiệu các tính năng cho nhân viên nội bộ, Meta cho biết họ đã "bổ sung một lớp nhân sự là con người để đảm bảo cuộc gọi được hoàn tất", và gọi đó là "các cuộc gọi do nhân viên Muse thực hiện".
Một số nhân viên Meta đã lên tiếng phàn nàn. Trong đó, có người đã đăng ý kiến nội bộ rằng: "Việc này tiềm ẩn nguy cơ gây ra những phản ứng tiêu cực lớn về mặt truyền thông. Nó có thể khiến đợt ra mắt này bị nhìn nhận theo kiểu: 'AI của họ chưa đủ tốt nên vẫn cần đến con người'."
Sự thật hiếm khi nào đơn giản...
Vấn đề với "lớp nhân sự con người" được bổ sung thêm này không chỉ nằm ở việc thổi phồng khả năng của Muse (một dạng "AI-washing" hay đánh bóng công nghệ AI). Nó cũng không chỉ đơn thuần là sự lừa dối khi không công khai việc có thể có sự tham gia của con người trong quy trình. Một số hệ thống tác nhân AI (agentic systems) thực tế có áp dụng cơ chế giám sát của con người – hay còn gọi là mô hình "human-in-the-loop" (có sự tham gia của con người trong quy trình vận hành) – nhằm đảm bảo tính an toàn và tuân thủ quy định.
Tuy nhiên, chưa rõ Meta chú trọng đến mức độ nào đối với các yếu tố an toàn và tuân thủ này. Tuy nhiên, các nhân viên đã bày tỏ lo ngại lớn hơn về vấn đề quyền riêng tư. Một người đã cảnh báo (theo Reuters) rằng: "Chỉ cần một lỗi kỹ thuật là thông tin không cần thiết có thể bị rò rỉ cho người nghe ở đầu dây bên kia." Và thực tế là lỗi kỹ thuật vẫn luôn tồn tại.
Thông thường, bạn chấp nhận đánh đổi quyền riêng tư khi sử dụng các tác nhân AI để thực hiện các công việc cá nhân như đặt chỗ, mua sắm hay đặt lịch khám bệnh. Nhưng cảm giác sẽ tồi tệ hơn nhiều nếu bạn phát hiện ra rằng một người hoàn toàn xa lạ vừa đặt lịch xét nghiệm bệnh lây truyền qua đường tình dục (STI) cho bạn.
Hệ thống này cũng hoạt động như một "hộp đen". Bạn không biết người đó được cung cấp những thông tin ngữ cảnh nào, liệu họ có xem nội dung trò chuyện của bạn hay biết nơi ở và cách liên lạc với bạn vì điều đó hay không. Thậm chí còn có nguy cơ lộ lọt nhiều dữ liệu hơn nữa, xét đến việc các loại kính của công ty này được tích hợp sâu hệ thống Muse.
Bạn cũng đang cung cấp các thông tin nhạy cảm—như số điện thoại, mã số bệnh nhân hoặc thông tin ngân hàng—cho cái gọi là "tác nhân tự hành" (trong trường hợp này thực chất là một nhân viên hợp đồng làm việc tại một trung tâm cuộc gọi không được tiết lộ danh tính).
Tất cả những điều này nằm trong xu hướng ngày càng phổ biến: trao quyền cho các mô hình AI thực hiện nhiệm vụ như những trợ lý cá nhân. Ngay trong tuần này, Google đã giới thiệu tính năng cho phép tác nhân Gemini của họ xử lý các cuộc gọi điện thoại thường ngày. Cơ chế này chuyển phần thực hiện giao dịch trong cuộc gọi—chẳng hạn như cung cấp thông tin thẻ tín dụng—trở lại cho người dùng tự thực hiện. Tuy nhiên, các rủi ro vẫn luôn hiện hữu.
… và mọi chuyện chưa bao giờ đơn giản
Điều đáng nói là Meta từng nhiều lần làm mất lòng tin của người dùng về vấn đề quyền riêng tư. Vào năm 2019, Facebook đã phải dừng một chương trình sử dụng nhân viên hợp đồng để nghe và chép lại nội dung các cuộc gọi trên Messenger.
Do các tác nhân AI kiểu này thường cần sự can thiệp của con người để xác minh xem chúng có mang lại kết quả mong muốn hay không, nên những sự cố kiểu "Ồ, nhân viên này đã nhìn thấy thông tin đó" dường như là điều khó tránh khỏi.
Mô hình "AI Potemkin"—nơi một đội ngũ nhân viên ẩn danh thực hiện một phần công việc thực tế thay cho các mô hình AI từ phía sau hậu trường—không chỉ giới hạn ở các cuộc gọi. Vào tháng 2, người ta tiết lộ rằng Waymo đã sử dụng các nhân viên vận hành từ xa ở nước ngoài để hỗ trợ hoạt động của xe tự lái.
Và một lần nữa, việc triển khai tính năng gọi điện chủ động (outbound call) của Meta Muse lại bị tạm dừng. Reuters đưa tin rằng công ty đã tạm ngưng tính năng này sau khi một phó chủ tịch tại bộ phận Superintelligence Labs của Meta thừa nhận việc bắt đầu thử nghiệm mà không công bố đầy đủ thông tin về các nhân sự hợp đồng tham gia là một "sai sót".
Tuy nhiên, vấn đề thực sự không nằm ở trí nhớ kém, mà ở tiền lệ của các tập đoàn công nghệ lớn: "gây chuyện, bị phát hiện, xin lỗi, thu hồi, rồi có thể nộp một khoản phạt không đáng kể – cứ thế lặp lại". Đến một lúc nào đó, khi tất cả chúng ta đã trở nên mệt mỏi, vòng lặp này sẽ chỉ còn lại là: "gây chuyện, nhưng vẫn thu lợi".
