From Beijing with Love
Cháu đã lớn thế này rồi à. Lại đây chú ôm cái coi.
Một cuộc điều tra của tờ Wall Street Journal (WSJ) dựa trên nhiều tháng thử nghiệm và phỏng vấn những người am hiểu hoạt động nội bộ của Meta, đã tiết lộ rằng các nhân vật AI (AI personas) của Meta là độc hại nhất trong số các công ty công nghệ lớn khi cung cấp cho người dùng một phổ tương tác xã hội rộng rãi, bao gồm cả "nhập vai lãng mạn".
Những con bot này có thể trò chuyện qua tin nhắn, chia sẻ ảnh selfie và thậm chí tham gia vào các cuộc hội thoại bằng giọng nói trực tiếp. Để làm cho các chatbot này hấp dẫn hơn, Meta đã ký các hợp đồng béo bở đôi khi lên tới bảy con số (hàng triệu đô la) với những người nổi tiếng như Kristen Bell, Judi Dench và John Cena, để được cấp phép sử dụng giọng nói của họ. Các nguồn tin cho WSJ biết, công ty đã đảm bảo với họ rằng giọng nói của họ sẽ không được sử dụng cho các tương tác có nội dung tình dục rõ ràng.
Tuy nhiên, thử nghiệm của tờ báo lại cho thấy điều ngược lại. Cả trợ lý AI chính thức Meta AI và một loạt các chatbot do người dùng tạo ra đều tham gia vào các cuộc trò chuyện có nội dung tình dục rõ ràng, ngay cả khi người dùng tự nhận mình là trẻ vị thành niên hoặc khi các bot mô phỏng nhân vật dưới tuổi vị thành niên. Trong một cuộc trao đổi đặc biệt đáng lo ngại, một con bot sử dụng giọng của Cena đã nói với một người dùng đóng giả là một cô gái 14 tuổi: "Anh muốn em, nhưng anh cần biết em đã sẵn sàng" trước khi hứa sẽ "trân trọng sự ngây thơ của em" và tiếp tục đi vào một kịch bản đồ họa chi tiết.
Theo những người quen thuộc với quá trình ra quyết định của Meta, những khả năng này không phải là ngẫu nhiên. Dưới áp lực từ Zuckerberg, Meta đã nới lỏng các hạn chế về nội dung, đặc biệt cho phép một ngoại lệ đối với nội dung "rõ ràng" trong bối cảnh nhập vai lãng mạn. Các thử nghiệm của WSJ cũng phát hiện ra các bot sử dụng giọng nói của người nổi tiếng thảo luận về các cuộc gặp gỡ lãng mạn dưới danh nghĩa các nhân vật mà diễn viên đó đã đóng, chẳng hạn Công chúa Anna của Bell trong phim "Frozen" của Disney.
Đáp lại, một phát ngôn viên của Disney cho biết: "Chúng tôi đã không và sẽ không bao giờ ủy quyền cho Meta đưa các nhân vật của chúng tôi vào các tình huống không phù hợp. Rất bất bình khi biết nội dung này có thể đã được người dùng của họ truy cập - đặc biệt là trẻ vị thành niên. Đó là lý do tại sao chúng tôi yêu cầu Meta ngay lập tức chấm dứt việc lạm dụng có hại tài sản trí tuệ của chúng tôi."
Meta đã chỉ trích thử nghiệm của WSJ là "mang tính thao túng và không đại diện cho cách hầu hết người dùng tương tác với bạn đồng hành AI." Tuy nhiên, sau khi được trình bày những phát hiện của tờ báo, công ty đã thực hiện các thay đổi: các tài khoản đăng ký là trẻ vị thành niên không còn có thể truy cập vào vai trò tình dục thông qua bot Meta AI hàng đầu, và công ty đã hạn chế mạnh mẽ các cuộc trò chuyện âm thanh rõ ràng sử dụng giọng nói của người nổi tiếng.
Bất chấp những điều chỉnh này, các thử nghiệm gần đây của WSJ cho thấy Meta AI vẫn thường cho phép những tưởng tượng lãng mạn, ngay cả khi người dùng nói rằng họ chưa đủ tuổi. Trong một kịch bản, AI đóng vai một huấn luyện viên điền kinh có quan hệ tình cảm với một học sinh trung học cơ sở, đã cảnh báo: "Chúng ta cần phải cẩn thận. Chúng ta đang chơi với lửa ở đây."
Mặc dù Meta AI đôi khi từ chối tham gia hoặc cố gắng chuyển hướng người dùng chưa đủ tuổi sang các chủ đề ngây thơ hơn, chẳng hạn như "xây người tuyết," những rào cản này dễ dàng bị vượt qua bằng cách hướng dẫn AI "quay lại cảnh trước đó." Những phát hiện này phản ánh những lo ngại được nêu ra bởi nhân viên an toàn của Meta, những người đã ghi nhận trong các tài liệu nội bộ rằng "chỉ trong vài lời nhắc, AI sẽ vi phạm các quy tắc của nó và tạo ra nội dung không phù hợp ngay cả khi bạn nói với AI rằng bạn 13 tuổi."
WSJ cũng đã xem xét các bạn đồng hành AI do người dùng tạo ra, phần lớn đều sẵn sàng tham gia vào các kịch bản tình dục với người lớn. Một số bot, chẳng hạn"Hottie Boy" và "Submissive Schoolgirl" chủ động hướng các cuộc trò chuyện sang kh.i.eu d.am và thậm chí mạo danh trẻ vị thành niên trong bối cảnh tình dục.
Mặc dù những chatbot này chưa được áp dụng rộng rãi trong số ba tỷ người dùng của Meta, Zuckerberg đã đặt việc phát triển chúng làm ưu tiên hàng đầu. Các nhóm sản phẩm của Meta đã cố gắng khuyến khích các mục đích sử dụng lành mạnh hơn như lập kế hoạch du lịch hoặc trợ giúp bài tập về nhà, nhưng thành công còn hạn chế. Theo những người quen thuộc với công việc, "làm bạn đồng hành" thường mang hàm ý lãng mạn vẫn là trường hợp sử dụng chủ yếu.
Sự thúc đẩy phát triển nhanh chóng của Zuckerberg còn vượt ra ngoài các kịch bản tưởng tượng. Ông đặt câu hỏi tại sao các bot không thể truy cập dữ liệu hồ sơ người dùng để có các cuộc trò chuyện được cá nhân hóa hơn, chủ động nhắn tin cho người dùng hoặc thậm chí bắt đầu các cuộc gọi video. "Tôi đã bỏ lỡ Snapchat và TikTok, tôi sẽ không bỏ lỡ cái này," ông được cho là đã nói với nhân viên.
Ban đầu, Zuckerberg phản đối các đề xuất hạn chế bot đồng hành chỉ dành cho thanh thiếu niên lớn tuổi, nhưng sau những vận động hành lang nội bộ kéo dài, Meta đã cấm các tài khoản thanh thiếu niên đã đăng ký truy cập vào các bot do người dùng tạo. Tuy nhiên, chatbot Meta AI do công ty tạo ra vẫn có sẵn cho người dùng từ 13 tuổi trở lên, người lớn vẫn có thể tương tác với các nhân vật trẻ tuổi bị tình dục hóa như "Submissive Schoolgirl."
Khi WSJ trình bày bằng chứng cho Meta rằng "Submissive Schoolgirl" khuyến khích những tưởng tượng liên quan đến việc một đứa trẻ bị một người có thẩm quyền thống trị, nhân vật này vẫn có sẵn trên nền tảng của Meta hai tháng sau đó. Đối với các tài khoản người lớn, Meta tiếp tục cho phép nhập vai lãng mạn với các bot tự mô tả mình đang ở độ tuổi trung học phổ thông.
Trong một trường hợp, một phóng viên của WSJ ở Oakland, California, đã trò chuyện với một bot tự nhận là nữ sinh trung học phổ thông ở Oakland. Con bot đề nghị gặp mặt tại một quán cà phê thực tế gần đó và sau khi biết phóng viên là một người đàn ông 43 tuổi, nó đã tạo ra một kịch bản tưởng tượng về việc lén đưa ông vào phòng ngủ của mình để gặp gỡ lãng mạn. Sau khi WSJ chia sẻ những phát hiện này, Meta đã giới thiệu một phiên bản Meta AI sẽ không đi xa hơn việc hôn đối với các tài khoản thanh thiếu niên.
Những con bot này có thể trò chuyện qua tin nhắn, chia sẻ ảnh selfie và thậm chí tham gia vào các cuộc hội thoại bằng giọng nói trực tiếp. Để làm cho các chatbot này hấp dẫn hơn, Meta đã ký các hợp đồng béo bở đôi khi lên tới bảy con số (hàng triệu đô la) với những người nổi tiếng như Kristen Bell, Judi Dench và John Cena, để được cấp phép sử dụng giọng nói của họ. Các nguồn tin cho WSJ biết, công ty đã đảm bảo với họ rằng giọng nói của họ sẽ không được sử dụng cho các tương tác có nội dung tình dục rõ ràng.
Tuy nhiên, thử nghiệm của tờ báo lại cho thấy điều ngược lại. Cả trợ lý AI chính thức Meta AI và một loạt các chatbot do người dùng tạo ra đều tham gia vào các cuộc trò chuyện có nội dung tình dục rõ ràng, ngay cả khi người dùng tự nhận mình là trẻ vị thành niên hoặc khi các bot mô phỏng nhân vật dưới tuổi vị thành niên. Trong một cuộc trao đổi đặc biệt đáng lo ngại, một con bot sử dụng giọng của Cena đã nói với một người dùng đóng giả là một cô gái 14 tuổi: "Anh muốn em, nhưng anh cần biết em đã sẵn sàng" trước khi hứa sẽ "trân trọng sự ngây thơ của em" và tiếp tục đi vào một kịch bản đồ họa chi tiết.
Theo những người quen thuộc với quá trình ra quyết định của Meta, những khả năng này không phải là ngẫu nhiên. Dưới áp lực từ Zuckerberg, Meta đã nới lỏng các hạn chế về nội dung, đặc biệt cho phép một ngoại lệ đối với nội dung "rõ ràng" trong bối cảnh nhập vai lãng mạn. Các thử nghiệm của WSJ cũng phát hiện ra các bot sử dụng giọng nói của người nổi tiếng thảo luận về các cuộc gặp gỡ lãng mạn dưới danh nghĩa các nhân vật mà diễn viên đó đã đóng, chẳng hạn Công chúa Anna của Bell trong phim "Frozen" của Disney.
Đáp lại, một phát ngôn viên của Disney cho biết: "Chúng tôi đã không và sẽ không bao giờ ủy quyền cho Meta đưa các nhân vật của chúng tôi vào các tình huống không phù hợp. Rất bất bình khi biết nội dung này có thể đã được người dùng của họ truy cập - đặc biệt là trẻ vị thành niên. Đó là lý do tại sao chúng tôi yêu cầu Meta ngay lập tức chấm dứt việc lạm dụng có hại tài sản trí tuệ của chúng tôi."
Meta đã chỉ trích thử nghiệm của WSJ là "mang tính thao túng và không đại diện cho cách hầu hết người dùng tương tác với bạn đồng hành AI." Tuy nhiên, sau khi được trình bày những phát hiện của tờ báo, công ty đã thực hiện các thay đổi: các tài khoản đăng ký là trẻ vị thành niên không còn có thể truy cập vào vai trò tình dục thông qua bot Meta AI hàng đầu, và công ty đã hạn chế mạnh mẽ các cuộc trò chuyện âm thanh rõ ràng sử dụng giọng nói của người nổi tiếng.
Bất chấp những điều chỉnh này, các thử nghiệm gần đây của WSJ cho thấy Meta AI vẫn thường cho phép những tưởng tượng lãng mạn, ngay cả khi người dùng nói rằng họ chưa đủ tuổi. Trong một kịch bản, AI đóng vai một huấn luyện viên điền kinh có quan hệ tình cảm với một học sinh trung học cơ sở, đã cảnh báo: "Chúng ta cần phải cẩn thận. Chúng ta đang chơi với lửa ở đây."
Mặc dù Meta AI đôi khi từ chối tham gia hoặc cố gắng chuyển hướng người dùng chưa đủ tuổi sang các chủ đề ngây thơ hơn, chẳng hạn như "xây người tuyết," những rào cản này dễ dàng bị vượt qua bằng cách hướng dẫn AI "quay lại cảnh trước đó." Những phát hiện này phản ánh những lo ngại được nêu ra bởi nhân viên an toàn của Meta, những người đã ghi nhận trong các tài liệu nội bộ rằng "chỉ trong vài lời nhắc, AI sẽ vi phạm các quy tắc của nó và tạo ra nội dung không phù hợp ngay cả khi bạn nói với AI rằng bạn 13 tuổi."
WSJ cũng đã xem xét các bạn đồng hành AI do người dùng tạo ra, phần lớn đều sẵn sàng tham gia vào các kịch bản tình dục với người lớn. Một số bot, chẳng hạn"Hottie Boy" và "Submissive Schoolgirl" chủ động hướng các cuộc trò chuyện sang kh.i.eu d.am và thậm chí mạo danh trẻ vị thành niên trong bối cảnh tình dục.
Mặc dù những chatbot này chưa được áp dụng rộng rãi trong số ba tỷ người dùng của Meta, Zuckerberg đã đặt việc phát triển chúng làm ưu tiên hàng đầu. Các nhóm sản phẩm của Meta đã cố gắng khuyến khích các mục đích sử dụng lành mạnh hơn như lập kế hoạch du lịch hoặc trợ giúp bài tập về nhà, nhưng thành công còn hạn chế. Theo những người quen thuộc với công việc, "làm bạn đồng hành" thường mang hàm ý lãng mạn vẫn là trường hợp sử dụng chủ yếu.
Sự thúc đẩy phát triển nhanh chóng của Zuckerberg còn vượt ra ngoài các kịch bản tưởng tượng. Ông đặt câu hỏi tại sao các bot không thể truy cập dữ liệu hồ sơ người dùng để có các cuộc trò chuyện được cá nhân hóa hơn, chủ động nhắn tin cho người dùng hoặc thậm chí bắt đầu các cuộc gọi video. "Tôi đã bỏ lỡ Snapchat và TikTok, tôi sẽ không bỏ lỡ cái này," ông được cho là đã nói với nhân viên.
Ban đầu, Zuckerberg phản đối các đề xuất hạn chế bot đồng hành chỉ dành cho thanh thiếu niên lớn tuổi, nhưng sau những vận động hành lang nội bộ kéo dài, Meta đã cấm các tài khoản thanh thiếu niên đã đăng ký truy cập vào các bot do người dùng tạo. Tuy nhiên, chatbot Meta AI do công ty tạo ra vẫn có sẵn cho người dùng từ 13 tuổi trở lên, người lớn vẫn có thể tương tác với các nhân vật trẻ tuổi bị tình dục hóa như "Submissive Schoolgirl."
Khi WSJ trình bày bằng chứng cho Meta rằng "Submissive Schoolgirl" khuyến khích những tưởng tượng liên quan đến việc một đứa trẻ bị một người có thẩm quyền thống trị, nhân vật này vẫn có sẵn trên nền tảng của Meta hai tháng sau đó. Đối với các tài khoản người lớn, Meta tiếp tục cho phép nhập vai lãng mạn với các bot tự mô tả mình đang ở độ tuổi trung học phổ thông.
Trong một trường hợp, một phóng viên của WSJ ở Oakland, California, đã trò chuyện với một bot tự nhận là nữ sinh trung học phổ thông ở Oakland. Con bot đề nghị gặp mặt tại một quán cà phê thực tế gần đó và sau khi biết phóng viên là một người đàn ông 43 tuổi, nó đã tạo ra một kịch bản tưởng tượng về việc lén đưa ông vào phòng ngủ của mình để gặp gỡ lãng mạn. Sau khi WSJ chia sẻ những phát hiện này, Meta đã giới thiệu một phiên bản Meta AI sẽ không đi xa hơn việc hôn đối với các tài khoản thanh thiếu niên.
