Thoại Viết Hoàng
Writer
Chatbot của những người có ảnh hưởng lớn như Amouranth và Caryn Marjorie cho phép người hâm mộ trả tiền theo phút cho các tương tác ảo.
Twitter tràn ngập những "người đàn ông mọt sách" trả cho Elon Musk một khoản phí hàng tháng để khuếch đại “mẹo hàng đầu” và “thủ thuật thú vị” của họ cho các công cụ AI khác nhau – một thế hệ người có ảnh hưởng mới đang tìm cách tận dụng tiếng vang về công nghệ mới nổi và ủng hộ mặt tốt của nó trong thời gian cho điểm kỳ dị. (Nghĩ lại thì, có lẽ đó không phải là một ý tưởng tồi.) Hầu hết, các bài đăng của họ chỉ lặp lại danh sách lời khuyên trước đó về cách tối đa hóa quy trình làm việc và tăng gấp 10 lần năng suất của bạn - lời khuyên dành cho những người đam mê máy tính, bởi những người đam mê máy tính. Tuy nhiên, có một bài đăng bluecheck cứ xuất hiện lặp đi lặp lại, quảng cáo về một cách sử dụng khác cho AI: gợi lên những nhân vật nổi tiếng, dù còn sống hay đã chết, và buộc họ phải trả lời những câu hỏi ngớ ngẩn của bạn.
Với AI, bạn có thể khiến Albert Einstein nói chuyện với Aristotle! Bạn có thể hỏi ý kiến của Shakespeare trên mạng xã hội! Bạn có thể nghe Kurt Cobain trên podcast của Joe Rogan! Bạn có thể ... thành thật mà nói, ai quan tâm chứ? Rõ ràng, không ai trong số “những người” này là có thật; họ không thể có ý tưởng ban đầu và phần lớn các chatbot AI thậm chí không giỏi bắt chước các mẫu giọng nói của họ. Ngay cả Jarren Rocks, người tạo ra một ứng dụng được đề xuất có tên là Seance AI, nhằm mục đích “hồi sinh” các thành viên gia đình đã khuất để có cuộc trò chuyện cuối cùng với những người thân yêu của họ, cũng thừa nhận rằng đánh thức người chết bằng AI không thực sự hiệu quả. Nói với Futurism về ứng dụng này vào tháng trước, anh ấy nói: “Đối với những cuộc trò chuyện ngắn, tôi nghĩ nó mang lại cảm giác rất con người. Tôi nghĩ rằng nó sẽ sụp đổ một chút [khi bạn] bắt đầu nhận ra sự lặp lại. Giống như tất cả AI hiện tại (theo những gì chúng tôi biết): “Nó đang tuân theo một khuôn mẫu, nó không thực sự biết chính xác điều gì đang xảy ra.”
Tuy nhiên, còn những chatbot AI không dựa trên xác chết thì sao? Còn những ứng dụng dựa trên con người thực, đang sống - những con người có thể có thông tin đầu vào về cách ứng dụng được tạo ra và cách ứng dụng được sử dụng thì sao? Theo nhiều cách, đây là một câu chuyện hoàn toàn khác.
Tháng trước, người có ảnh hưởng Snapchat Caryn Marjorie – người có hơn 2 triệu người theo dõi trên ứng dụng – đã chính thức ra mắt một chatbot hỗ trợ AI dựa trên tính cách của chính cô ấy. Tự nhận mình là “người có ảnh hưởng đầu tiên được chuyển đổi thành AI”, cô ấy nói rằng chatbot là một cách để kết nối với tất cả những người đăng ký của cô ấy ở cấp độ cá nhân và cuối cùng là “chữa khỏi sự cô đơn”. Cô giải thích, một phần của tham vọng cao cả này là làm việc với “các nhà tâm lý học hàng đầu thế giới” để thêm các yếu tố của liệu pháp hành vi nhận thức và liệu pháp hành vi biện chứng vào các cuộc trò chuyện, đặc biệt khuyến khích đàn ông cởi mở về sức khỏe tâm thần của họ.
Bản thân chatbot được phát triển bởi công ty AI Forever Voices, hứa hẹn cho phép bạn tham gia vào cuộc đối thoại với “những người nổi tiếng, người sáng tạo và người có ảnh hưởng tiêu biểu nhất trong thời đại chúng ta”. Trong trường hợp của Marjorie, điều này liên quan đến việc đào tạo GPT-4 về nội dung từ kênh YouTube hiện được lưu trữ của cô ấy. Trên trang web CarynAI, công ty mô tả chatbot là “bạn gái ảo”, đồng thời bổ sung: “Caryn có thời gian không giới hạn dành cho bạn. Dù là đêm khuya hay đầu ngày mới, Caryn sẽ ở bên cạnh bạn.” Tất cả chỉ với $1 mỗi phút.
Với nhãn hiệu “bạn gái ảo” và nhấn mạnh vào các cuộc trò chuyện đêm khuya, bạn có thể ngạc nhiên khi biết rằng, ngay sau khi phát hành, Marjorie đã thông báo rằng cô ấy và nhóm của mình đang “làm việc suốt ngày đêm” để ngăn chatbot tạo ra nội dung khiêu ***. . Mặc dù nó được cho là “tán tỉnh và vui vẻ”, nhưng cô ấy nói với Insider, những cuộc trò chuyện khiêu *** được cho là vượt quá giới hạn: “AI không được lập trình để làm điều này và dường như đã trở nên lừa đảo.”
Tuy nhiên, không hề nản lòng trước các vấn đề này, Forever Voices đã bổ sung thêm một người có ảnh hưởng khác, thậm chí còn đáng chú ý hơn vào danh sách ảo của mình, người có tên là Amouranth. Trong trường hợp bạn chưa biết, Amouranth là một trong những phụ nữ phát trực tuyến nổi tiếng nhất trên Twitch, thường xuyên lọt vào danh sách top 20 do nam giới thống trị. Nổi tiếng với ASMR phát trực tiếp, cô ấy cũng được báo cáo là đã kiếm được hàng chục triệu thông qua OnlyFans và – không giống như CarynAI – các tình huống khiêu *** dường như là trọng tâm chính trong chatbot của cô ấy. “Tôi phát triển mạnh nhờ chấp nhận rủi ro và vượt qua các ranh giới,” Amouranth nói trong thông báo của mình. “Trên tất cả, tôi ưu tiên có mặt ở đó vì những khán giả tuyệt vời của mình. AI Amouranth được thiết kế để đáp ứng nhu cầu của mọi người hâm mộ, đảm bảo mang đến trải nghiệm khó quên và toàn diện.”
“Được thiết kế để đáp ứng nhu cầu của mọi người hâm mộ” chỉ là một trong số ít cụm từ rùng rợn liên quan đến các dự án AI của Forever Voices. Trong một cuộc phỏng vấn ngày 19 tháng 5 với Bloomberg Technology, Giám đốc điều hành John Meyer cũng tuyên bố rằng mục đích cuối cùng của công ty là “dân chủ hóa quyền truy cập” vào quyền truy cập của một người có ảnh hưởng, đề xuất bãi bỏ hoàn toàn quyền riêng tư cá nhân. Tất nhiên, một lần nữa, đây hoàn toàn là một câu chuyện giả tưởng – người hâm mộ không thực sự nói chuyện với Amouranth hay Caryn Marjorie. Tuy nhiên, liệu ảo tưởng về sự thân mật có thể có một số hiệu ứng dây chuyền không?
Trước tiên, chúng ta cần xem xét mối quan hệ “ký sinh xã hội” mà Amouranth, Caryn hoặc bất kỳ người có ảnh hưởng nào khác chia sẻ với vô số người hâm mộ của họ. Tiến sĩ David Giles, chuyên gia về tâm lý học truyền thông tại Đại học Winchester, giải thích: “Mối quan hệ cận xã hội đơn giản là mối quan hệ chỉ tồn tại cho một người – nó không (hoặc hầu như không) được người kia đáp lại. “Thông thường đây là giữa các nhân vật truyền thông và các thành viên của khán giả. Người sử dụng phương tiện biết rõ nhân vật truyền thông, nhưng nhân vật đó không tồn tại đối với họ (ngoài tư cách là một phần của ‘khán giả’ đồng nhất).”
Ở một mức độ nào đó, mạng xã hội đã làm phức tạp định nghĩa này, vì khán giả có nhiều quyền truy cập hơn vào các nhân vật truyền thông và có thể phản hồi lại họ bằng cách để lại nhận xét trên Instagram hoặc nhập vào cuộc trò chuyện trên Twitch. “Tôi luôn lập luận rằng chúng ta nên hiểu các mối quan hệ tồn tại trên một phạm vi, trong đó ‘xã hội’ và ‘ký sinh trùng xã hội’ là điểm cuối,” Giles nói thêm. “Vì vậy, một mối quan hệ có thể là 'một phần xã hội' - giống như nhiều mối quan hệ với các vlogger, người có ảnh hưởng, v.v. Hoàn toàn là một mối quan hệ giống như mối quan hệ với một nhân vật hư cấu (người chưa từng tồn tại) hoặc một người đã chết (như Elvis).
Những động lực “một phần mang tính xã hội” này đang gây tranh cãi. Mặc dù chúng có liên quan đến việc giúp mọi người hình thành và phát triển bản sắc riêng của họ, nhưng chúng cũng đã được chứng minh là thúc đẩy những đặc điểm tiêu cực như chủ nghĩa vật chất và “những cuộc chia tay cận xã hội” có thể gây ra tổn thương tinh thần lâu dài. Trong một số trường hợp, ảo tưởng về sự thân mật hoặc nhận dạng quá mức cũng có thể gây nguy hiểm cho người có ảnh hưởng, khuyến khích người hâm mộ phá vỡ ranh giới cá nhân.
Giles có thể hiểu tại sao Amouranth tung ra một chatbot: “Có lẽ cô ấy nghĩ rằng nó sẽ làm hài lòng một số người hâm mộ khó chịu hơn khi can thiệp vào cô ấy.” (Tất nhiên, nó cũng bổ sung thêm một nguồn doanh thu khác cho đế chế truyền thông của người có ảnh hưởng. Như chính Caryn đã nói: “Số tiền rất lớn, không thể phủ nhận điều đó.”) Tuy nhiên, về lâu dài, anh ấy nghi ngờ rằng các chatbot do AI cung cấp “ có thể chỉ khiến mọi thứ trở nên tồi tệ hơn” đối với những người có ảnh hưởng, giải thích: “Có khả năng đó có thể được coi là hành vi tán tỉnh... ham muốn được nuôi dưỡng.”
Có phải anh ấy đang nói rằng các mối quan hệ cận xã hội của người hâm mộ phát triển mạnh mẽ hơn thông qua sự tán tỉnh ảo này, khiến họ thậm chí có nhiều khả năng lần ra con người thật mà các bot dựa vào và can thiệp vào cuộc sống của họ? Đúng vậy, Giles nói – đó là một “rủi ro thực sự” – nhưng chỉ vì các chatbot AI thiếu một mức độ thiết yếu của con người. “[Mọi người] sẽ không bị bot lừa dối lâu nếu nó chỉ đơn giản là một đại diện ảo của con người sống mà họ quan tâm ngay từ đầu.”
Rủi ro được khuếch đại, như Caryn cảnh báo trong một video được đăng lên Twitter sau khi chatbot của cô ấy ra mắt, do “thiếu hệ thống, quy định, quy tắc và đạo đức” xung quanh công nghệ mới. “Hãy cực kỳ thận trọng với những công ty mà bạn chọn làm việc,” cô ấy nói với những người có ảnh hưởng khác đang muốn biến mình thành chatbot. “Bởi vì họ sẽ sở hữu giọng nói, tính cách và danh tính của bạn... Hãy nhớ rằng khi nói đến AI, bạn đang chơi với lửa.”
Giles cho biết, một giải pháp tiềm năng cho vấn đề đạo đức sơ sài của “bạn gái ảo” có thể là tránh xa những nhân vật sống, thực và quảng cáo các chatbot thực tế dựa trên các nhân vật hư cấu hoặc những người nổi tiếng đã chết như Marilyn Monroe (mặc dù điều đó đi kèm với “sự thú vị” của riêng nó. Vấn đề đạo đức"). Tuy nhiên, cuối cùng thì anh ấy không nghĩ rằng những tuyên bố mang tính cách mạng của các công ty chatbot AI như Forever Voices có quá nhiều trọng lượng. Ông lưu ý, các nền tảng truyền thông xã hội đã dân chủ hóa quyền tiếp cận những người có ảnh hưởng và trí tưởng tượng của con người đủ để duy trì ngay cả hành vi ký sinh xã hội lộn xộn nhất của chúng ta. Anh ấy nói: “Tôi có thể bịa ra bất kỳ tưởng tượng tình dục tồi tệ nào mà tôi thích liên quan đến một người có ảnh hưởng. “Tôi không cần một bot để làm điều đó cho tôi!”
OK... vậy phải chăng Giles đang nói rằng “bạn gái ảo” do AI hỗ trợ - và cách họ bị lợi dụng để xuất ra nội dung khiêu *** - chỉ là phần mở rộng của thái độ và quyền lợi phi nhân cách mà nhiều người hâm mộ đã cảm thấy đối với những người có ảnh hưởng mà họ theo dõi? Chà, anh ấy không nghĩ rằng nó bắt đầu mất nhân tính. Ông nói: “Bất kỳ ai có thể tiếp cận hình ảnh trực quan của người khác đều có quyền tưởng tượng xem họ thích họ như thế nào. Đi xa hơn, anh ấy nói thêm: “Tôi không hiểu quan điểm của bạn gái ảo nếu nội dung không rõ ràng. Ai trên trái đất đã vẽ ra những hướng dẫn đó? Họ muốn người dùng làm cái quái gì với bot vậy?”
Điều này đặt ra câu hỏi về mối quan hệ giữa người hâm mộ và những người có ảnh hưởng trực tuyến (đặc biệt là phụ nữ - lưu ý rằng các công ty AI không đổ tài nguyên vào “bạn trai ảo” dựa trên tính cách nam giới trên internet). Chúng ta có thực sự nên mong đợi người hâm mộ lôi kéo những người có ảnh hưởng mô phỏng vào các tình huống tình dục ngay khi có cơ hội đầu tiên, ngay cả khi những người thực sự đứng sau họ đã cấm rõ ràng điều đó? Và ngay cả khi người hâm mộ được "có quyền" về mặt kỹ thuật đối với họ, liệu những tưởng tượng của họ về phụ nữ thực sự có được các công ty công nghệ thỏa mãn vì lợi nhuận?
Những câu hỏi này sẽ chỉ phát triển về quy mô và phạm vi. Giles nói: “Bạn tự hỏi có bao nhiêu mối quan hệ cận xã hội có thể có ý nghĩa đối với một người. “Có điểm bão hòa không? Có vẻ như không phải như vậy cho đến nay – chúng ta càng có nhiều phương tiện truyền thông, càng có nhiều người nổi tiếng, càng có nhiều người hâm mộ, càng có nhiều kẻ ghét bỏ, càng có nhiều PSR.” Kết hợp với sự phân mảnh của phương tiện truyền thông thành các cộng đồng thân thiết, thích hợp hơn và giới thiệu các công nghệ như deepfakes và trình tạo giọng nói, điều này hướng tới một thị trường ngày càng có lợi (và có vấn đề) cho các bản sao của người có ảnh hưởng AI trong những năm tới, với những người hâm mộ có nhiều cơ hội hơn để bẻ cong hình đại diện của những người có ảnh hưởng theo ý muốn của họ. Đó là một thế giới mới ảm đạm có những người bạn gái ảo như vậy trong đó
Tham khảo bài gốc tại đây
Tuy nhiên, còn những chatbot AI không dựa trên xác chết thì sao? Còn những ứng dụng dựa trên con người thực, đang sống - những con người có thể có thông tin đầu vào về cách ứng dụng được tạo ra và cách ứng dụng được sử dụng thì sao? Theo nhiều cách, đây là một câu chuyện hoàn toàn khác.
Tháng trước, người có ảnh hưởng Snapchat Caryn Marjorie – người có hơn 2 triệu người theo dõi trên ứng dụng – đã chính thức ra mắt một chatbot hỗ trợ AI dựa trên tính cách của chính cô ấy. Tự nhận mình là “người có ảnh hưởng đầu tiên được chuyển đổi thành AI”, cô ấy nói rằng chatbot là một cách để kết nối với tất cả những người đăng ký của cô ấy ở cấp độ cá nhân và cuối cùng là “chữa khỏi sự cô đơn”. Cô giải thích, một phần của tham vọng cao cả này là làm việc với “các nhà tâm lý học hàng đầu thế giới” để thêm các yếu tố của liệu pháp hành vi nhận thức và liệu pháp hành vi biện chứng vào các cuộc trò chuyện, đặc biệt khuyến khích đàn ông cởi mở về sức khỏe tâm thần của họ.
Bản thân chatbot được phát triển bởi công ty AI Forever Voices, hứa hẹn cho phép bạn tham gia vào cuộc đối thoại với “những người nổi tiếng, người sáng tạo và người có ảnh hưởng tiêu biểu nhất trong thời đại chúng ta”. Trong trường hợp của Marjorie, điều này liên quan đến việc đào tạo GPT-4 về nội dung từ kênh YouTube hiện được lưu trữ của cô ấy. Trên trang web CarynAI, công ty mô tả chatbot là “bạn gái ảo”, đồng thời bổ sung: “Caryn có thời gian không giới hạn dành cho bạn. Dù là đêm khuya hay đầu ngày mới, Caryn sẽ ở bên cạnh bạn.” Tất cả chỉ với $1 mỗi phút.
Với nhãn hiệu “bạn gái ảo” và nhấn mạnh vào các cuộc trò chuyện đêm khuya, bạn có thể ngạc nhiên khi biết rằng, ngay sau khi phát hành, Marjorie đã thông báo rằng cô ấy và nhóm của mình đang “làm việc suốt ngày đêm” để ngăn chatbot tạo ra nội dung khiêu ***. . Mặc dù nó được cho là “tán tỉnh và vui vẻ”, nhưng cô ấy nói với Insider, những cuộc trò chuyện khiêu *** được cho là vượt quá giới hạn: “AI không được lập trình để làm điều này và dường như đã trở nên lừa đảo.”
Tuy nhiên, không hề nản lòng trước các vấn đề này, Forever Voices đã bổ sung thêm một người có ảnh hưởng khác, thậm chí còn đáng chú ý hơn vào danh sách ảo của mình, người có tên là Amouranth. Trong trường hợp bạn chưa biết, Amouranth là một trong những phụ nữ phát trực tuyến nổi tiếng nhất trên Twitch, thường xuyên lọt vào danh sách top 20 do nam giới thống trị. Nổi tiếng với ASMR phát trực tiếp, cô ấy cũng được báo cáo là đã kiếm được hàng chục triệu thông qua OnlyFans và – không giống như CarynAI – các tình huống khiêu *** dường như là trọng tâm chính trong chatbot của cô ấy. “Tôi phát triển mạnh nhờ chấp nhận rủi ro và vượt qua các ranh giới,” Amouranth nói trong thông báo của mình. “Trên tất cả, tôi ưu tiên có mặt ở đó vì những khán giả tuyệt vời của mình. AI Amouranth được thiết kế để đáp ứng nhu cầu của mọi người hâm mộ, đảm bảo mang đến trải nghiệm khó quên và toàn diện.”
“Được thiết kế để đáp ứng nhu cầu của mọi người hâm mộ” chỉ là một trong số ít cụm từ rùng rợn liên quan đến các dự án AI của Forever Voices. Trong một cuộc phỏng vấn ngày 19 tháng 5 với Bloomberg Technology, Giám đốc điều hành John Meyer cũng tuyên bố rằng mục đích cuối cùng của công ty là “dân chủ hóa quyền truy cập” vào quyền truy cập của một người có ảnh hưởng, đề xuất bãi bỏ hoàn toàn quyền riêng tư cá nhân. Tất nhiên, một lần nữa, đây hoàn toàn là một câu chuyện giả tưởng – người hâm mộ không thực sự nói chuyện với Amouranth hay Caryn Marjorie. Tuy nhiên, liệu ảo tưởng về sự thân mật có thể có một số hiệu ứng dây chuyền không?
Trước tiên, chúng ta cần xem xét mối quan hệ “ký sinh xã hội” mà Amouranth, Caryn hoặc bất kỳ người có ảnh hưởng nào khác chia sẻ với vô số người hâm mộ của họ. Tiến sĩ David Giles, chuyên gia về tâm lý học truyền thông tại Đại học Winchester, giải thích: “Mối quan hệ cận xã hội đơn giản là mối quan hệ chỉ tồn tại cho một người – nó không (hoặc hầu như không) được người kia đáp lại. “Thông thường đây là giữa các nhân vật truyền thông và các thành viên của khán giả. Người sử dụng phương tiện biết rõ nhân vật truyền thông, nhưng nhân vật đó không tồn tại đối với họ (ngoài tư cách là một phần của ‘khán giả’ đồng nhất).”
Ở một mức độ nào đó, mạng xã hội đã làm phức tạp định nghĩa này, vì khán giả có nhiều quyền truy cập hơn vào các nhân vật truyền thông và có thể phản hồi lại họ bằng cách để lại nhận xét trên Instagram hoặc nhập vào cuộc trò chuyện trên Twitch. “Tôi luôn lập luận rằng chúng ta nên hiểu các mối quan hệ tồn tại trên một phạm vi, trong đó ‘xã hội’ và ‘ký sinh trùng xã hội’ là điểm cuối,” Giles nói thêm. “Vì vậy, một mối quan hệ có thể là 'một phần xã hội' - giống như nhiều mối quan hệ với các vlogger, người có ảnh hưởng, v.v. Hoàn toàn là một mối quan hệ giống như mối quan hệ với một nhân vật hư cấu (người chưa từng tồn tại) hoặc một người đã chết (như Elvis).
Những động lực “một phần mang tính xã hội” này đang gây tranh cãi. Mặc dù chúng có liên quan đến việc giúp mọi người hình thành và phát triển bản sắc riêng của họ, nhưng chúng cũng đã được chứng minh là thúc đẩy những đặc điểm tiêu cực như chủ nghĩa vật chất và “những cuộc chia tay cận xã hội” có thể gây ra tổn thương tinh thần lâu dài. Trong một số trường hợp, ảo tưởng về sự thân mật hoặc nhận dạng quá mức cũng có thể gây nguy hiểm cho người có ảnh hưởng, khuyến khích người hâm mộ phá vỡ ranh giới cá nhân.
Giles có thể hiểu tại sao Amouranth tung ra một chatbot: “Có lẽ cô ấy nghĩ rằng nó sẽ làm hài lòng một số người hâm mộ khó chịu hơn khi can thiệp vào cô ấy.” (Tất nhiên, nó cũng bổ sung thêm một nguồn doanh thu khác cho đế chế truyền thông của người có ảnh hưởng. Như chính Caryn đã nói: “Số tiền rất lớn, không thể phủ nhận điều đó.”) Tuy nhiên, về lâu dài, anh ấy nghi ngờ rằng các chatbot do AI cung cấp “ có thể chỉ khiến mọi thứ trở nên tồi tệ hơn” đối với những người có ảnh hưởng, giải thích: “Có khả năng đó có thể được coi là hành vi tán tỉnh... ham muốn được nuôi dưỡng.”
Có phải anh ấy đang nói rằng các mối quan hệ cận xã hội của người hâm mộ phát triển mạnh mẽ hơn thông qua sự tán tỉnh ảo này, khiến họ thậm chí có nhiều khả năng lần ra con người thật mà các bot dựa vào và can thiệp vào cuộc sống của họ? Đúng vậy, Giles nói – đó là một “rủi ro thực sự” – nhưng chỉ vì các chatbot AI thiếu một mức độ thiết yếu của con người. “[Mọi người] sẽ không bị bot lừa dối lâu nếu nó chỉ đơn giản là một đại diện ảo của con người sống mà họ quan tâm ngay từ đầu.”
Rủi ro được khuếch đại, như Caryn cảnh báo trong một video được đăng lên Twitter sau khi chatbot của cô ấy ra mắt, do “thiếu hệ thống, quy định, quy tắc và đạo đức” xung quanh công nghệ mới. “Hãy cực kỳ thận trọng với những công ty mà bạn chọn làm việc,” cô ấy nói với những người có ảnh hưởng khác đang muốn biến mình thành chatbot. “Bởi vì họ sẽ sở hữu giọng nói, tính cách và danh tính của bạn... Hãy nhớ rằng khi nói đến AI, bạn đang chơi với lửa.”
Giles cho biết, một giải pháp tiềm năng cho vấn đề đạo đức sơ sài của “bạn gái ảo” có thể là tránh xa những nhân vật sống, thực và quảng cáo các chatbot thực tế dựa trên các nhân vật hư cấu hoặc những người nổi tiếng đã chết như Marilyn Monroe (mặc dù điều đó đi kèm với “sự thú vị” của riêng nó. Vấn đề đạo đức"). Tuy nhiên, cuối cùng thì anh ấy không nghĩ rằng những tuyên bố mang tính cách mạng của các công ty chatbot AI như Forever Voices có quá nhiều trọng lượng. Ông lưu ý, các nền tảng truyền thông xã hội đã dân chủ hóa quyền tiếp cận những người có ảnh hưởng và trí tưởng tượng của con người đủ để duy trì ngay cả hành vi ký sinh xã hội lộn xộn nhất của chúng ta. Anh ấy nói: “Tôi có thể bịa ra bất kỳ tưởng tượng tình dục tồi tệ nào mà tôi thích liên quan đến một người có ảnh hưởng. “Tôi không cần một bot để làm điều đó cho tôi!”
OK... vậy phải chăng Giles đang nói rằng “bạn gái ảo” do AI hỗ trợ - và cách họ bị lợi dụng để xuất ra nội dung khiêu *** - chỉ là phần mở rộng của thái độ và quyền lợi phi nhân cách mà nhiều người hâm mộ đã cảm thấy đối với những người có ảnh hưởng mà họ theo dõi? Chà, anh ấy không nghĩ rằng nó bắt đầu mất nhân tính. Ông nói: “Bất kỳ ai có thể tiếp cận hình ảnh trực quan của người khác đều có quyền tưởng tượng xem họ thích họ như thế nào. Đi xa hơn, anh ấy nói thêm: “Tôi không hiểu quan điểm của bạn gái ảo nếu nội dung không rõ ràng. Ai trên trái đất đã vẽ ra những hướng dẫn đó? Họ muốn người dùng làm cái quái gì với bot vậy?”
Điều này đặt ra câu hỏi về mối quan hệ giữa người hâm mộ và những người có ảnh hưởng trực tuyến (đặc biệt là phụ nữ - lưu ý rằng các công ty AI không đổ tài nguyên vào “bạn trai ảo” dựa trên tính cách nam giới trên internet). Chúng ta có thực sự nên mong đợi người hâm mộ lôi kéo những người có ảnh hưởng mô phỏng vào các tình huống tình dục ngay khi có cơ hội đầu tiên, ngay cả khi những người thực sự đứng sau họ đã cấm rõ ràng điều đó? Và ngay cả khi người hâm mộ được "có quyền" về mặt kỹ thuật đối với họ, liệu những tưởng tượng của họ về phụ nữ thực sự có được các công ty công nghệ thỏa mãn vì lợi nhuận?
Những câu hỏi này sẽ chỉ phát triển về quy mô và phạm vi. Giles nói: “Bạn tự hỏi có bao nhiêu mối quan hệ cận xã hội có thể có ý nghĩa đối với một người. “Có điểm bão hòa không? Có vẻ như không phải như vậy cho đến nay – chúng ta càng có nhiều phương tiện truyền thông, càng có nhiều người nổi tiếng, càng có nhiều người hâm mộ, càng có nhiều kẻ ghét bỏ, càng có nhiều PSR.” Kết hợp với sự phân mảnh của phương tiện truyền thông thành các cộng đồng thân thiết, thích hợp hơn và giới thiệu các công nghệ như deepfakes và trình tạo giọng nói, điều này hướng tới một thị trường ngày càng có lợi (và có vấn đề) cho các bản sao của người có ảnh hưởng AI trong những năm tới, với những người hâm mộ có nhiều cơ hội hơn để bẻ cong hình đại diện của những người có ảnh hưởng theo ý muốn của họ. Đó là một thế giới mới ảm đạm có những người bạn gái ảo như vậy trong đó
Tham khảo bài gốc tại đây
