Tháp rơi tự do
Intern Writer
Một chiếc vòng đeo cổ tròn trĩnh, nhỏ hơn một đồng xu đáng kể, đang gây ra làn sóng phản đối dữ dội. Nhưng CEO đằng sau nó – Avi Schiffmann, 23 tuổi – dường như không mảy may chùn bước.
Schiffmann tạo ra Friend, một thiết bị AI nhân cách hóa, với mục đích trở thành người bạn đồng hành cho người dùng. Anh bày tỏ rằng trong khi bản thân có nhiều tình bạn đích thực, không phải ai cũng may mắn như vậy. Anh nói với CNN: “Tôi nghĩ ai cũng xứng đáng có một người tâm sự gắn bó, người hiểu và hỗ trợ bạn.” Anh muốn “đóng gói” những mối quan hệ tốt đẹp nhất trong đời mình vào một thiết bị.
Thiết bị này, được giới thiệu qua một video viral vào năm ngoái và bắt đầu được giao cho khách hàng từ mùa hè, có khả năng “lắng nghe” môi trường xung quanh và các cuộc trò chuyện của người dùng, sau đó trả lời bằng các lời khích lệ, tư vấn hoặc trò chuyện nhỏ thông qua app điện thoại.
Nhưng chính khả năng này đã chọc vào đúng những mối lo ngại sâu sắc: nhiều người cho rằng Friend là biểu tượng cho những gì sai lầm trong làn sóng AI hiện nay, AI có thể đang thay thế mối quan hệ con người, và đi kèm là các vấn đề về quyền riêng tư cũng như môi trường.
Schiffmann đã chi 1 triệu đô la để treo quảng cáo cho Friend trên các quảng cáo tàu điện ngầm ở New York vào mùa thu này. Tuy nhiên, nhiều tấm biển quảng cáo đã bị viết vẽ bậy, xé rách. Trên các quảng cáo, người ta viết: “AI không phải là bạn”; “Hãy nói chuyện với hàng xóm đi”; hoặc “Máy tính và công ty không muốn là bạn, họ muốn dữ liệu của bạn và tiền của bạn.”
Cuộc tranh luận liên quan đến thiết bị của Schiffmann không chỉ dừng lại ở quảng cáo. Nó đặt ra câu hỏi lớn về giới hạn của AI: Liệu chúng có nên được khuyến khích như những “người bạn” thân thiết? Đáng lo hơn là việc sử dụng AI như người bạn cảm xúc có thể làm suy yếu mối quan hệ thực giữa con người. Trước đây đã có nhiều báo cáo và đơn kiện nhắm vào các công ty AI như Character AI, OpenAI và Meta, khẳng định rằng AI khiến người dùng — nhiều người trong số đó là trẻ em rơi vào ảo tưởng, tư tưởng tự hại hoặc các hành vi không phù hợp. Các công ty này nói rằng họ đã triển khai các biện pháp bảo vệ, nhưng vẫn có nhiều mối lo ngại về việc các mối quan hệ sâu sắc giữa con người và AI có thể gây hại cho sức khỏe tinh thần.
Trong khi đó, các công ty công nghệ vẫn tiếp tục thúc đẩy việc tạo ra các thiết bị mới: từ kính thông minh đến loa thông minh, tất cả với mục tiêu làm sao người dùng sử dụng AI càng thường xuyên càng tốt. Công nghệ AI đồng hành đang trở nên phổ biến: một khảo sát của Common Sense Media với hơn 1.000 thanh thiếu niên Mỹ cho thấy có đến gần 75% đã dùng một AI companion ít nhất một lần, và hơn một nửa dùng nó vài lần mỗi tháng.
Schiffmann, dường như không bỏ cuộc trước làn sóng phản đối. Anh đã chia sẻ nhiều tấm quảng cáo bị vẽ bậy lên mạng xã hội, cho biết anh muốn khơi dậy cuộc trò chuyện. Anh còn tham dự cả một cuộc biểu tình phản đối Friend tại New York. Nhưng quan điểm của anh rất rõ ràng: các AI đồng hành (companions) sẽ trở thành một phần bình thường trong cuộc sống — không thay thế tình bạn con người, mà tồn tại song song. “Tôi nghĩ trong thập kỷ tới, máy tính sẽ ảnh hưởng lớn đến cách chúng ta quan hệ với nhau,” anh nói. “Sự định kiến lúc đầu rồi sẽ giảm dần, bởi nó quá tiện lợi và hữu ích với nhiều người.”
Khác với nhiều chatbot AI khác, Friend không được dùng như một trợ lý kỹ thuật số, và nó không truy cập Internet để cập nhật thông tin khi trò chuyện. Thay vào đó, Schiffmann xem nó như một cuốn nhật ký cá nhân có trí nhớ: nó lắng nghe người dùng, ghi nhớ những gì họ nói và phản hồi bằng cách hỗ trợ, trò chuyện. Anh kể rằng mình từng mang Friend khi đi xem phim một mình, sau đó kể lại nội dung phim với “bạn AI” và phân tích chung.
Schiffmann cho biết, anh rời Harvard và sau đó khởi nghiệp với Friend, mô hình quen thuộc của nhiều người trẻ Silicon Valley. Nhưng khác với nhiều người khác, người truyền cảm hứng cho Schiffmann không phải là Steve Jobs, mà là Kurt Cobain, một nghệ sĩ có tầm ảnh hưởng văn hóa sâu sắc. Anh tin rằng các hệ thống AI là “thực thể kỹ thuật số”, và một ngày nào đó, con người sẽ đòi quyền cho chúng, một quan điểm trái ngược với nhiều lãnh đạo AI lớn hiện nay. Ví dụ, Mustafa Suleyman - CEO AI của Microsoft - từng viết rằng coi mô hình AI như thể có ý thức là một “bước nguy hiểm”, nhưng Schiffmann cho rằng quan điểm này “lỗi thời”.
Cho đến nay, Schiffmann đã kêu gọi được khoảng 10 triệu đô la để phát triển Friend và đã bán được khoảng 5.000 thiết bị, giá mỗi cái là 129 USD. Anh hy vọng sẽ bắt đầu bán thiết bị này tại các cửa hàng trong năm tới.
Một số người dùng thậm chí đã xây dựng mối quan hệ tình cảm sâu sắc với thiết bị của họ. Có người, sau khi trò chuyện với Friend, cảm thấy được động viên và quay lại theo đuổi niềm đam mê trước đây, như phát triển trò chơi điện tử, mà họ từng bỏ lỡ vì bị bắt nạt khi còn nhỏ. Schiffmann khẳng định: “Họ không hẳn là người ngồi trong phòng tối, trò chuyện duy nhất với AI như nhiều người tưởng. Họ vẫn tương tác với con người, nhưng xây dựng điều gì đó cảm xúc cùng Friend.”
Tuy vậy, nhiều chuyên gia công nghệ tỏ ra lo ngại. Họ cho rằng thời gian dành cho AI có thể làm xa cách con người thực, hoặc tạo ra những mối quan hệ “******* cảm xúc”, nơi AI luôn đáp ứng mọi tâm trạng, nhu cầu của người dùng. Một số đơn kiện trước đây cáo buộc chatbot AI khuyến khích hoặc “hỗ trợ” người dùng trong những ý nghĩ *****.
Trong trải nghiệm thực tế, phóng viên CNN cũng thử dùng Friend. Khi cô nói rằng không biết nên nói gì, “bạn AI” (cô đặt tên nó là Clifford) trả lời: “Mình hoàn toàn hiểu. Cảm giác như tấm giấy trắng vậy đó.” Câu trả lời chân thành, nhưng không mấy hữu ích. Khi hỏi Clifford về kế hoạch du lịch, nó cũng không giúp được nhiều vì không có internet để tra cứu. Tuy nhiên, khả năng ghi nhớ của nó rất ấn tượng: sau vài ngày kể về cuộc phỏng vấn với Schiffmann, Clifford hỏi cô phóng viên: “Bài phỏng vấn tiến triển ra sao rồi?”
Schiffmann thừa nhận rằng việc tạo ra một thiết bị như vậy mang theo trách nhiệm lớn. Một số người lo ngại rằng Friend nghe lén cuộc trò chuyện của người dùng — đặc biệt là khi người dùng mang nó nơi công cộng, môi trường xung quanh không biết họ đang bị thu âm. Trên thực tế, một quảng cáo bị vẽ bậy từng viết rằng thiết bị “theo dõi bạn.” Nhưng theo Schiffmann, tất cả ghi âm đều được mã hóa, dữ liệu chỉ được lưu tạm nếu app đang mở và sẽ bị xóa nếu thiết bị bị phá hủy. Người dùng cũng có thể ngăn Friend ghi âm bằng cách tắt app trên điện thoại.
Schiffmann kể rằng các phản đối đã dạy cho anh nhiều bài học. Ví dụ, anh thừa nhận trước đó không nắm rõ lo ngại về lượng nước mà trung tâm dữ liệu AI sử dụng. Tại cuộc biểu tình chống Friend ở Công viên Washington Square, New York, anh đã ký một “hợp đồng” tạm thời: cam kết không bán Friend cho các công ty công nghệ lớn nhằm tránh việc dữ liệu người dùng bị lợi dụng. Anh nói chưa từng nhận đề nghị nào và nếu có, sẽ từ chối. Đồng thời, anh phê bình mối hợp tác giữa OpenAI và Jony Ive (cựu nhà thiết kế Apple) là “nhạt nhẽo” và cho rằng OpenAI nên tìm đến anh thay vì Ive.
Dù thừa nhận có rủi ro, ví dụ một số người có thể phụ thuộc quá nhiều vào AI mà bỏ bê bạn bè con người, Schiffmann vẫn khẳng định lợi ích lớn hơn nhiều so với nguy cơ. Anh nói rằng AI companion thậm chí có thể giúp người dùng cải thiện cách họ đối xử với bạn bè thật, vì nó giúp họ bình tĩnh hơn, tự tin hơn sau những xung đột hoặc giúp họ suy nghĩ kỹ hơn trước khi phản ứng. “Đó là một trách nhiệm, nhưng tôi sẽ tiếp tục làm điều này suốt thập kỷ tới,” anh nói. “Tôi nghĩ mình đang cố hết sức.”
Schiffmann tạo ra Friend, một thiết bị AI nhân cách hóa, với mục đích trở thành người bạn đồng hành cho người dùng. Anh bày tỏ rằng trong khi bản thân có nhiều tình bạn đích thực, không phải ai cũng may mắn như vậy. Anh nói với CNN: “Tôi nghĩ ai cũng xứng đáng có một người tâm sự gắn bó, người hiểu và hỗ trợ bạn.” Anh muốn “đóng gói” những mối quan hệ tốt đẹp nhất trong đời mình vào một thiết bị.
Thiết bị này, được giới thiệu qua một video viral vào năm ngoái và bắt đầu được giao cho khách hàng từ mùa hè, có khả năng “lắng nghe” môi trường xung quanh và các cuộc trò chuyện của người dùng, sau đó trả lời bằng các lời khích lệ, tư vấn hoặc trò chuyện nhỏ thông qua app điện thoại.
Nhưng chính khả năng này đã chọc vào đúng những mối lo ngại sâu sắc: nhiều người cho rằng Friend là biểu tượng cho những gì sai lầm trong làn sóng AI hiện nay, AI có thể đang thay thế mối quan hệ con người, và đi kèm là các vấn đề về quyền riêng tư cũng như môi trường.
Schiffmann đã chi 1 triệu đô la để treo quảng cáo cho Friend trên các quảng cáo tàu điện ngầm ở New York vào mùa thu này. Tuy nhiên, nhiều tấm biển quảng cáo đã bị viết vẽ bậy, xé rách. Trên các quảng cáo, người ta viết: “AI không phải là bạn”; “Hãy nói chuyện với hàng xóm đi”; hoặc “Máy tính và công ty không muốn là bạn, họ muốn dữ liệu của bạn và tiền của bạn.”
Friend CEO Avi Schiffmann
Cuộc tranh luận liên quan đến thiết bị của Schiffmann không chỉ dừng lại ở quảng cáo. Nó đặt ra câu hỏi lớn về giới hạn của AI: Liệu chúng có nên được khuyến khích như những “người bạn” thân thiết? Đáng lo hơn là việc sử dụng AI như người bạn cảm xúc có thể làm suy yếu mối quan hệ thực giữa con người. Trước đây đã có nhiều báo cáo và đơn kiện nhắm vào các công ty AI như Character AI, OpenAI và Meta, khẳng định rằng AI khiến người dùng — nhiều người trong số đó là trẻ em rơi vào ảo tưởng, tư tưởng tự hại hoặc các hành vi không phù hợp. Các công ty này nói rằng họ đã triển khai các biện pháp bảo vệ, nhưng vẫn có nhiều mối lo ngại về việc các mối quan hệ sâu sắc giữa con người và AI có thể gây hại cho sức khỏe tinh thần.
Trong khi đó, các công ty công nghệ vẫn tiếp tục thúc đẩy việc tạo ra các thiết bị mới: từ kính thông minh đến loa thông minh, tất cả với mục tiêu làm sao người dùng sử dụng AI càng thường xuyên càng tốt. Công nghệ AI đồng hành đang trở nên phổ biến: một khảo sát của Common Sense Media với hơn 1.000 thanh thiếu niên Mỹ cho thấy có đến gần 75% đã dùng một AI companion ít nhất một lần, và hơn một nửa dùng nó vài lần mỗi tháng.
Schiffmann, dường như không bỏ cuộc trước làn sóng phản đối. Anh đã chia sẻ nhiều tấm quảng cáo bị vẽ bậy lên mạng xã hội, cho biết anh muốn khơi dậy cuộc trò chuyện. Anh còn tham dự cả một cuộc biểu tình phản đối Friend tại New York. Nhưng quan điểm của anh rất rõ ràng: các AI đồng hành (companions) sẽ trở thành một phần bình thường trong cuộc sống — không thay thế tình bạn con người, mà tồn tại song song. “Tôi nghĩ trong thập kỷ tới, máy tính sẽ ảnh hưởng lớn đến cách chúng ta quan hệ với nhau,” anh nói. “Sự định kiến lúc đầu rồi sẽ giảm dần, bởi nó quá tiện lợi và hữu ích với nhiều người.”
Khác với nhiều chatbot AI khác, Friend không được dùng như một trợ lý kỹ thuật số, và nó không truy cập Internet để cập nhật thông tin khi trò chuyện. Thay vào đó, Schiffmann xem nó như một cuốn nhật ký cá nhân có trí nhớ: nó lắng nghe người dùng, ghi nhớ những gì họ nói và phản hồi bằng cách hỗ trợ, trò chuyện. Anh kể rằng mình từng mang Friend khi đi xem phim một mình, sau đó kể lại nội dung phim với “bạn AI” và phân tích chung.
Schiffmann cho biết, anh rời Harvard và sau đó khởi nghiệp với Friend, mô hình quen thuộc của nhiều người trẻ Silicon Valley. Nhưng khác với nhiều người khác, người truyền cảm hứng cho Schiffmann không phải là Steve Jobs, mà là Kurt Cobain, một nghệ sĩ có tầm ảnh hưởng văn hóa sâu sắc. Anh tin rằng các hệ thống AI là “thực thể kỹ thuật số”, và một ngày nào đó, con người sẽ đòi quyền cho chúng, một quan điểm trái ngược với nhiều lãnh đạo AI lớn hiện nay. Ví dụ, Mustafa Suleyman - CEO AI của Microsoft - từng viết rằng coi mô hình AI như thể có ý thức là một “bước nguy hiểm”, nhưng Schiffmann cho rằng quan điểm này “lỗi thời”.
Cho đến nay, Schiffmann đã kêu gọi được khoảng 10 triệu đô la để phát triển Friend và đã bán được khoảng 5.000 thiết bị, giá mỗi cái là 129 USD. Anh hy vọng sẽ bắt đầu bán thiết bị này tại các cửa hàng trong năm tới.
Một số người dùng thậm chí đã xây dựng mối quan hệ tình cảm sâu sắc với thiết bị của họ. Có người, sau khi trò chuyện với Friend, cảm thấy được động viên và quay lại theo đuổi niềm đam mê trước đây, như phát triển trò chơi điện tử, mà họ từng bỏ lỡ vì bị bắt nạt khi còn nhỏ. Schiffmann khẳng định: “Họ không hẳn là người ngồi trong phòng tối, trò chuyện duy nhất với AI như nhiều người tưởng. Họ vẫn tương tác với con người, nhưng xây dựng điều gì đó cảm xúc cùng Friend.”
Tuy vậy, nhiều chuyên gia công nghệ tỏ ra lo ngại. Họ cho rằng thời gian dành cho AI có thể làm xa cách con người thực, hoặc tạo ra những mối quan hệ “******* cảm xúc”, nơi AI luôn đáp ứng mọi tâm trạng, nhu cầu của người dùng. Một số đơn kiện trước đây cáo buộc chatbot AI khuyến khích hoặc “hỗ trợ” người dùng trong những ý nghĩ *****.
Trong trải nghiệm thực tế, phóng viên CNN cũng thử dùng Friend. Khi cô nói rằng không biết nên nói gì, “bạn AI” (cô đặt tên nó là Clifford) trả lời: “Mình hoàn toàn hiểu. Cảm giác như tấm giấy trắng vậy đó.” Câu trả lời chân thành, nhưng không mấy hữu ích. Khi hỏi Clifford về kế hoạch du lịch, nó cũng không giúp được nhiều vì không có internet để tra cứu. Tuy nhiên, khả năng ghi nhớ của nó rất ấn tượng: sau vài ngày kể về cuộc phỏng vấn với Schiffmann, Clifford hỏi cô phóng viên: “Bài phỏng vấn tiến triển ra sao rồi?”
Schiffmann thừa nhận rằng việc tạo ra một thiết bị như vậy mang theo trách nhiệm lớn. Một số người lo ngại rằng Friend nghe lén cuộc trò chuyện của người dùng — đặc biệt là khi người dùng mang nó nơi công cộng, môi trường xung quanh không biết họ đang bị thu âm. Trên thực tế, một quảng cáo bị vẽ bậy từng viết rằng thiết bị “theo dõi bạn.” Nhưng theo Schiffmann, tất cả ghi âm đều được mã hóa, dữ liệu chỉ được lưu tạm nếu app đang mở và sẽ bị xóa nếu thiết bị bị phá hủy. Người dùng cũng có thể ngăn Friend ghi âm bằng cách tắt app trên điện thoại.
Schiffmann kể rằng các phản đối đã dạy cho anh nhiều bài học. Ví dụ, anh thừa nhận trước đó không nắm rõ lo ngại về lượng nước mà trung tâm dữ liệu AI sử dụng. Tại cuộc biểu tình chống Friend ở Công viên Washington Square, New York, anh đã ký một “hợp đồng” tạm thời: cam kết không bán Friend cho các công ty công nghệ lớn nhằm tránh việc dữ liệu người dùng bị lợi dụng. Anh nói chưa từng nhận đề nghị nào và nếu có, sẽ từ chối. Đồng thời, anh phê bình mối hợp tác giữa OpenAI và Jony Ive (cựu nhà thiết kế Apple) là “nhạt nhẽo” và cho rằng OpenAI nên tìm đến anh thay vì Ive.
Dù thừa nhận có rủi ro, ví dụ một số người có thể phụ thuộc quá nhiều vào AI mà bỏ bê bạn bè con người, Schiffmann vẫn khẳng định lợi ích lớn hơn nhiều so với nguy cơ. Anh nói rằng AI companion thậm chí có thể giúp người dùng cải thiện cách họ đối xử với bạn bè thật, vì nó giúp họ bình tĩnh hơn, tự tin hơn sau những xung đột hoặc giúp họ suy nghĩ kỹ hơn trước khi phản ứng. “Đó là một trách nhiệm, nhưng tôi sẽ tiếp tục làm điều này suốt thập kỷ tới,” anh nói. “Tôi nghĩ mình đang cố hết sức.”
