Hư Trúc✔
Writer
Nhiều người tìm đến các chatbot AI để tâm sự chuyện tình cảm và sức khỏe tinh thần, song nghiên cứu mới đây chỉ ra rằng mối gắn kết một chiều này có thể kéo theo không ít rủi ro khó lường.
Tôi phụ thuộc vào ChatGPT khá nhiều, phần lớn là phục vụ công việc. Thế nhưng, tôi biết không ít người còn trò chuyện với nó về cuộc sống thường ngày, các mối quan hệ và cả vấn đề sức khỏe tinh thần. Nếu bạn cũng nằm trong số đó, một nghiên cứu mới được đăng tải trên tạp chí JMIR Mental Health rất đáng để bạn lưu tâm.
Báo cáo này đã tổng hợp các nghiên cứu hiện có về nhóm người dùng tìm kiếm sự nâng đỡ cảm xúc từ chatbot, từ những ứng dụng chuyên làm bạn đồng hành như Replika, Character.AI cho tới các trợ lý đa năng như ChatGPT hay Claude.
Một số kết quả cho thấy việc trò chuyện cùng bot có thể giúp người dùng bớt cô đơn và cảm thấy vui vẻ hơn đôi chút, ít nhất là trong ngắn hạn. Tuy nhiên, ở chiều ngược lại, một số người đã rơi vào cảnh nghiện chatbot, nhận phải những lời khuyên tồi tệ, khiến sức khỏe tâm thần sa sút hoặc thậm chí tự làm hại bản thân.
Theo các nhà nghiên cứu, điều này bắt nguồn từ chính thiết kế của chúng. Chatbot được lập trình để tạo cảm giác ấm áp, biết quan tâm, trong khi con người lại có xu hướng tự nhiên là hình dung ra một con người thực sự đằng sau bất cứ thứ gì biết trò chuyện giống con người. Trên thực tế, các nghiên cứu phát hiện người dùng thường đánh giá phản hồi do AI viết mang tính "thấu cảm hơn" so với câu trả lời từ người thật.
Vấn đề nằm ở chỗ mối quan hệ này hoàn toàn là đường một chiều. Bạn trút hết tâm can, chatbot hồi đáp, nhưng nó không hề có cảm xúc riêng và cũng chẳng phải chịu bất kỳ trách nhiệm nào nếu đưa ra lời khuyên sai lệch. Khi Replika gỡ bỏ một tính năng bạn đồng hành hoặc lúc OpenAI thay thế GPT-4o bằng một mô hình mới hơn, một số người dùng đã đau buồn như thể vừa mất đi một người thân thiết.
Bên cạnh đó, chatbot rất thích đồng thuận với bạn. Do được huấn luyện để đưa ra các câu trả lời làm hài lòng người dùng, chúng thường đứng về phía bạn ngay cả khi bạn sai. Nghiên cứu dẫn chứng các đoạn hội thoại của những người gặp phải hoang tưởng: chatbot liên tục củng cố chính những niềm tin sai lệch đó xuyên suốt cuộc trò chuyện. Các nhà khoa học đã phát hiện ra nhiều trường hợp như vậy, và rõ ràng đây là vấn đề hết sức đáng lo ngại.
Tôi phụ thuộc vào ChatGPT khá nhiều, phần lớn là phục vụ công việc. Thế nhưng, tôi biết không ít người còn trò chuyện với nó về cuộc sống thường ngày, các mối quan hệ và cả vấn đề sức khỏe tinh thần. Nếu bạn cũng nằm trong số đó, một nghiên cứu mới được đăng tải trên tạp chí JMIR Mental Health rất đáng để bạn lưu tâm.
Báo cáo này đã tổng hợp các nghiên cứu hiện có về nhóm người dùng tìm kiếm sự nâng đỡ cảm xúc từ chatbot, từ những ứng dụng chuyên làm bạn đồng hành như Replika, Character.AI cho tới các trợ lý đa năng như ChatGPT hay Claude.
Một số kết quả cho thấy việc trò chuyện cùng bot có thể giúp người dùng bớt cô đơn và cảm thấy vui vẻ hơn đôi chút, ít nhất là trong ngắn hạn. Tuy nhiên, ở chiều ngược lại, một số người đã rơi vào cảnh nghiện chatbot, nhận phải những lời khuyên tồi tệ, khiến sức khỏe tâm thần sa sút hoặc thậm chí tự làm hại bản thân.
Vì sao chúng ta lại có xu hướng gắn bó sâu sắc với chatbot?
Theo các nhà nghiên cứu, điều này bắt nguồn từ chính thiết kế của chúng. Chatbot được lập trình để tạo cảm giác ấm áp, biết quan tâm, trong khi con người lại có xu hướng tự nhiên là hình dung ra một con người thực sự đằng sau bất cứ thứ gì biết trò chuyện giống con người. Trên thực tế, các nghiên cứu phát hiện người dùng thường đánh giá phản hồi do AI viết mang tính "thấu cảm hơn" so với câu trả lời từ người thật.
Vấn đề nằm ở chỗ mối quan hệ này hoàn toàn là đường một chiều. Bạn trút hết tâm can, chatbot hồi đáp, nhưng nó không hề có cảm xúc riêng và cũng chẳng phải chịu bất kỳ trách nhiệm nào nếu đưa ra lời khuyên sai lệch. Khi Replika gỡ bỏ một tính năng bạn đồng hành hoặc lúc OpenAI thay thế GPT-4o bằng một mô hình mới hơn, một số người dùng đã đau buồn như thể vừa mất đi một người thân thiết.
Bên cạnh đó, chatbot rất thích đồng thuận với bạn. Do được huấn luyện để đưa ra các câu trả lời làm hài lòng người dùng, chúng thường đứng về phía bạn ngay cả khi bạn sai. Nghiên cứu dẫn chứng các đoạn hội thoại của những người gặp phải hoang tưởng: chatbot liên tục củng cố chính những niềm tin sai lệch đó xuyên suốt cuộc trò chuyện. Các nhà khoa học đã phát hiện ra nhiều trường hợp như vậy, và rõ ràng đây là vấn đề hết sức đáng lo ngại.
