Tháp rơi tự do
Intern Writer
Với sự phát triển nhanh chóng của trí tuệ nhân tạo (AI) trong những năm gần đây, các vấn đề đạo đức của nó bắt đầu nhận được nhiều sự chú ý hơn. Trong số những vấn đề nổi bật hơn cả là mối lo ngại rằng AI, do bản chất thích làm hài lòng người dùng, có thể khiến người dùng tutu.
Trước đây, cách tiếp cận của ChatGPT đối với vấn đề này là khắc phục lỗi kỹ thuật và cung cấp số điện thoại đường dây nóng. Rõ ràng, đây chỉ là một phần thưởng an ủi.
OpenAI và Ultraman từ lâu đã bị xã hội chỉ trích, đặc biệt là bởi Musk, người đã khai thác triệt để những điểm yếu của chúng.
Một tính năng nhỏ mới được ChatGPT ra mắt gần đây đã mang lại chút ấm áp cho nhiều người.
Tính năng này được gọi là " Liên hệ đáng tin cậy"."Trong ChatGPT" dịch theo nghĩa đen là "người liên hệ đáng tin cậy". Thao tác rất đơn giản. Trong phần cài đặt ChatGPT, người dùng có thể chỉ định một người lớn đáng tin cậy, chẳng hạn như thành viên gia đình, bạn bè hoặc người khác.
Tài liệu kỹ thuật về tính năng này nêu rõ rằng mọi người sử dụng ChatGPT để học hỏi, mở rộng tư duy, giải quyết vấn đề và cũng để tâm sự về những khó khăn cá nhân. Trong những cuộc trò chuyện này, người dùng đôi khi gặp phải tình trạng căng thẳng về mặt cảm xúc hoặc cần sự hỗ trợ về mặt tinh thần.
Nếu hệ thống giám sát thông minh của nền tảng phát hiện các tuyên bố liên quan đến tự gây hại hoặc các mối nguy hiểm tiềm tàng về an toàn trong cuộc trò chuyện của người dùng, ChatGPT sẽ thông báo cho người dùng rằng người liên hệ khẩn cấp của họ có thể đã được thông báo và đưa ra các gợi ý liên lạc, khuyến khích người dùng chủ động tâm sự với người kia.
Sau đó, tình huống sẽ được một nhóm chuyên gia xem xét thủ công. Nếu các chuyên gia xác định rằng cuộc trò chuyện thực sự tiềm ẩn rủi ro bảo mật nghiêm trọng, nền tảng sẽ gửi lời nhắc ngắn gọn đến người liên hệ khẩn cấp qua email, SMS hoặc thông báo trong ứng dụng đến tài khoản ChatGPT của bên kia.
Thông báo cũng bao gồm một liên kết đến hướng dẫn chuyên nghiệp để giúp người liên hệ thực hiện các cuộc giao tiếp nhạy cảm một cách đúng mực.
Tiến sĩ Arthur Evans, Giám đốc điều hành Hiệp hội Tâm lý học Hoa Kỳ, cho biết việc thiết lập các kết nối cảm xúc giữa các cá nhân là một sức mạnh bảo vệ tâm lý mạnh mẽ, đặc biệt là trong những giai đoạn căng thẳng và dễ bị tổn thương về mặt cảm xúc. Bằng cách thiết lập trước một số liên lạc khẩn cấp, đồng thời tôn trọng sự lựa chọn và quyền tự chủ của cá nhân, mọi người có thể dễ dàng nhận được sự hỗ trợ thực tế khi họ cần giúp đỡ nhất, thay vì nhận được sự an ủi lạnh lùng, vô cảm từ trí tuệ nhân tạo .
Tuy nhiên, tính năng này không thể thay thế việc điều trị chuyên nghiệp. Trong những trường hợp cần thiết, ChatGPT vẫn sẽ chủ động hướng dẫn người dùng gọi đến đường dây nóng hỗ trợ khủng hoảng hoặc liên hệ với các dịch vụ khẩn cấp.
Theo các báo cáo, chức năng này là sự mở rộng của hệ thống kiểm soát của phụ huynh và thông báo an toàn dành cho thanh thiếu niên ban đầu.
Tính năng ban đầu cho phép người giám hộ nhận được cảnh báo khi tài khoản của người chưa đủ tuổi được liên kết có dấu hiệu rõ ràng của sự suy sụp tinh thần. Giờ đây , tất cả người dùng từ 18 tuổi trở lên đều có thể thêm người liên hệ khẩn cấp một cách độc lập.
ChatGPT khẳng định tính năng này được định hướng xuyên suốt bởi các bác sĩ tâm thần, nhà nghiên cứu và các tổ chức chuyên nghiệp tập trung vào sức khỏe tâm thần và phòng ngừa tutu.
Đằng sau đó là Mạng lưới Bác sĩ Toàn cầu OpenAI. Nền tảng này dựa trên ủy ban chuyên gia về sức khỏe tâm thần và trí tuệ nhân tạo (bao gồm hơn 60 quốc gia và hơn 260 bác sĩ được cấp phép) và cũng có sự hợp tác sâu rộng với các tổ chức chuyên nghiệp bên ngoài như Hiệp hội Tâm lý học Hoa Kỳ.
Như ChatGPT đã nêu trong mô tả tính năng của mình, điều này có thể không giải quyết hoàn toàn vấn đề, và người dùng cũng có cùng quan điểm này.
Trên X, có rất nhiều bình luận về vấn đề này, chẳng hạn như nghi ngờ về việc AI không thể đưa ra phán đoán chính xác, và quan trọng hơn, sự tồn tại của việc rò rỉ thông tin cá nhân, điều này thậm chí có thể làm trầm trọng thêm cảm xúc của người dùng.
Trên thực tế, bên cạnh các số liên lạc khẩn cấp, ChatGPT đã nỗ lực giải quyết những thách thức khác khi sử dụng trí tuệ nhân tạo trong các tình huống tư vấn tâm lý.
Ví dụ, một nhóm gồm hơn 170 chuyên gia sức khỏe tâm thần đã được tập hợp để liên tục tối ưu hóa khả năng của mô hình trong việc nhận diện các dấu hiệu suy sụp tinh thần và xoa dịu cảm xúc trong các cuộc trò chuyện.
Chẳng hạn, sau khi được đào tạo chuyên sâu hơn, mô hình sẽ từ chối cung cấp bất kỳ hướng dẫn nào về các phương pháp ***** hoặc tự gây thương tích. Khi người dùng yêu cầu thông tin như vậy, hệ thống sẽ trực tiếp từ chối và đề xuất các nguồn hỗ trợ khủng hoảng tại địa phương.
Trước đây, cách tiếp cận của ChatGPT đối với vấn đề này là khắc phục lỗi kỹ thuật và cung cấp số điện thoại đường dây nóng. Rõ ràng, đây chỉ là một phần thưởng an ủi.
OpenAI và Ultraman từ lâu đã bị xã hội chỉ trích, đặc biệt là bởi Musk, người đã khai thác triệt để những điểm yếu của chúng.
Một tính năng nhỏ mới được ChatGPT ra mắt gần đây đã mang lại chút ấm áp cho nhiều người.
Tính năng này được gọi là " Liên hệ đáng tin cậy"."Trong ChatGPT" dịch theo nghĩa đen là "người liên hệ đáng tin cậy". Thao tác rất đơn giản. Trong phần cài đặt ChatGPT, người dùng có thể chỉ định một người lớn đáng tin cậy, chẳng hạn như thành viên gia đình, bạn bè hoặc người khác.
Tài liệu kỹ thuật về tính năng này nêu rõ rằng mọi người sử dụng ChatGPT để học hỏi, mở rộng tư duy, giải quyết vấn đề và cũng để tâm sự về những khó khăn cá nhân. Trong những cuộc trò chuyện này, người dùng đôi khi gặp phải tình trạng căng thẳng về mặt cảm xúc hoặc cần sự hỗ trợ về mặt tinh thần.
Nếu hệ thống giám sát thông minh của nền tảng phát hiện các tuyên bố liên quan đến tự gây hại hoặc các mối nguy hiểm tiềm tàng về an toàn trong cuộc trò chuyện của người dùng, ChatGPT sẽ thông báo cho người dùng rằng người liên hệ khẩn cấp của họ có thể đã được thông báo và đưa ra các gợi ý liên lạc, khuyến khích người dùng chủ động tâm sự với người kia.
Sau đó, tình huống sẽ được một nhóm chuyên gia xem xét thủ công. Nếu các chuyên gia xác định rằng cuộc trò chuyện thực sự tiềm ẩn rủi ro bảo mật nghiêm trọng, nền tảng sẽ gửi lời nhắc ngắn gọn đến người liên hệ khẩn cấp qua email, SMS hoặc thông báo trong ứng dụng đến tài khoản ChatGPT của bên kia.
Thông báo cũng bao gồm một liên kết đến hướng dẫn chuyên nghiệp để giúp người liên hệ thực hiện các cuộc giao tiếp nhạy cảm một cách đúng mực.
Tiến sĩ Arthur Evans, Giám đốc điều hành Hiệp hội Tâm lý học Hoa Kỳ, cho biết việc thiết lập các kết nối cảm xúc giữa các cá nhân là một sức mạnh bảo vệ tâm lý mạnh mẽ, đặc biệt là trong những giai đoạn căng thẳng và dễ bị tổn thương về mặt cảm xúc. Bằng cách thiết lập trước một số liên lạc khẩn cấp, đồng thời tôn trọng sự lựa chọn và quyền tự chủ của cá nhân, mọi người có thể dễ dàng nhận được sự hỗ trợ thực tế khi họ cần giúp đỡ nhất, thay vì nhận được sự an ủi lạnh lùng, vô cảm từ trí tuệ nhân tạo .
Tuy nhiên, tính năng này không thể thay thế việc điều trị chuyên nghiệp. Trong những trường hợp cần thiết, ChatGPT vẫn sẽ chủ động hướng dẫn người dùng gọi đến đường dây nóng hỗ trợ khủng hoảng hoặc liên hệ với các dịch vụ khẩn cấp.
Theo các báo cáo, chức năng này là sự mở rộng của hệ thống kiểm soát của phụ huynh và thông báo an toàn dành cho thanh thiếu niên ban đầu.
Tính năng ban đầu cho phép người giám hộ nhận được cảnh báo khi tài khoản của người chưa đủ tuổi được liên kết có dấu hiệu rõ ràng của sự suy sụp tinh thần. Giờ đây , tất cả người dùng từ 18 tuổi trở lên đều có thể thêm người liên hệ khẩn cấp một cách độc lập.
ChatGPT khẳng định tính năng này được định hướng xuyên suốt bởi các bác sĩ tâm thần, nhà nghiên cứu và các tổ chức chuyên nghiệp tập trung vào sức khỏe tâm thần và phòng ngừa tutu.
Đằng sau đó là Mạng lưới Bác sĩ Toàn cầu OpenAI. Nền tảng này dựa trên ủy ban chuyên gia về sức khỏe tâm thần và trí tuệ nhân tạo (bao gồm hơn 60 quốc gia và hơn 260 bác sĩ được cấp phép) và cũng có sự hợp tác sâu rộng với các tổ chức chuyên nghiệp bên ngoài như Hiệp hội Tâm lý học Hoa Kỳ.
Như ChatGPT đã nêu trong mô tả tính năng của mình, điều này có thể không giải quyết hoàn toàn vấn đề, và người dùng cũng có cùng quan điểm này.
Trên X, có rất nhiều bình luận về vấn đề này, chẳng hạn như nghi ngờ về việc AI không thể đưa ra phán đoán chính xác, và quan trọng hơn, sự tồn tại của việc rò rỉ thông tin cá nhân, điều này thậm chí có thể làm trầm trọng thêm cảm xúc của người dùng.
Trên thực tế, bên cạnh các số liên lạc khẩn cấp, ChatGPT đã nỗ lực giải quyết những thách thức khác khi sử dụng trí tuệ nhân tạo trong các tình huống tư vấn tâm lý.
Ví dụ, một nhóm gồm hơn 170 chuyên gia sức khỏe tâm thần đã được tập hợp để liên tục tối ưu hóa khả năng của mô hình trong việc nhận diện các dấu hiệu suy sụp tinh thần và xoa dịu cảm xúc trong các cuộc trò chuyện.
Chẳng hạn, sau khi được đào tạo chuyên sâu hơn, mô hình sẽ từ chối cung cấp bất kỳ hướng dẫn nào về các phương pháp ***** hoặc tự gây thương tích. Khi người dùng yêu cầu thông tin như vậy, hệ thống sẽ trực tiếp từ chối và đề xuất các nguồn hỗ trợ khủng hoảng tại địa phương.
