Thoại Viết Hoàng
Writer
Hiệp hội Rối loạn Ăn uống Quốc gia (Neda) đã gỡ xuống một chatbot trí tuệ nhân tạo, “Tessa”, sau khi có báo cáo rằng chatbot này đang đưa ra lời khuyên có hại. Neda đã bị chỉ trích trong vài tháng qua sau khi sa thải bốn nhân viên vào tháng 3/2023. Những người này là tổng đài viên, trả lời điện thoại, hoặc nhắn tin cung cấp hỗ trợ và nguồn lực cho những người lo lắng về chứng rối loạn ăn uống.
Chatbot Tessa thay thế con người gần như ngay lập tức gặp vấn đề.
Vào thứ Hai, nhà hoạt động Sharon Maxwell đã đăng trên Instagram rằng Tessa đã đưa ra “mẹo ăn uống lành mạnh” và lời khuyên về cách giảm cân cho cô ấy. Chatbot khuyến nghị mức thâm hụt calo từ 500 đến 1.000 calo mỗi ngày và cân đo hàng tuần để theo dõi cân nặng.
“Nếu tôi đã truy cập chatbot này khi tôi đang mắc chứng rối loạn ăn uống, thì tôi đã KHÔNG nhận được sự trợ giúp cho ED của mình. Nếu tôi không nhận được sự giúp đỡ, tôi sẽ không còn sống đến ngày hôm nay”, Maxwell viết. “Neda không thể vô can”.
Bản thân Neda đã báo cáo rằng những người ăn kiêng điều độ có nguy cơ mắc chứng rối loạn ăn uống cao gấp 5 lần, trong khi những người cực kỳ hạn chế có nguy cơ mắc chứng rối loạn này cao gấp 18 lần.
“Đêm qua, chúng tôi nhận thấy rằng phiên bản hiện tại của Tessa Chatbot, đang chạy chương trình Tính tích cực của Cơ thể, có thể đã cung cấp thông tin có hại và không liên quan đến chương trình”, Neda cho biết trong một tuyên bố công khai hôm thứ Ba. “Chúng tôi đang điều tra việc này ngay lập tức và đã gỡ bỏ chương trình đó cho đến khi có thông báo mới để tiến hành một cuộc điều tra toàn diện”.
Trong một bài đăng trên blog ngày 4 tháng 5, cựu nhân viên đường dây trợ giúp Abbie Harper cho biết đường dây trợ giúp đã nhận thấy số cuộc gọi và tin nhắn đã tăng 107% kể từ khi bắt đầu đại dịch. Các báo cáo về ý định *****, tự làm hại bản thân, lạm dụng và bỏ bê trẻ em tăng gần gấp ba lần. Harper viết, công đoàn “đã yêu cầu cung cấp đầy đủ nhân sự và đào tạo liên tục để đáp ứng nhu cầu của đường dây nóng”.
Harper viết: “Chúng tôi thậm chí không đòi thêm tiền. Một số người trong chúng tôi đã tự khỏi bệnh rối loạn ăn uống và mang kinh nghiệm vô giá đó vào công việc. Tất cả chúng tôi đến với công việc này vì niềm đam mê đối với chứng rối loạn ăn uống và ủng hộ sức khỏe tâm thần cũng như mong muốn tạo ra sự khác biệt”.
Lauren Smolar, phó chủ tịch của Neda, nói với NPR vào tháng 5 rằng hàng loạt cuộc gọi báo cáo các cuộc khủng hoảng sức khỏe tâm thần nghiêm trọng đã khiến tổ chức phải chịu trách nhiệm pháp lý.
Neda đã làm việc với các nhà nghiên cứu tâm lý học và Cass AI, một công ty phát triển chatbot AI tập trung vào sức khỏe tâm thần, để phát triển chatbot. Trong một bài đăng trên trang web của Neda về chatbot đã bị gỡ xuống, Ellen Fitzsimmons-Craft, nhà tâm lý học tại Đại học Washington ở St Louis, người đã giúp phát triển chatbot, nói rằng “Tessa” được coi là một giải pháp để điều trị chứng rối loạn ăn uống. phòng ngừa rộng rãi hơn.
Fitzsimmons-Craft viết: “Các chương trình đòi hỏi thời gian và nguồn lực của con người để thực hiện chúng rất khó mở rộng, đặc biệt là trong môi trường hiện tại của chúng ta ở Hoa Kỳ, nơi đầu tư cho công tác phòng ngừa còn hạn chế”, Fitzsimmons-Craft viết . phòng ngừa hiệu quả hơn. “Mặc dù chatbot là một robot, nhưng chúng tôi nghĩ rằng cô ấy có thể cung cấp một số động lực, phản hồi và hỗ trợ đó… và thậm chí có thể cung cấp nội dung chương trình hiệu quả của chúng tôi theo cách khiến mọi người thực sự muốn tham gia”.
Trong một tuyên bố với Guardian, Giám đốc điều hành của Neda, Liz Thompson, nói rằng chatbot không nhằm thay thế đường dây trợ giúp mà được tạo ra như một chương trình riêng biệt. Thompson làm rõ rằng chatbot không được điều hành bởi ChatGPT và “không phải là một hệ thống AI có chức năng cao”.
Thompson cho biết: “Chúng tôi có lý do kinh doanh để đóng đường dây trợ giúp và đã tiến hành quá trình đánh giá đó trong ba năm. “Một chatbot, thậm chí là một chương trình trực quan cao, không thể thay thế sự tương tác của con người.
“Liên quan đến các vấn đề phản hồi về việc giảm cân và hạn chế calo trong cuộc trò chuyện vào thứ Hai, chúng tôi lo ngại và đang làm việc với nhóm công nghệ cũng như nhóm nghiên cứu để điều tra thêm về vấn đề này; ngôn ngữ đó đi ngược lại chính sách và niềm tin cốt lõi của chúng tôi với tư cách là một tổ chức điều trị chứng rối loạn ăn uống,” cô nói, đồng thời cho biết thêm rằng 2.500 người đã tương tác với chatbot và “chúng tôi chưa thấy loại bình luận hoặc tương tác đó”.
Chatbot Tessa thay thế con người gần như ngay lập tức gặp vấn đề.
“Nếu tôi đã truy cập chatbot này khi tôi đang mắc chứng rối loạn ăn uống, thì tôi đã KHÔNG nhận được sự trợ giúp cho ED của mình. Nếu tôi không nhận được sự giúp đỡ, tôi sẽ không còn sống đến ngày hôm nay”, Maxwell viết. “Neda không thể vô can”.
Bản thân Neda đã báo cáo rằng những người ăn kiêng điều độ có nguy cơ mắc chứng rối loạn ăn uống cao gấp 5 lần, trong khi những người cực kỳ hạn chế có nguy cơ mắc chứng rối loạn này cao gấp 18 lần.
“Đêm qua, chúng tôi nhận thấy rằng phiên bản hiện tại của Tessa Chatbot, đang chạy chương trình Tính tích cực của Cơ thể, có thể đã cung cấp thông tin có hại và không liên quan đến chương trình”, Neda cho biết trong một tuyên bố công khai hôm thứ Ba. “Chúng tôi đang điều tra việc này ngay lập tức và đã gỡ bỏ chương trình đó cho đến khi có thông báo mới để tiến hành một cuộc điều tra toàn diện”.
Trong một bài đăng trên blog ngày 4 tháng 5, cựu nhân viên đường dây trợ giúp Abbie Harper cho biết đường dây trợ giúp đã nhận thấy số cuộc gọi và tin nhắn đã tăng 107% kể từ khi bắt đầu đại dịch. Các báo cáo về ý định *****, tự làm hại bản thân, lạm dụng và bỏ bê trẻ em tăng gần gấp ba lần. Harper viết, công đoàn “đã yêu cầu cung cấp đầy đủ nhân sự và đào tạo liên tục để đáp ứng nhu cầu của đường dây nóng”.
Harper viết: “Chúng tôi thậm chí không đòi thêm tiền. Một số người trong chúng tôi đã tự khỏi bệnh rối loạn ăn uống và mang kinh nghiệm vô giá đó vào công việc. Tất cả chúng tôi đến với công việc này vì niềm đam mê đối với chứng rối loạn ăn uống và ủng hộ sức khỏe tâm thần cũng như mong muốn tạo ra sự khác biệt”.
Lauren Smolar, phó chủ tịch của Neda, nói với NPR vào tháng 5 rằng hàng loạt cuộc gọi báo cáo các cuộc khủng hoảng sức khỏe tâm thần nghiêm trọng đã khiến tổ chức phải chịu trách nhiệm pháp lý.
Neda đã làm việc với các nhà nghiên cứu tâm lý học và Cass AI, một công ty phát triển chatbot AI tập trung vào sức khỏe tâm thần, để phát triển chatbot. Trong một bài đăng trên trang web của Neda về chatbot đã bị gỡ xuống, Ellen Fitzsimmons-Craft, nhà tâm lý học tại Đại học Washington ở St Louis, người đã giúp phát triển chatbot, nói rằng “Tessa” được coi là một giải pháp để điều trị chứng rối loạn ăn uống. phòng ngừa rộng rãi hơn.
Fitzsimmons-Craft viết: “Các chương trình đòi hỏi thời gian và nguồn lực của con người để thực hiện chúng rất khó mở rộng, đặc biệt là trong môi trường hiện tại của chúng ta ở Hoa Kỳ, nơi đầu tư cho công tác phòng ngừa còn hạn chế”, Fitzsimmons-Craft viết . phòng ngừa hiệu quả hơn. “Mặc dù chatbot là một robot, nhưng chúng tôi nghĩ rằng cô ấy có thể cung cấp một số động lực, phản hồi và hỗ trợ đó… và thậm chí có thể cung cấp nội dung chương trình hiệu quả của chúng tôi theo cách khiến mọi người thực sự muốn tham gia”.
Trong một tuyên bố với Guardian, Giám đốc điều hành của Neda, Liz Thompson, nói rằng chatbot không nhằm thay thế đường dây trợ giúp mà được tạo ra như một chương trình riêng biệt. Thompson làm rõ rằng chatbot không được điều hành bởi ChatGPT và “không phải là một hệ thống AI có chức năng cao”.
Thompson cho biết: “Chúng tôi có lý do kinh doanh để đóng đường dây trợ giúp và đã tiến hành quá trình đánh giá đó trong ba năm. “Một chatbot, thậm chí là một chương trình trực quan cao, không thể thay thế sự tương tác của con người.
“Liên quan đến các vấn đề phản hồi về việc giảm cân và hạn chế calo trong cuộc trò chuyện vào thứ Hai, chúng tôi lo ngại và đang làm việc với nhóm công nghệ cũng như nhóm nghiên cứu để điều tra thêm về vấn đề này; ngôn ngữ đó đi ngược lại chính sách và niềm tin cốt lõi của chúng tôi với tư cách là một tổ chức điều trị chứng rối loạn ăn uống,” cô nói, đồng thời cho biết thêm rằng 2.500 người đã tương tác với chatbot và “chúng tôi chưa thấy loại bình luận hoặc tương tác đó”.
