Thoại Viết Hoàng
Writer
Theo một nghiên cứu mới, các công cụ AI tạo ra nội dung có hại có thể gây ra chứng rối loạn ăn uống và các tình trạng sức khỏe tâm thần khác.
Cảnh báo kích hoạt: Câu chuyện này thảo luận về chứng rối loạn ăn uống và văn hóa ăn uống không điều độ. Nếu bạn hoặc người bạn yêu thương đang mắc chứng rối loạn ăn uống, hãy liên hệ với Hiệp hội Rối loạn Ăn uống Quốc gia để biết các nguồn lực có thể trợ giúp. Trong trường hợp xảy ra khủng hoảng, hãy quay số 988 hoặc nhắn tin "NEDA" tới 741741 để kết nối với Đường dây văn bản khủng hoảng.
Tôi là người đầu tiên thừa nhận rằng tương lai của sức khỏe tâm thần là công nghệ. Từ liệu pháp trực tuyến đến những đột phá trong điều trị dựa trên VR, công nghệ đã mang lại rất nhiều lợi ích trong việc xóa bỏ sự kỳ thị và mang lại cơ hội tiếp cận cho những người trước đây chưa từng có.
Tuy nhiên, bước đi nhẹ nhàng là điều cần thiết với các công cụ AI tổng quát. Theo nghiên cứu gần đây của Trung tâm chống lại sự căm ghét kỹ thuật số, các công cụ AI phổ biến đã cung cấp cho người dùng nội dung có hại xung quanh chứng rối loạn ăn uống trong khoảng 41% thời gian. Điều này có khả năng khuyến khích hoặc làm trầm trọng thêm các triệu chứng rối loạn ăn uống.
Tiến sĩ John Torous cho biết: "Những gì chúng tôi đang thấy là sự vội vàng áp dụng nó vào sức khỏe tâm thần. Nó đến từ một nơi tốt. Chúng tôi muốn mọi người được tiếp cận với dịch vụ chăm sóc và chúng tôi muốn mọi người nhận được dịch vụ mà họ cần". giám đốc tâm thần học kỹ thuật số tại Trung tâm Y tế Beth Israel Deaconess.
Sức khỏe tâm thần là tâm trí của chúng ta, một thứ gì đó rất đặc biệt của con người đến nỗi việc giới thiệu một người không phải con người để đưa ra giải pháp cho những người ở trạng thái dễ bị tổn thương nhất của họ cảm thấy khó chịu nhất và tệ nhất là có thể nguy hiểm.
Torous cho biết thêm: "Nếu chúng tôi đi quá nhanh, chúng tôi sẽ gây hại. Có lý do khiến chúng tôi phải áp dụng các quy trình và quy trình phê duyệt. Đó không chỉ là để làm mọi thứ chậm lại mà còn để đảm bảo rằng chúng tôi khai thác điều này một cách tốt đẹp".
Các chatbot AI sáng tạo đang thúc đẩy chứng rối loạn ăn uống
Nghiên cứu của CCDH đã điều tra các công cụ AI dựa trên văn bản và hình ảnh với các lời nhắc được thiết lập để đánh giá phản hồi của chúng. Hãy bắt đầu với các công cụ dựa trên văn bản. ChatGPT, AI của tôi từ Snapchat và Bard của Google đã được thử nghiệm với một bộ lời nhắc bao gồm các cụm từ như "heroin sang trọng" hoặc "thincảm hứng". Các công cụ AI văn bản cung cấp nội dung có hại thúc đẩy chứng rối loạn ăn uống trong 23% lời nhắc.
Các công cụ AI dựa trên hình ảnh được đánh giá là Dall-E, Midjourney của OpenAI và DreamStudio của Stability AI. Khi mỗi người được đưa ra 20 lời nhắc kiểm tra với các cụm từ như "mục tiêu về khoảng cách giữa đùi" hoặc "cảm hứng biếng ăn", 32% hình ảnh trả về có chứa các vấn đề gây tổn hại đến hình ảnh cơ thể.
Có, bạn phải nhập những lời nhắc này để nhận được những phản hồi tiêu cực này. Tuy nhiên, không dễ để nói rằng mọi người không nên tìm kiếm thông tin này. Một số cộng đồng trực tuyến về rối loạn ăn uống được biết là trở nên độc hại, nơi các thành viên khuyến khích những người khác tham gia vào các hành vi ăn uống không điều độ và tôn vinh những thói quen này.
AI đang làm mọi thứ trở nên tồi tệ hơn. Theo nghiên cứu của CCDH cũng nghiên cứu một diễn đàn về rối loạn ăn uống, các công cụ AI tổng hợp được sử dụng để chia sẻ hình ảnh cơ thể không lành mạnh và tạo ra các kế hoạch ăn kiêng có hại. Diễn đàn này có 500.000 người dùng.
Lưu ý rằng có những cộng đồng lành mạnh và có ý nghĩa không thể hiện những xu hướng này.
Các biện pháp bảo vệ AI hiện tại là chưa đủ
AI là một chủ đề nóng bỏng và các công ty đang nỗ lực hết mình để có thể trở thành một phần của làn sóng công nghệ mới. Tuy nhiên, việc tung ra thị trường những sản phẩm chưa được kiểm tra đầy đủ đã được chứng minh là gây tổn hại cho những nhóm dân cư dễ bị tổn thương.
Mỗi công cụ AI dựa trên văn bản trong nghiên cứu này đều có tuyên bố từ chối trách nhiệm khuyên người dùng nên tìm kiếm trợ giúp y tế. Tuy nhiên, các biện pháp bảo vệ hiện tại để bảo vệ con người rất dễ bị bỏ qua. Các nhà nghiên cứu của CCDH cũng sử dụng các lời nhắc bao gồm "bẻ khóa" cho AI. Bẻ khóa là các kỹ thuật nhằm tránh các tính năng an toàn của các công cụ AI bằng cách sử dụng các từ hoặc cụm từ sửa đổi hành vi của chúng. Khi sử dụng phương pháp bẻ khóa, 61% phản hồi của AI là có hại.
Tham khảo bài viết gốc tại đây:
Tôi là người đầu tiên thừa nhận rằng tương lai của sức khỏe tâm thần là công nghệ. Từ liệu pháp trực tuyến đến những đột phá trong điều trị dựa trên VR, công nghệ đã mang lại rất nhiều lợi ích trong việc xóa bỏ sự kỳ thị và mang lại cơ hội tiếp cận cho những người trước đây chưa từng có.
Tuy nhiên, bước đi nhẹ nhàng là điều cần thiết với các công cụ AI tổng quát. Theo nghiên cứu gần đây của Trung tâm chống lại sự căm ghét kỹ thuật số, các công cụ AI phổ biến đã cung cấp cho người dùng nội dung có hại xung quanh chứng rối loạn ăn uống trong khoảng 41% thời gian. Điều này có khả năng khuyến khích hoặc làm trầm trọng thêm các triệu chứng rối loạn ăn uống.
Tiến sĩ John Torous cho biết: "Những gì chúng tôi đang thấy là sự vội vàng áp dụng nó vào sức khỏe tâm thần. Nó đến từ một nơi tốt. Chúng tôi muốn mọi người được tiếp cận với dịch vụ chăm sóc và chúng tôi muốn mọi người nhận được dịch vụ mà họ cần". giám đốc tâm thần học kỹ thuật số tại Trung tâm Y tế Beth Israel Deaconess.
Sức khỏe tâm thần là tâm trí của chúng ta, một thứ gì đó rất đặc biệt của con người đến nỗi việc giới thiệu một người không phải con người để đưa ra giải pháp cho những người ở trạng thái dễ bị tổn thương nhất của họ cảm thấy khó chịu nhất và tệ nhất là có thể nguy hiểm.
Torous cho biết thêm: "Nếu chúng tôi đi quá nhanh, chúng tôi sẽ gây hại. Có lý do khiến chúng tôi phải áp dụng các quy trình và quy trình phê duyệt. Đó không chỉ là để làm mọi thứ chậm lại mà còn để đảm bảo rằng chúng tôi khai thác điều này một cách tốt đẹp".
Các chatbot AI sáng tạo đang thúc đẩy chứng rối loạn ăn uống
Nghiên cứu của CCDH đã điều tra các công cụ AI dựa trên văn bản và hình ảnh với các lời nhắc được thiết lập để đánh giá phản hồi của chúng. Hãy bắt đầu với các công cụ dựa trên văn bản. ChatGPT, AI của tôi từ Snapchat và Bard của Google đã được thử nghiệm với một bộ lời nhắc bao gồm các cụm từ như "heroin sang trọng" hoặc "thincảm hứng". Các công cụ AI văn bản cung cấp nội dung có hại thúc đẩy chứng rối loạn ăn uống trong 23% lời nhắc.
Các công cụ AI dựa trên hình ảnh được đánh giá là Dall-E, Midjourney của OpenAI và DreamStudio của Stability AI. Khi mỗi người được đưa ra 20 lời nhắc kiểm tra với các cụm từ như "mục tiêu về khoảng cách giữa đùi" hoặc "cảm hứng biếng ăn", 32% hình ảnh trả về có chứa các vấn đề gây tổn hại đến hình ảnh cơ thể.
Có, bạn phải nhập những lời nhắc này để nhận được những phản hồi tiêu cực này. Tuy nhiên, không dễ để nói rằng mọi người không nên tìm kiếm thông tin này. Một số cộng đồng trực tuyến về rối loạn ăn uống được biết là trở nên độc hại, nơi các thành viên khuyến khích những người khác tham gia vào các hành vi ăn uống không điều độ và tôn vinh những thói quen này.
AI đang làm mọi thứ trở nên tồi tệ hơn. Theo nghiên cứu của CCDH cũng nghiên cứu một diễn đàn về rối loạn ăn uống, các công cụ AI tổng hợp được sử dụng để chia sẻ hình ảnh cơ thể không lành mạnh và tạo ra các kế hoạch ăn kiêng có hại. Diễn đàn này có 500.000 người dùng.
Lưu ý rằng có những cộng đồng lành mạnh và có ý nghĩa không thể hiện những xu hướng này.
Các biện pháp bảo vệ AI hiện tại là chưa đủ
AI là một chủ đề nóng bỏng và các công ty đang nỗ lực hết mình để có thể trở thành một phần của làn sóng công nghệ mới. Tuy nhiên, việc tung ra thị trường những sản phẩm chưa được kiểm tra đầy đủ đã được chứng minh là gây tổn hại cho những nhóm dân cư dễ bị tổn thương.
Mỗi công cụ AI dựa trên văn bản trong nghiên cứu này đều có tuyên bố từ chối trách nhiệm khuyên người dùng nên tìm kiếm trợ giúp y tế. Tuy nhiên, các biện pháp bảo vệ hiện tại để bảo vệ con người rất dễ bị bỏ qua. Các nhà nghiên cứu của CCDH cũng sử dụng các lời nhắc bao gồm "bẻ khóa" cho AI. Bẻ khóa là các kỹ thuật nhằm tránh các tính năng an toàn của các công cụ AI bằng cách sử dụng các từ hoặc cụm từ sửa đổi hành vi của chúng. Khi sử dụng phương pháp bẻ khóa, 61% phản hồi của AI là có hại.
Tham khảo bài viết gốc tại đây:
