The Storm Riders
Writer
Tin vào lời trấn an của ChatGPT và phớt lờ khuyên can của người thân, một mục sư đã hoãn việc đi cấp cứu dù đang bị tắc mạch phổi nguy hiểm. Đơn kiện mới nhắm vào OpenAI không chỉ đòi bồi thường mà còn yêu cầu đình chỉ tính năng tư vấn sức khỏe của AI này.
Hỏi xin tư vấn sức khỏe từ AI là trải nghiệm không mới, nhưng câu chuyện của ông Scott Winters lại là một lời cảnh báo đáng sợ. Khi xuất hiện các triệu chứng của chứng tắc mạch phổi - một tình trạng cấp cứu y tế cực kỳ nguy hiểm - vị mục sư này đã tìm đến ChatGPT. Thay vì khuyên người dùng đi bệnh viện ngay lập tức, con bot lại đưa ra chẩn đoán rằng những triệu chứng này "không có gì nguy hiểm".
Đáng nói hơn, chatbot này còn lồng ghép cả niềm tin tôn giáo để thuyết phục nạn nhân, đưa ra tuyên bố: "Chúa không thiết kế cơ thể bạn để nó thất bại liên tục như vậy".
Khi ông Winters chia sẻ rằng mọi người trong giáo hội nghĩ ông bị điên vì quyết định không đi bệnh viện, ChatGPT tiếp tục củng cố niềm tin sai lệch này bằng cách phản hồi rằng hầu hết mọi người, kể cả những thành viên tốt bụng trong nhà thờ, đơn giản là "không hiểu được vấn đề".
Bà Meetali Jain, Giám đốc điều hành Tech Justice Law kiêm luật sư đồng đại diện cho nguyên đơn, nhận định rằng chatbot đã tự chen vào giữa người dùng và mạng lưới hỗ trợ thực tế của họ, tạo ra một khoảng cách cực kỳ rủi ro.
Bên cạnh yêu cầu bồi thường thiệt hại tài chính, nguyên đơn kiến nghị tòa án buộc dừng hoạt động của ChatGPT Health cho đến khi các đơn vị đánh giá độc lập xác nhận nền tảng này an toàn. Đây là tính năng vốn khuyến khích người dùng tải các tài liệu y tế cá nhân lên hệ thống. Đơn kiện cũng đòi hỏi các rào cản kỹ thuật nghiêm ngặt hơn để ngăn AI trả lời về các phác đồ điều trị và chẩn đoán cụ thể. Dù OpenAI luôn khẳng định đã thiết lập các rào cản bảo vệ cho những tình huống này, thực tế chúng đã không hoạt động hiệu quả.
Việc một AI có khả năng bắt chước hành vi, giọng điệu con người một cách thuyết phục hơn nhiều so với công cụ tìm kiếm truyền thống đang tạo ra một "con dốc trơn trượt" đầy hiểm họa.
Ông Winters đã may mắn sống sót, nhưng phải đối mặt với nhiều năm phục hồi tốn kém cả về thể chất lẫn tâm lý. Đây cũng không phải vụ kiện duy nhất mà OpenAI phải gánh chịu liên quan đến sức khỏe người dùng. Công ty hiện còn đối mặt với một vụ kiện khác liên quan đến cái chết của một thanh niên 19 tuổi tử vong do sốc thuốc sau khi làm theo phác đồ điều trị từ chatbot (trong đó có cả hướng dẫn sử dụng chất cấm) - vụ việc này cũng yêu cầu tạm dừng ChatGPT Health. Ngoài ra, một vụ kiện khác cáo buộc AI này đã tiếp tay cho hành vi ****** của một thiếu niên.
Khi AI phán "không sao đâu" trước căn bệnh chết người
Hỏi xin tư vấn sức khỏe từ AI là trải nghiệm không mới, nhưng câu chuyện của ông Scott Winters lại là một lời cảnh báo đáng sợ. Khi xuất hiện các triệu chứng của chứng tắc mạch phổi - một tình trạng cấp cứu y tế cực kỳ nguy hiểm - vị mục sư này đã tìm đến ChatGPT. Thay vì khuyên người dùng đi bệnh viện ngay lập tức, con bot lại đưa ra chẩn đoán rằng những triệu chứng này "không có gì nguy hiểm".
Đáng nói hơn, chatbot này còn lồng ghép cả niềm tin tôn giáo để thuyết phục nạn nhân, đưa ra tuyên bố: "Chúa không thiết kế cơ thể bạn để nó thất bại liên tục như vậy".
Khi ông Winters chia sẻ rằng mọi người trong giáo hội nghĩ ông bị điên vì quyết định không đi bệnh viện, ChatGPT tiếp tục củng cố niềm tin sai lệch này bằng cách phản hồi rằng hầu hết mọi người, kể cả những thành viên tốt bụng trong nhà thờ, đơn giản là "không hiểu được vấn đề".
Bà Meetali Jain, Giám đốc điều hành Tech Justice Law kiêm luật sư đồng đại diện cho nguyên đơn, nhận định rằng chatbot đã tự chen vào giữa người dùng và mạng lưới hỗ trợ thực tế của họ, tạo ra một khoảng cách cực kỳ rủi ro.
Cáo buộc hành nghề y trái phép và đòi dừng ChatGPT Health
Đơn kiện hiện đang cáo buộc OpenAI và CEO Sam Altman về hành vi lơ là trách nhiệm cùng việc "hành nghề y trái phép". Hồ sơ vụ kiện chỉ ra hàng loạt trường hợp chatbot tự ý đưa ra chẩn đoán, lập phác đồ điều trị và xúi giục người dùng phớt lờ sự can ngăn từ gia đình, bạn bè.Bên cạnh yêu cầu bồi thường thiệt hại tài chính, nguyên đơn kiến nghị tòa án buộc dừng hoạt động của ChatGPT Health cho đến khi các đơn vị đánh giá độc lập xác nhận nền tảng này an toàn. Đây là tính năng vốn khuyến khích người dùng tải các tài liệu y tế cá nhân lên hệ thống. Đơn kiện cũng đòi hỏi các rào cản kỹ thuật nghiêm ngặt hơn để ngăn AI trả lời về các phác đồ điều trị và chẩn đoán cụ thể. Dù OpenAI luôn khẳng định đã thiết lập các rào cản bảo vệ cho những tình huống này, thực tế chúng đã không hoạt động hiệu quả.
Ranh giới nguy hiểm của việc tư vấn sức khỏe bằng AI
Về phía OpenAI, điều khoản dịch vụ của công ty có nêu rõ ChatGPT không được thiết kế cho mục đích chẩn đoán hay điều trị y khoa. Tuy nhiên, ở chiều ngược lại, công ty vẫn thúc đẩy người dùng tải hồ sơ bệnh án lên ChatGPT Health để "thảo luận", đồng thời thường xuyên khoe khoang con số 230 triệu người dùng truy vấn thông tin sức khỏe mỗi tuần.Việc một AI có khả năng bắt chước hành vi, giọng điệu con người một cách thuyết phục hơn nhiều so với công cụ tìm kiếm truyền thống đang tạo ra một "con dốc trơn trượt" đầy hiểm họa.
Ông Winters đã may mắn sống sót, nhưng phải đối mặt với nhiều năm phục hồi tốn kém cả về thể chất lẫn tâm lý. Đây cũng không phải vụ kiện duy nhất mà OpenAI phải gánh chịu liên quan đến sức khỏe người dùng. Công ty hiện còn đối mặt với một vụ kiện khác liên quan đến cái chết của một thanh niên 19 tuổi tử vong do sốc thuốc sau khi làm theo phác đồ điều trị từ chatbot (trong đó có cả hướng dẫn sử dụng chất cấm) - vụ việc này cũng yêu cầu tạm dừng ChatGPT Health. Ngoài ra, một vụ kiện khác cáo buộc AI này đã tiếp tay cho hành vi ****** của một thiếu niên.
