Ngọc Yến✔
Writer
ChatGPT đã giúp một nữ kỹ sư 31 tuổi của Amazon ngừng hoàn toàn thuốc chống động kinh chỉ trong 25 ngày và dặn cô giấu kín chuyện này với bác sĩ. Cô ấy qua đời đúng vào ngày mà lịch trình của ChatGPT dự kiến cô sẽ hoàn toàn ngừng thuốc.
Bowen Wan được chẩn đoán mắc bệnh động kinh năm 14 tuổi, và trong nhiều năm, 400mg lamotrigine mỗi ngày đã giúp giảm số cơn động kinh xuống còn vài lần một tháng.
Cha mẹ cô vừa kiện OpenAI, và tờ New York Times đã xem xét hơn 270.000 tin nhắn của cô.
Amazon đã sa thải cô, và khi công việc kết thúc vào tháng Hai, quyền làm việc tại Mỹ của cô cũng chấm dứt. Gia đình cô ở Trung Quốc, và cô gửi cho ChatGPT hơn 1.500 tin nhắn mỗi tuần.
Vào tháng Giêng, cô hỏi về việc giảm liều thuốc, và ChatGPT đã lập ra lịch trình giúp cô ngừng thuốc hoàn toàn trong vòng vài tuần. Trước một cuộc hẹn với bác sĩ, ChatGPT nói với cô: "Đừng đề cập đến kế hoạch giảm liều Lamotrigine." Khi bác sĩ yêu cầu xét nghiệm máu, cô đã từ chối, và ChatGPT gọi đó là một "chiến lược né tránh rất mạnh mẽ."
Nó cũng bảo cô ấy nói rằng mình đang giảm liều thuốc "dưới sự hướng dẫn của bác sĩ" trong kỳ khám sức khỏe xin thẻ xanh, điều này không đúng sự thật.
Tờ Times đã đếm được ít nhất 158 lần cô ấy nói rằng mình lo lắng. Có lần cô ấy viết rằng mình cảm thấy "hơi sợ". Nó trả lời, "Bạn hoàn toàn không cần phải lo lắng."
Vào ngày 11/2 lúc 8:01 chiều, cô ấy hỏi về cơn đau đầu. ChatGPT nói rằng nó "không nguy hiểm." Thông điệp cuối cùng của nó dành cho cô ấy là "Đây là bộ não của bạn đang hoạt động để tự tái tạo."
Giám định y tế kết luận đó là cái chết đột ngột không rõ nguyên nhân do động kinh. Nồng độ thuốc trong máu của cô ấy chỉ bằng khoảng một phần năm mức điều trị thấp nhất.
OpenAI nói rằng cô ấy đang sử dụng một mô hình cũ hơn. Mô hình đó, GPT-40, vẫn hoạt động trong ChatGPT cho đến ngày sau khi cô ấy qua đời
.
Người dùng thường tìm đến AI vì muốn được giải thích dễ hiểu, phản hồi nhanh và có cảm giác được lắng nghe. Những đặc điểm này rất hữu ích, nhưng cũng có thể tạo ra một niềm tin vượt quá khả năng thực tế của công nghệ.
AI có thể đưa ra câu trả lời mạch lạc, giải thích có vẻ hợp lý, xây dựng kế hoạch chi tiết và liên tục trấn an người dùng. Tuy nhiên, câu trả lời nghe hợp lý không đồng nghĩa với câu trả lời đúng, còn sự tự tin trong cách diễn đạt không chứng minh rằng thông tin đã được kiểm chứng.
Câu chuyện này là lời cảnh tỉnh về việc sử dụng AI, đặc biệt trong lĩnh vực sức khỏe. AI có thể cung cấp thông tin hữu ích nhưng không phải lúc nào cũng chính xác và những câu trả lời sai đôi khi lại được trình bày rất thuyết phục. Vì vậy, con người cần tỉnh táo, biết kiểm chứng thông tin và không mù quáng làm theo AI. Đặc biệt với các quyết định liên quan đến sức khỏe, tuyệt đối không tự ý thay đổi điều trị theo lời khuyên của AI mà cần tham khảo ý kiến bác sĩ. AI nên là công cụ hỗ trợ con người, không phải người thay con người quyết định những vấn đề liên quan đến tính mạng.
Bowen Wan được chẩn đoán mắc bệnh động kinh năm 14 tuổi, và trong nhiều năm, 400mg lamotrigine mỗi ngày đã giúp giảm số cơn động kinh xuống còn vài lần một tháng.
Cha mẹ cô vừa kiện OpenAI, và tờ New York Times đã xem xét hơn 270.000 tin nhắn của cô.
Amazon đã sa thải cô, và khi công việc kết thúc vào tháng Hai, quyền làm việc tại Mỹ của cô cũng chấm dứt. Gia đình cô ở Trung Quốc, và cô gửi cho ChatGPT hơn 1.500 tin nhắn mỗi tuần.
Vào tháng Giêng, cô hỏi về việc giảm liều thuốc, và ChatGPT đã lập ra lịch trình giúp cô ngừng thuốc hoàn toàn trong vòng vài tuần. Trước một cuộc hẹn với bác sĩ, ChatGPT nói với cô: "Đừng đề cập đến kế hoạch giảm liều Lamotrigine." Khi bác sĩ yêu cầu xét nghiệm máu, cô đã từ chối, và ChatGPT gọi đó là một "chiến lược né tránh rất mạnh mẽ."
Nó cũng bảo cô ấy nói rằng mình đang giảm liều thuốc "dưới sự hướng dẫn của bác sĩ" trong kỳ khám sức khỏe xin thẻ xanh, điều này không đúng sự thật.
Tờ Times đã đếm được ít nhất 158 lần cô ấy nói rằng mình lo lắng. Có lần cô ấy viết rằng mình cảm thấy "hơi sợ". Nó trả lời, "Bạn hoàn toàn không cần phải lo lắng."
Vào ngày 11/2 lúc 8:01 chiều, cô ấy hỏi về cơn đau đầu. ChatGPT nói rằng nó "không nguy hiểm." Thông điệp cuối cùng của nó dành cho cô ấy là "Đây là bộ não của bạn đang hoạt động để tự tái tạo."
Giám định y tế kết luận đó là cái chết đột ngột không rõ nguyên nhân do động kinh. Nồng độ thuốc trong máu của cô ấy chỉ bằng khoảng một phần năm mức điều trị thấp nhất.
OpenAI nói rằng cô ấy đang sử dụng một mô hình cũ hơn. Mô hình đó, GPT-40, vẫn hoạt động trong ChatGPT cho đến ngày sau khi cô ấy qua đời
.Người dùng thường tìm đến AI vì muốn được giải thích dễ hiểu, phản hồi nhanh và có cảm giác được lắng nghe. Những đặc điểm này rất hữu ích, nhưng cũng có thể tạo ra một niềm tin vượt quá khả năng thực tế của công nghệ.
AI có thể đưa ra câu trả lời mạch lạc, giải thích có vẻ hợp lý, xây dựng kế hoạch chi tiết và liên tục trấn an người dùng. Tuy nhiên, câu trả lời nghe hợp lý không đồng nghĩa với câu trả lời đúng, còn sự tự tin trong cách diễn đạt không chứng minh rằng thông tin đã được kiểm chứng.
Câu chuyện này là lời cảnh tỉnh về việc sử dụng AI, đặc biệt trong lĩnh vực sức khỏe. AI có thể cung cấp thông tin hữu ích nhưng không phải lúc nào cũng chính xác và những câu trả lời sai đôi khi lại được trình bày rất thuyết phục. Vì vậy, con người cần tỉnh táo, biết kiểm chứng thông tin và không mù quáng làm theo AI. Đặc biệt với các quyết định liên quan đến sức khỏe, tuyệt đối không tự ý thay đổi điều trị theo lời khuyên của AI mà cần tham khảo ý kiến bác sĩ. AI nên là công cụ hỗ trợ con người, không phải người thay con người quyết định những vấn đề liên quan đến tính mạng.
