Mẫn Nhi✔
Admin xinh gái
Hỏi AI đơn thuốc để tự chữa bệnh vốn đã liều, nhưng giao phó cả lịch trình sinh tồn trên núi cao cho chatbot thì mức độ rủi ro cũng chẳng kém cạnh. Một nhóm bạn trẻ vừa nếm trải bài học nhớ đời tại núi Shasta khi tin sái cổ vào thời gian biểu và thực đơn do Google Gemini vạch sẵn.
Để chuẩn bị cho chuyến chinh phục ngọn núi Shasta thuộc bang California, nhóm gồm ba người leo núi trẻ tuổi đã chọn tham khảo lộ trình qua YouTube, ứng dụng AllTrails và đặc biệt là Google Gemini. Không chỉ dừng lại ở việc hỏi đường đi, họ còn nhờ chatbot của Google tư vấn luôn cả lượng thực phẩm và nước uống cần mang theo.
Vấn đề bắt đầu từ việc Gemini ước tính toàn bộ hành trình chỉ mất vỏn vẹn khoảng 8 tiếng đồng hồ. Thậm chí, chatbot này còn chu đáo dặn nhóm chỉ nên mang theo các loại carbohydrate đơn giản thay vì chất béo, với lý do chất béo tiêu hóa quá lâu cho một chuyến đi ngắn. Tin vào phân tích đầy vẻ chuyên nghiệp đó, cả nhóm chỉ chuẩn bị lượng nước và khẩu phần vừa khít cho một chuyến dạo chơi 8 tiếng.
Mãi đến 7 giờ tối ngày 30 tháng 8, họ mới chạm được tới đỉnh núi. Thay vì mất 8 tiếng như Gemini quả quyết, họ tốn đến 16 tiếng chỉ để lên tới nơi, trễ hơn rất nhiều so với mốc 12 giờ trưa vốn là thời điểm an toàn bắt buộc phải quay đầu xuống.
Khó khăn ập đến dồn dập khi màn đêm buông xuống. Chiếc điện thoại duy nhất cài ứng dụng AllTrails dùng để dò đường cạn sạch pin. Trong lúc cố gắng tiết kiệm pin đèn pin đội đầu giữa bóng tối dày đặc, một người trong nhóm đã trượt ngã và chấn thương đầu gối ở độ cao khoảng 3.500 mét.
Đối mặt với tình cảnh không thức ăn dự trữ, thiếu nước uống, không đủ quần áo ấm và chẳng có lều bạt che chắn giữa thời tiết giá lạnh, nhóm buộc phải bấm số 911 cầu cứu. Gió lớn đã hai lần cản trở trực thăng tiếp cận hiện trường, khiến lực lượng kiểm lâm phải mất nhiều giờ di chuyển đường bộ và chỉ có thể tiếp cận được họ vào 9 giờ 30 sáng hôm sau.
Đây không phải lần đầu tiên việc nghe lời chatbot dẫn đến những tình huống trớ trêu, thậm chí nguy hiểm. Từng có trường hợp một nông dân làm hỏng hoàn toàn 25 mẫu cây trồng chỉ vì làm theo công thức diệt cỏ và sâu bệnh do chatbot mách nước. Một người đàn ông khác từng mắc phải chứng rối loạn tâm thần từ thế kỷ 19 sau khi áp dụng chế độ ăn uống do ChatGPT đề xuất, hay bi kịch hơn là trường hợp một thanh niên 19 tuổi nhận tư vấn sử dụng kết hợp các chất gây tử vong cũng từ một chatbot trí tuệ nhân tạo.
Mô hình ngôn ngữ lớn luôn có cách hành văn rất tự tin và mượt mà, nhưng sự tự tin ấy hoàn toàn không đồng nghĩa với độ chính xác thực tế, nhất là ở những hoàn cảnh ranh giới an toàn không cho phép mắc sai số.
Khi chatbot làm hướng dẫn viên dã ngoại
Để chuẩn bị cho chuyến chinh phục ngọn núi Shasta thuộc bang California, nhóm gồm ba người leo núi trẻ tuổi đã chọn tham khảo lộ trình qua YouTube, ứng dụng AllTrails và đặc biệt là Google Gemini. Không chỉ dừng lại ở việc hỏi đường đi, họ còn nhờ chatbot của Google tư vấn luôn cả lượng thực phẩm và nước uống cần mang theo.
Vấn đề bắt đầu từ việc Gemini ước tính toàn bộ hành trình chỉ mất vỏn vẹn khoảng 8 tiếng đồng hồ. Thậm chí, chatbot này còn chu đáo dặn nhóm chỉ nên mang theo các loại carbohydrate đơn giản thay vì chất béo, với lý do chất béo tiêu hóa quá lâu cho một chuyến đi ngắn. Tin vào phân tích đầy vẻ chuyên nghiệp đó, cả nhóm chỉ chuẩn bị lượng nước và khẩu phần vừa khít cho một chuyến dạo chơi 8 tiếng.
16 tiếng lạc lối và cuộc giải cứu trong đêm
Thực tế khắc nghiệt trên núi đá nhanh chóng đập tan kịch bản êm đẹp của AI. Cả nhóm hạ trại tại khu vực suối nguồn Clear Creek từ ngày 29 tháng 8, bất chấp quy định cấm cắm trại tại đây, rồi bắt đầu hành trình leo đỉnh từ 3 giờ sáng hôm sau.Mãi đến 7 giờ tối ngày 30 tháng 8, họ mới chạm được tới đỉnh núi. Thay vì mất 8 tiếng như Gemini quả quyết, họ tốn đến 16 tiếng chỉ để lên tới nơi, trễ hơn rất nhiều so với mốc 12 giờ trưa vốn là thời điểm an toàn bắt buộc phải quay đầu xuống.
Khó khăn ập đến dồn dập khi màn đêm buông xuống. Chiếc điện thoại duy nhất cài ứng dụng AllTrails dùng để dò đường cạn sạch pin. Trong lúc cố gắng tiết kiệm pin đèn pin đội đầu giữa bóng tối dày đặc, một người trong nhóm đã trượt ngã và chấn thương đầu gối ở độ cao khoảng 3.500 mét.
Đối mặt với tình cảnh không thức ăn dự trữ, thiếu nước uống, không đủ quần áo ấm và chẳng có lều bạt che chắn giữa thời tiết giá lạnh, nhóm buộc phải bấm số 911 cầu cứu. Gió lớn đã hai lần cản trở trực thăng tiếp cận hiện trường, khiến lực lượng kiểm lâm phải mất nhiều giờ di chuyển đường bộ và chỉ có thể tiếp cận được họ vào 9 giờ 30 sáng hôm sau.
Bài học đắt giá về tư duy phản biện
Sau khi được đưa về an toàn, nhóm leo núi thừa nhận họ đã dựa dẫm quá nhiều vào AI thay vì tự dùng tư duy phản biện để đánh giá rủi ro.Đây không phải lần đầu tiên việc nghe lời chatbot dẫn đến những tình huống trớ trêu, thậm chí nguy hiểm. Từng có trường hợp một nông dân làm hỏng hoàn toàn 25 mẫu cây trồng chỉ vì làm theo công thức diệt cỏ và sâu bệnh do chatbot mách nước. Một người đàn ông khác từng mắc phải chứng rối loạn tâm thần từ thế kỷ 19 sau khi áp dụng chế độ ăn uống do ChatGPT đề xuất, hay bi kịch hơn là trường hợp một thanh niên 19 tuổi nhận tư vấn sử dụng kết hợp các chất gây tử vong cũng từ một chatbot trí tuệ nhân tạo.
Mô hình ngôn ngữ lớn luôn có cách hành văn rất tự tin và mượt mà, nhưng sự tự tin ấy hoàn toàn không đồng nghĩa với độ chính xác thực tế, nhất là ở những hoàn cảnh ranh giới an toàn không cho phép mắc sai số.
