Một người đàn ông tại Trung Quốc đã khởi kiện một công ty AI sau khi làm theo lời chatbot để lựa chọn ngày giờ an táng mẹ. Câu chuyện tưởng như hy hữu này lại đặt ra một vấn đề ngày càng đáng chú ý: nếu AI đưa ra thông tin sai và người dùng tin tưởng làm theo, trách nhiệm thuộc về ai?
Theo Jimu News và South China Morning Post, sự việc xảy ra tại huyện Gia Thiện, tỉnh Chiết Giang, Trung Quốc. Sau khi mẹ qua đời vào tháng 4, người đàn ông họ Thạch được giao nhiệm vụ lựa chọn ngày giờ tổ chức tang lễ. Gia đình trước đó đã tham khảo một thầy phong thủy nhưng ông Thạch tiếp tục hỏi chatbot AI của một Công ty trong nước để có thêm lựa chọn.
Chatbot đề xuất ngày 19/4 và đưa ra một số hướng dẫn liên quan đến nghi lễ. Tuy nhiên, trong những câu trả lời sau đó, chatbot lại cung cấp thông tin không nhất quán về ngày và giờ phù hợp. Một mặt, hệ thống gợi ý khung giờ từ 7 đến 9 giờ sáng, nhưng đồng thời lại cho rằng ngày 19/4 không phải ngày lành. Lúc này, gia đình đã thông báo kế hoạch cho người thân nên không thể dễ dàng thay đổi.
Sau tang lễ, một người họ hàng của ông Thạch gặp tai nạn giao thông và bị thương nặng. Một số thành viên trong gia đình cho rằng thời điểm an táng đã ảnh hưởng đến phong thủy và khiến gia đình gặp chuyện không may. Ông Thạch sau đó khởi kiện công ty phát triển chatbot, yêu cầu xin lỗi và bồi thường. Cũng chính ông đã sử dụng chatbot AI để hỗ trợ soạn thảo tài liệu pháp lý và lên kế hoạch cho vụ kiện.Phía công ty cho rằng nội dung do AI tạo ra chỉ nhằm mục đích tham khảo và không phải tư vấn chuyên môn. Điều khoản sử dụng của dịch vụ cũng quy định người dùng chấp nhận những điều khoản này khi sử dụng phần mềm. Vụ việc đã được tòa án địa phương thụ lý và vẫn đang được giải quyết.
Theo Jimu News và South China Morning Post, sự việc xảy ra tại huyện Gia Thiện, tỉnh Chiết Giang, Trung Quốc. Sau khi mẹ qua đời vào tháng 4, người đàn ông họ Thạch được giao nhiệm vụ lựa chọn ngày giờ tổ chức tang lễ. Gia đình trước đó đã tham khảo một thầy phong thủy nhưng ông Thạch tiếp tục hỏi chatbot AI của một Công ty trong nước để có thêm lựa chọn.
Chatbot đề xuất ngày 19/4 và đưa ra một số hướng dẫn liên quan đến nghi lễ. Tuy nhiên, trong những câu trả lời sau đó, chatbot lại cung cấp thông tin không nhất quán về ngày và giờ phù hợp. Một mặt, hệ thống gợi ý khung giờ từ 7 đến 9 giờ sáng, nhưng đồng thời lại cho rằng ngày 19/4 không phải ngày lành. Lúc này, gia đình đã thông báo kế hoạch cho người thân nên không thể dễ dàng thay đổi.
Sau tang lễ, một người họ hàng của ông Thạch gặp tai nạn giao thông và bị thương nặng. Một số thành viên trong gia đình cho rằng thời điểm an táng đã ảnh hưởng đến phong thủy và khiến gia đình gặp chuyện không may. Ông Thạch sau đó khởi kiện công ty phát triển chatbot, yêu cầu xin lỗi và bồi thường. Cũng chính ông đã sử dụng chatbot AI để hỗ trợ soạn thảo tài liệu pháp lý và lên kế hoạch cho vụ kiện.Phía công ty cho rằng nội dung do AI tạo ra chỉ nhằm mục đích tham khảo và không phải tư vấn chuyên môn. Điều khoản sử dụng của dịch vụ cũng quy định người dùng chấp nhận những điều khoản này khi sử dụng phần mềm. Vụ việc đã được tòa án địa phương thụ lý và vẫn đang được giải quyết.
AI không phải lúc nào cũng biết mình đang sai
Điều đáng chú ý nhất trong câu chuyện không nằm ở việc ngày an táng có thực sự liên quan đến tai nạn hay không mà nằm ở cách con người sử dụng AI. Các chatbot hiện nay có thể trả lời rất nhanh, trình bày mạch lạc và sử dụng ngôn ngữ giống như một chuyên gia. Điều này dễ tạo cho người dùng cảm giác rằng câu trả lời đã được kiểm chứng.
Nhưng thực tế, AI có thể tạo ra thông tin không chính xác, nhầm lẫn giữa các nguồn hoặc đưa ra những câu trả lời mâu thuẫn. Đáng chú ý hơn, AI không nhất thiết phải nhận biết được rằng mình đang trả lời sai. Và cũng chưa chắc AI đã có đủ kiến thức đầu vào để có thể trả lời tất cả các câu hỏi.
Nhưng thực tế, AI có thể tạo ra thông tin không chính xác, nhầm lẫn giữa các nguồn hoặc đưa ra những câu trả lời mâu thuẫn. Đáng chú ý hơn, AI không nhất thiết phải nhận biết được rằng mình đang trả lời sai. Và cũng chưa chắc AI đã có đủ kiến thức đầu vào để có thể trả lời tất cả các câu hỏi.
Trong trường hợp trên, chính chatbot đã đưa ra những thông tin không thống nhất về ngày và giờ. Đây là dấu hiệu mà người dùng cần kiểm tra lại thay vì tiếp tục coi câu trả lời của AI là căn cứ cuối cùng.
Nguy hiểm hơn khi AI được dùng cho những quyết định quan trọng
Nếu AI gợi ý một bộ phim không đúng sở thích, hậu quả có thể chỉ là mất vài giờ xem một nội dung không hay.
Nhưng nếu người dùng dựa vào AI để quyết định về sức khỏe, tiền bạc, pháp lý, công việc hoặc các vấn đề liên quan đến thông tin cá nhân, một câu trả lời sai có thể gây hậu quả lớn hơn nhiều. Chẳng hạn, người dùng có thể hỏi AI về triệu chứng bệnh rồi tự mua thuốc; hỏi cách xử lý một tranh chấp pháp lý rồi bỏ qua tư vấn của luật sư; hoặc nhận một lời khuyên đầu tư rồi chuyển tiền mà không kiểm chứng.
Điểm chung của những trường hợp này là AI có thể cung cấp thông tin rất thuyết phục nhưng không đồng nghĩa thông tin đó đã được xác minh cho trường hợp cụ thể của người dùng.
Nhưng nếu người dùng dựa vào AI để quyết định về sức khỏe, tiền bạc, pháp lý, công việc hoặc các vấn đề liên quan đến thông tin cá nhân, một câu trả lời sai có thể gây hậu quả lớn hơn nhiều. Chẳng hạn, người dùng có thể hỏi AI về triệu chứng bệnh rồi tự mua thuốc; hỏi cách xử lý một tranh chấp pháp lý rồi bỏ qua tư vấn của luật sư; hoặc nhận một lời khuyên đầu tư rồi chuyển tiền mà không kiểm chứng.
Điểm chung của những trường hợp này là AI có thể cung cấp thông tin rất thuyết phục nhưng không đồng nghĩa thông tin đó đã được xác minh cho trường hợp cụ thể của người dùng.
Đừng biến AI thành “người quyết định” thay mình
AI có thể là công cụ hữu ích để tìm kiếm thông tin, tổng hợp tài liệu, đưa ra các khả năng hoặc giúp người dùng đặt ra những câu hỏi cần kiểm tra thêm, hay chỉ đơn thuần là thông tin tham khảo. Tuy nhiên, với những quyết định có thể gây hậu quả lớn, người dùng không nên coi câu trả lời đầu tiên của chatbot là kết luận cuối cùng. Có lẽ trong một số lĩnh vực AI chưa thể thay thế kiến thức, kinh nghiệm, trí tuệ của con người.
Khi AI đưa ra thông tin quan trọng, đặc biệt là những thông tin liên quan đến sức khỏe, pháp luật hoặc tiền bạc, người dùng nên kiểm tra lại bằng nguồn chính thống và tham khảo người có chuyên môn khi cần thiết. Điều quan trọng không phải là “AI có thể sai hay không”, bởi AI hoàn toàn có thể sai. Điều quan trọng là người dùng có nhận ra giới hạn đó trước khi biến một câu trả lời của máy thành quyết định ngoài đời thực hay không.
Câu chuyện tại Trung Quốc vì vậy không chỉ là một vụ kiện đặc biệt giữa một người dùng và một công ty AI. Nó còn cho thấy một vấn đề sẽ ngày càng phổ biến khi AI xuất hiện trong nhiều quyết định hàng ngày: khi máy đưa ra lời khuyên, con người vẫn là người phải chịu trách nhiệm với quyết định của mình.
Khi AI đưa ra thông tin quan trọng, đặc biệt là những thông tin liên quan đến sức khỏe, pháp luật hoặc tiền bạc, người dùng nên kiểm tra lại bằng nguồn chính thống và tham khảo người có chuyên môn khi cần thiết. Điều quan trọng không phải là “AI có thể sai hay không”, bởi AI hoàn toàn có thể sai. Điều quan trọng là người dùng có nhận ra giới hạn đó trước khi biến một câu trả lời của máy thành quyết định ngoài đời thực hay không.
Câu chuyện tại Trung Quốc vì vậy không chỉ là một vụ kiện đặc biệt giữa một người dùng và một công ty AI. Nó còn cho thấy một vấn đề sẽ ngày càng phổ biến khi AI xuất hiện trong nhiều quyết định hàng ngày: khi máy đưa ra lời khuyên, con người vẫn là người phải chịu trách nhiệm với quyết định của mình.
Được phối hợp thực hiện bởi các chuyên gia của Bkav,
cộng đồng An ninh mạng Việt Nam WhiteHat
và cộng đồng Khoa học công nghệ VnReview
