The Storm Riders✔
Writer
ChatGPT có thể giúp tìm hiểu một chủ đề, giải thích khái niệm, hỗ trợ lập trình hoặc soạn bản nháp. Nhưng câu trả lời trôi chảy không bảo đảm thông tin chính xác, còn nội dung người dùng nhập vào có thể được lưu giữ hoặc trở thành đối tượng của yêu cầu pháp lý. Những sự cố liên quan đến tài liệu nội bộ của Samsung, hồ sơ tòa án chứa án lệ không tồn tại và lời khuyên sức khỏe sai lệch cho thấy hậu quả có thể vượt xa một câu trả lời nhầm.
Sam Altman, Giám đốc điều hành OpenAI, từng nêu vấn đề này trong cuộc trò chuyện với người dẫn podcast Theo Von: nội dung chia sẻ với chatbot hiện không có cơ chế bảo mật pháp lý tương tự trao đổi với bác sĩ, luật sư hoặc nhà trị liệu. Trong những năm gần đây, các cuộc trò chuyện với ChatGPT đã xuất hiện trong tranh chấp pháp lý, bị lộ qua liên kết chia sẻ hoặc được công cụ tìm kiếm lập chỉ mục. Với lượng người dùng hằng tuần rất lớn, bài viết chỉ ra năm tình huống cần đặc biệt thận trọng.
Chatbot có thể tạo ra tên vụ án, trích dẫn và lập luận nghe hợp lý nhưng không có thật. Cơ sở dữ liệu do nhà nghiên cứu luật Damien Charlotin duy trì đã ghi nhận hơn 2.000 quyết định tư pháp liên quan đến nội dung AI bịa đặt. Ở thời điểm bài viết được đăng, người tự đại diện trước tòa chiếm 1.175 trường hợp trong dữ liệu này; luật sư đứng tiếp theo với 815 trường hợp. Vấn đề đã xuất hiện tại Mỹ cũng như Anh, Nam Phi, Israel, Australia và Tây Ban Nha. Một số tòa án đã áp dụng khoản phạt lên tới hàng nghìn USD. Trong các hồ sơ xác định được công cụ, ChatGPT là cái tên xuất hiện nhiều nhất.
Quy định sử dụng của OpenAI không cho phép dịch vụ đưa ra lời khuyên pháp lý được cá nhân hóa, thuộc loại đòi hỏi giấy phép hành nghề, nếu không có sự tham gia thích hợp của chuyên gia được cấp phép. Ngoài nguy cơ viện dẫn sai, thông tin người dùng nhập về một tranh chấp đang diễn ra cũng không mặc nhiên được bảo vệ như trao đổi riêng với luật sư và có thể trở thành tài liệu cần cung cấp trong quá trình tố tụng. Hỏi một khái niệm pháp lý chung là một việc; nhờ chatbot quyết định cách xử lý vụ kiện của mình là việc khác.
Theo ước tính OpenAI công bố, khoảng 0,15% người dùng hoạt động trong một tuần có cuộc trò chuyện chứa dấu hiệu rõ ràng của việc lên kế hoạch hoặc có ý định *****. Tính trên quy mô người dùng mà bài viết đề cập, con số đó tương đương hơn một triệu người mỗi tuần. OpenAI cũng ghi nhận những cuộc trò chuyện có dấu hiệu rối loạn tâm thần, hưng cảm hoặc lệ thuộc cảm xúc vào AI.
Tháng 8/2025, cha mẹ của Adam Raine, 16 tuổi, kiện OpenAI sau khi con trai họ qua đời vì *****. Đơn kiện cáo buộc ChatGPT đã củng cố ý nghĩ ****** của Adam; đây là cáo buộc trong một vụ kiện, không phải kết luận cuối cùng của tòa. Sau đó, OpenAI điều chỉnh cách chatbot phản hồi trong các cuộc trò chuyện khủng hoảng với sự tham gia của hơn 170 chuyên gia sức khỏe tâm thần, đồng thời bổ sung công cụ kiểm soát dành cho phụ huynh. Bài viết cũng ghi nhận sự hoài nghi của một số chuyên gia an toàn trẻ em đối với phiên bản dành cho thanh thiếu niên.
Một rủi ro khác là chatbot có thể quá dễ đồng tình với người dùng. Nếu bạn kể về cuộc cãi vã với bạn đời, mô hình chỉ có lời kể từ một phía và có thể đưa ra câu trả lời xác nhận cảm nhận của bạn thay vì giúp kiểm tra lại vấn đề. Trong trường hợp nghiêm trọng, kiểu phản hồi ấy có thể củng cố một niềm tin sai lệch. Bài viết cho biết Illinois, Nevada và Maine đã thông qua các hạn chế đối với việc AI thực hiện trị liệu hoặc đưa ra quyết định trị liệu.
Samsung cũng từng cấm nhân viên dùng công cụ AI tạo sinh trên thiết bị công ty sau khi kỹ sư nhập mã nguồn nội bộ vào ChatGPT năm 2023. Mối lo của doanh nghiệp là dữ liệu đã gửi tới máy chủ bên ngoài khó thu hồi, khó xóa và có thể bị sử dụng hoặc lộ ngoài ý muốn. Với tài khoản cá nhân, nội dung trò chuyện có thể được dùng để cải thiện mô hình tùy theo cài đặt; tắt lựa chọn này không đồng nghĩa dữ liệu lập tức biến mất khỏi hệ thống hoặc không thể chịu tác động của một sự cố hay yêu cầu pháp lý. Nhập dữ liệu khách hàng hoặc thông tin thuộc thỏa thuận bảo mật của cơ quan còn có thể vi phạm quy định nơi làm việc.
Quy định của OpenAI cũng hạn chế việc cung cấp lời khuyên y tế được cá nhân hóa khi không có sự tham gia thích hợp của người có chuyên môn. Tại Mỹ, luật HIPAA ràng buộc những chủ thể như cơ sở khám chữa bệnh, công ty bảo hiểm và đối tác xử lý dữ liệu của họ; việc tự nhập thông tin sức khỏe vào một cuộc trò chuyện với ChatGPT không tạo ra cùng một quan hệ bảo mật như trao đổi trong hồ sơ bệnh án hoặc với bác sĩ.
Nghiên cứu được Đại học Northeastern công bố vào tháng 7/2026 cho thấy các biện pháp bảo vệ của chatbot trước nội dung ****** và tự làm hại bản thân không nhất quán đối với những tình trạng khác. Nhóm nghiên cứu thử nghiệm các cuộc trò chuyện liên quan đến rối loạn ăn uống, mất ngủ, lạm dụng chất gây nghiện và rối loạn lưỡng cực. Khi ý định thật của người hỏi được che giấu, các biện pháp bảo vệ ở mọi mô hình được thử nghiệm dễ thất bại hơn.
Bài viết còn nhắc tới một người đàn ông 60 tuổi muốn loại bỏ chloride khỏi chế độ ăn. Sau khi hỏi ChatGPT, ông mua sodium bromide để thay muối ăn và sử dụng trong ba tháng. Ông đến khoa cấp cứu trong tình trạng tin rằng hàng xóm đã đầu độc mình và phải nằm viện ba tuần. Các bác sĩ không có bản ghi cuộc trò chuyện ban đầu, nên không thể xác định chính xác chatbot đã trả lời ông thế nào. Tuy nhiên, khi họ nhập lại câu hỏi tương tự, ChatGPT có nêu bromide như một phương án thay thế. Trường hợp này cho thấy một gợi ý thiếu bối cảnh an toàn có thể dẫn đến hậu quả nghiêm trọng.
Một ví dụ khác đến từ vụ kiện bản quyền giữa The New York Times và OpenAI. Theo bài viết, lệnh bảo toàn dữ liệu ban hành vào tháng 5/2025 từng buộc OpenAI giữ lại cả những cuộc trò chuyện người dùng đã xóa hoặc đặt ở chế độ tạm thời. Nghĩa vụ giữ dữ liệu theo lệnh đó kết thúc ngày 26/9/2025. OpenAI cho biết lệnh chung không còn hiệu lực, dù một phần dữ liệu lịch sử trong giai đoạn liên quan vẫn được lưu giữ để đáp ứng nghĩa vụ pháp lý.
Tính năng ghi nhớ cũng có thể khiến thông tin người dùng từng chia sẻ được dùng lại trong các cuộc trò chuyện sau, tùy cài đặt. Vì vậy, đừng nhập mật khẩu, mã đăng nhập một lần, số an sinh xã hội, số hộ chiếu, thông tin đầy đủ của thẻ hoặc tài khoản ngân hàng, hay ảnh giấy tờ tùy thân vào lời nhắc. Nếu một cuộc trò chuyện chứa những dữ liệu ấy bị truy cập trái phép hoặc bị chia sẻ, nguy cơ đánh cắp danh tính sẽ tăng lên.
Altman từng đề xuất một cơ chế bảo mật pháp lý dành riêng cho trao đổi với AI. Trong khi chưa có cơ chế như vậy, thông điệp kết của bài viết là hãy cân nhắc khả năng nội dung mình nhập hôm nay có thể được người khác đọc lại trong tương lai.
Sam Altman, Giám đốc điều hành OpenAI, từng nêu vấn đề này trong cuộc trò chuyện với người dẫn podcast Theo Von: nội dung chia sẻ với chatbot hiện không có cơ chế bảo mật pháp lý tương tự trao đổi với bác sĩ, luật sư hoặc nhà trị liệu. Trong những năm gần đây, các cuộc trò chuyện với ChatGPT đã xuất hiện trong tranh chấp pháp lý, bị lộ qua liên kết chia sẻ hoặc được công cụ tìm kiếm lập chỉ mục. Với lượng người dùng hằng tuần rất lớn, bài viết chỉ ra năm tình huống cần đặc biệt thận trọng.
1. Xin tư vấn cho vụ việc pháp lý của chính mình
Chatbot có thể tạo ra tên vụ án, trích dẫn và lập luận nghe hợp lý nhưng không có thật. Cơ sở dữ liệu do nhà nghiên cứu luật Damien Charlotin duy trì đã ghi nhận hơn 2.000 quyết định tư pháp liên quan đến nội dung AI bịa đặt. Ở thời điểm bài viết được đăng, người tự đại diện trước tòa chiếm 1.175 trường hợp trong dữ liệu này; luật sư đứng tiếp theo với 815 trường hợp. Vấn đề đã xuất hiện tại Mỹ cũng như Anh, Nam Phi, Israel, Australia và Tây Ban Nha. Một số tòa án đã áp dụng khoản phạt lên tới hàng nghìn USD. Trong các hồ sơ xác định được công cụ, ChatGPT là cái tên xuất hiện nhiều nhất.
Quy định sử dụng của OpenAI không cho phép dịch vụ đưa ra lời khuyên pháp lý được cá nhân hóa, thuộc loại đòi hỏi giấy phép hành nghề, nếu không có sự tham gia thích hợp của chuyên gia được cấp phép. Ngoài nguy cơ viện dẫn sai, thông tin người dùng nhập về một tranh chấp đang diễn ra cũng không mặc nhiên được bảo vệ như trao đổi riêng với luật sư và có thể trở thành tài liệu cần cung cấp trong quá trình tố tụng. Hỏi một khái niệm pháp lý chung là một việc; nhờ chatbot quyết định cách xử lý vụ kiện của mình là việc khác.
2. Coi chatbot là nhà trị liệu hoặc người tư vấn tâm lý
Theo ước tính OpenAI công bố, khoảng 0,15% người dùng hoạt động trong một tuần có cuộc trò chuyện chứa dấu hiệu rõ ràng của việc lên kế hoạch hoặc có ý định *****. Tính trên quy mô người dùng mà bài viết đề cập, con số đó tương đương hơn một triệu người mỗi tuần. OpenAI cũng ghi nhận những cuộc trò chuyện có dấu hiệu rối loạn tâm thần, hưng cảm hoặc lệ thuộc cảm xúc vào AI.
Tháng 8/2025, cha mẹ của Adam Raine, 16 tuổi, kiện OpenAI sau khi con trai họ qua đời vì *****. Đơn kiện cáo buộc ChatGPT đã củng cố ý nghĩ ****** của Adam; đây là cáo buộc trong một vụ kiện, không phải kết luận cuối cùng của tòa. Sau đó, OpenAI điều chỉnh cách chatbot phản hồi trong các cuộc trò chuyện khủng hoảng với sự tham gia của hơn 170 chuyên gia sức khỏe tâm thần, đồng thời bổ sung công cụ kiểm soát dành cho phụ huynh. Bài viết cũng ghi nhận sự hoài nghi của một số chuyên gia an toàn trẻ em đối với phiên bản dành cho thanh thiếu niên.
Một rủi ro khác là chatbot có thể quá dễ đồng tình với người dùng. Nếu bạn kể về cuộc cãi vã với bạn đời, mô hình chỉ có lời kể từ một phía và có thể đưa ra câu trả lời xác nhận cảm nhận của bạn thay vì giúp kiểm tra lại vấn đề. Trong trường hợp nghiêm trọng, kiểu phản hồi ấy có thể củng cố một niềm tin sai lệch. Bài viết cho biết Illinois, Nevada và Maine đã thông qua các hạn chế đối với việc AI thực hiện trị liệu hoặc đưa ra quyết định trị liệu.
3. Đưa thông tin mật của công việc vào cuộc trò chuyện
Tài liệu nội bộ, mã nguồn, dữ liệu khách hàng và nội dung chịu ràng buộc bảo mật không nên được dán vào tài khoản chatbot cá nhân. Bài viết nêu trường hợp Madhu Gottumukkala, cựu quyền giám đốc Cơ quan An ninh mạng và Cơ sở hạ tầng Mỹ: ông đã tải lên phiên bản ChatGPT công khai ít nhất bốn tài liệu hợp đồng được đánh dấu chỉ dùng cho công vụ. Việc này kích hoạt cảnh báo bảo mật và dẫn tới một cuộc rà soát của Bộ An ninh Nội địa Mỹ. Khi đó, phần lớn nhân viên của bộ không được dùng công cụ này, còn Gottumukkala đã xin ngoại lệ. Thượng nghị sĩ Chuck Grassley tiếp tục yêu cầu giải trình vào tháng 2/2026; Gottumukkala sau đó chuyển sang vị trí khác trong bộ.Samsung cũng từng cấm nhân viên dùng công cụ AI tạo sinh trên thiết bị công ty sau khi kỹ sư nhập mã nguồn nội bộ vào ChatGPT năm 2023. Mối lo của doanh nghiệp là dữ liệu đã gửi tới máy chủ bên ngoài khó thu hồi, khó xóa và có thể bị sử dụng hoặc lộ ngoài ý muốn. Với tài khoản cá nhân, nội dung trò chuyện có thể được dùng để cải thiện mô hình tùy theo cài đặt; tắt lựa chọn này không đồng nghĩa dữ liệu lập tức biến mất khỏi hệ thống hoặc không thể chịu tác động của một sự cố hay yêu cầu pháp lý. Nhập dữ liệu khách hàng hoặc thông tin thuộc thỏa thuận bảo mật của cơ quan còn có thể vi phạm quy định nơi làm việc.
4. Dùng câu trả lời làm chỉ dẫn điều trị
Quy định của OpenAI cũng hạn chế việc cung cấp lời khuyên y tế được cá nhân hóa khi không có sự tham gia thích hợp của người có chuyên môn. Tại Mỹ, luật HIPAA ràng buộc những chủ thể như cơ sở khám chữa bệnh, công ty bảo hiểm và đối tác xử lý dữ liệu của họ; việc tự nhập thông tin sức khỏe vào một cuộc trò chuyện với ChatGPT không tạo ra cùng một quan hệ bảo mật như trao đổi trong hồ sơ bệnh án hoặc với bác sĩ.
Nghiên cứu được Đại học Northeastern công bố vào tháng 7/2026 cho thấy các biện pháp bảo vệ của chatbot trước nội dung ****** và tự làm hại bản thân không nhất quán đối với những tình trạng khác. Nhóm nghiên cứu thử nghiệm các cuộc trò chuyện liên quan đến rối loạn ăn uống, mất ngủ, lạm dụng chất gây nghiện và rối loạn lưỡng cực. Khi ý định thật của người hỏi được che giấu, các biện pháp bảo vệ ở mọi mô hình được thử nghiệm dễ thất bại hơn.
Bài viết còn nhắc tới một người đàn ông 60 tuổi muốn loại bỏ chloride khỏi chế độ ăn. Sau khi hỏi ChatGPT, ông mua sodium bromide để thay muối ăn và sử dụng trong ba tháng. Ông đến khoa cấp cứu trong tình trạng tin rằng hàng xóm đã đầu độc mình và phải nằm viện ba tuần. Các bác sĩ không có bản ghi cuộc trò chuyện ban đầu, nên không thể xác định chính xác chatbot đã trả lời ông thế nào. Tuy nhiên, khi họ nhập lại câu hỏi tương tự, ChatGPT có nêu bromide như một phương án thay thế. Trường hợp này cho thấy một gợi ý thiếu bối cảnh an toàn có thể dẫn đến hậu quả nghiêm trọng.
5. Nhập mật khẩu, số định danh hoặc chi tiết tài khoản
Tháng 7/2025, Fast Company phát hiện gần 4.500 cuộc trò chuyện ChatGPT được chia sẻ xuất hiện trong kết quả tìm kiếm Google. Một số chứa thông tin về nghiện ngập, lạm dụng hoặc khó khăn sức khỏe tâm thần, đủ chi tiết để có thể nhận ra người viết. Các cuộc trò chuyện được lập chỉ mục sau khi người dùng chọn tùy chọn cho phép tìm thấy cuộc trò chuyện trong lúc chia sẻ, có thể mà không hiểu rõ hệ quả. OpenAI gỡ tính năng này trong vòng một ngày sau khi sự việc được đưa tin và xóa các kết quả liên quan khỏi Google.Một ví dụ khác đến từ vụ kiện bản quyền giữa The New York Times và OpenAI. Theo bài viết, lệnh bảo toàn dữ liệu ban hành vào tháng 5/2025 từng buộc OpenAI giữ lại cả những cuộc trò chuyện người dùng đã xóa hoặc đặt ở chế độ tạm thời. Nghĩa vụ giữ dữ liệu theo lệnh đó kết thúc ngày 26/9/2025. OpenAI cho biết lệnh chung không còn hiệu lực, dù một phần dữ liệu lịch sử trong giai đoạn liên quan vẫn được lưu giữ để đáp ứng nghĩa vụ pháp lý.
Tính năng ghi nhớ cũng có thể khiến thông tin người dùng từng chia sẻ được dùng lại trong các cuộc trò chuyện sau, tùy cài đặt. Vì vậy, đừng nhập mật khẩu, mã đăng nhập một lần, số an sinh xã hội, số hộ chiếu, thông tin đầy đủ của thẻ hoặc tài khoản ngân hàng, hay ảnh giấy tờ tùy thân vào lời nhắc. Nếu một cuộc trò chuyện chứa những dữ liệu ấy bị truy cập trái phép hoặc bị chia sẻ, nguy cơ đánh cắp danh tính sẽ tăng lên.
Altman từng đề xuất một cơ chế bảo mật pháp lý dành riêng cho trao đổi với AI. Trong khi chưa có cơ chế như vậy, thông điệp kết của bài viết là hãy cân nhắc khả năng nội dung mình nhập hôm nay có thể được người khác đọc lại trong tương lai.
