Mẫn Nhi✔
Admin xinh gái
Nhiều người vẫn nghĩ khung chat AI là nơi an toàn tuyệt đối để trút mọi suy nghĩ thầm kín, nhưng vụ việc một thanh niên tại Mỹ bị OpenAI chủ động báo cáo thẳng cho FBI vì lên kế hoạch giết người yêu cũ đã cho thấy điều ngược lại.
Cửa sổ trò chuyện của các mô hình AI thường được người dùng tận dụng như một cuốn nhật ký hay người lắng nghe ảo. Tuy nhiên, ranh giới giữa việc xả cảm xúc cá nhân và chuẩn bị hành vi phạm tội đã khiến OpenAI phải có động thái can thiệp trực tiếp với cơ quan hành pháp.
Ảnh minh hoạ AI
Ban đầu, các đoạn trao đổi chỉ xoay quanh việc kể về sở thích của bạn gái cũ, những địa điểm cô hay lui tới, sự ghen tuông với những người đàn ông khác và mong muốn hàn gắn. Tuy nhiên, mức độ cực đoan trong tin nhắn nhanh chóng leo thang. Zhou bắt đầu mô tả chi tiết các ý định **********, sát hại người yêu cũ rồi ******, thậm chí mở rộng mục tiêu đe dọa sang cả gia đình cô gái.
Trong hồ sơ tòa án, các tin nhắn ghi lại những tuyên bố trực diện của Zhou gửi vào khung chat như: "Tôi sẽ giết cô ta cuối tháng này" hay "Nếu tôi không thể có được cô ta thì không ai có thể có được cô ta".
Đến tháng 5, FBI bàn giao toàn bộ lịch sử trò chuyện kéo dài hơn hai tháng giữa Zhou và ChatGPT cho Văn phòng Cảnh sát trưởng quận Palm Beach. Sau khi thẩm định tài liệu, phía cảnh sát nhận định đây là một kế hoạch được tính toán chi tiết và có chuẩn bị bài bản chứ không phải những lời nói bốc đồng vô hại.
Cùng lúc đó, cảnh sát đã liên hệ với nạn nhân, một cô gái 21 tuổi. Cô cho biết đã chủ động chia tay Zhou qua điện thoại vì tính khí thất thường, hay ghen tuông và thích kiểm soát. Hậu chia tay, Zhou liên tục quấy rối, tra khảo về các bình luận trên tài khoản TikTok của cô, kèm theo hàng loạt tin nhắn mang tính lăng mạ, khiêu *** và đe dọa tính mạng. Toàn bộ ảnh chụp màn hình này sau đó đã được cô cung cấp cho cơ quan điều tra.
Đến tháng 6, Zhou bị truy tố 3 tội danh gồm quấy rối nghiêm trọng, đe dọa giết người bằng văn bản và sử dụng điện thoại di động trái phép. Khung hình phạt tổng hợp cho các tội danh này có thể lên tới 25 năm tù giam.
Tuy nhiên, vào ngày 13/8, Zhou đã đạt được thỏa thuận nhận tội cả 3 cáo buộc. Do bạn gái cũ đồng ý với phương án này, thẩm phán đã chấp thuận thỏa thuận nhận tội, hoãn tuyên án tù và chuyển sang áp dụng mức án 8 năm quản chế đi kèm hàng loạt biện pháp giám sát nghiêm ngặt.
Quy định sử dụng của OpenAI nêu rõ hệ thống có quyền xem xét các phiên tương tác nếu phát hiện người dùng có dấu hiệu gây tổn hại cho người khác, và sẵn sàng chuyển tiếp thông tin cho cơ quan thực thi pháp luật trong các tình huống nghiêm trọng. Dù dữ liệu chat AI từng xuất hiện trong một số vụ kiện tụng, việc chính nền tảng chủ động báo cáo người dùng cho cảnh sát vẫn là trường hợp cực kỳ hiếm hoi được ghi nhận.
Cửa sổ trò chuyện của các mô hình AI thường được người dùng tận dụng như một cuốn nhật ký hay người lắng nghe ảo. Tuy nhiên, ranh giới giữa việc xả cảm xúc cá nhân và chuẩn bị hành vi phạm tội đã khiến OpenAI phải có động thái can thiệp trực tiếp với cơ quan hành pháp.
Ảnh minh hoạ AI
Từ trút giận hậu chia tay đến kế hoạch phạm tội có tổ chức
Darren Zhou, 25 tuổi, từng là chuyên viên phân tích chiến lược tại một ngân hàng đa quốc gia ở Florida. Sau khi bị sa thải và vừa trải qua đổ vỡ tình cảm, Zhou bắt đầu tìm đến ChatGPT vào tháng 3 để trút bỏ những bức xúc cá nhân.Ban đầu, các đoạn trao đổi chỉ xoay quanh việc kể về sở thích của bạn gái cũ, những địa điểm cô hay lui tới, sự ghen tuông với những người đàn ông khác và mong muốn hàn gắn. Tuy nhiên, mức độ cực đoan trong tin nhắn nhanh chóng leo thang. Zhou bắt đầu mô tả chi tiết các ý định **********, sát hại người yêu cũ rồi ******, thậm chí mở rộng mục tiêu đe dọa sang cả gia đình cô gái.
Trong hồ sơ tòa án, các tin nhắn ghi lại những tuyên bố trực diện của Zhou gửi vào khung chat như: "Tôi sẽ giết cô ta cuối tháng này" hay "Nếu tôi không thể có được cô ta thì không ai có thể có được cô ta".
Khi OpenAI chủ động chuyển nhật ký chat cho FBI
Nhận thấy mức độ nguy hiểm thực tế chứ không dừng lại ở bộc phát cảm xúc nhất thời, OpenAI đã kích hoạt chính sách an toàn và báo cáo sự việc lên Cục Điều tra Liên bang Mỹ (FBI).Đến tháng 5, FBI bàn giao toàn bộ lịch sử trò chuyện kéo dài hơn hai tháng giữa Zhou và ChatGPT cho Văn phòng Cảnh sát trưởng quận Palm Beach. Sau khi thẩm định tài liệu, phía cảnh sát nhận định đây là một kế hoạch được tính toán chi tiết và có chuẩn bị bài bản chứ không phải những lời nói bốc đồng vô hại.
Cùng lúc đó, cảnh sát đã liên hệ với nạn nhân, một cô gái 21 tuổi. Cô cho biết đã chủ động chia tay Zhou qua điện thoại vì tính khí thất thường, hay ghen tuông và thích kiểm soát. Hậu chia tay, Zhou liên tục quấy rối, tra khảo về các bình luận trên tài khoản TikTok của cô, kèm theo hàng loạt tin nhắn mang tính lăng mạ, khiêu *** và đe dọa tính mạng. Toàn bộ ảnh chụp màn hình này sau đó đã được cô cung cấp cho cơ quan điều tra.
Thoát án tù 25 năm nhờ thỏa thuận nhận tội
Kết hợp dữ liệu do OpenAI cung cấp và bằng chứng từ phía nạn nhân, cảnh sát đã bắt giữ Zhou vào tháng 5 với mức bảo lãnh tại ngoại 100.000 USD.Đến tháng 6, Zhou bị truy tố 3 tội danh gồm quấy rối nghiêm trọng, đe dọa giết người bằng văn bản và sử dụng điện thoại di động trái phép. Khung hình phạt tổng hợp cho các tội danh này có thể lên tới 25 năm tù giam.
Tuy nhiên, vào ngày 13/8, Zhou đã đạt được thỏa thuận nhận tội cả 3 cáo buộc. Do bạn gái cũ đồng ý với phương án này, thẩm phán đã chấp thuận thỏa thuận nhận tội, hoãn tuyên án tù và chuyển sang áp dụng mức án 8 năm quản chế đi kèm hàng loạt biện pháp giám sát nghiêm ngặt.
Quy định sử dụng của OpenAI nêu rõ hệ thống có quyền xem xét các phiên tương tác nếu phát hiện người dùng có dấu hiệu gây tổn hại cho người khác, và sẵn sàng chuyển tiếp thông tin cho cơ quan thực thi pháp luật trong các tình huống nghiêm trọng. Dù dữ liệu chat AI từng xuất hiện trong một số vụ kiện tụng, việc chính nền tảng chủ động báo cáo người dùng cho cảnh sát vẫn là trường hợp cực kỳ hiếm hoi được ghi nhận.
