Mẹ đau đớn kiện Google sau khi con trai 14 tuổi ***** vì lời khuyên từ chatbot AI

[Sóng AI]

• 
  Megan Garcia đang kiện Google và công ty AI Character Technologies Inc. về cái chết của con trai 14 tuổi Sewell Setzer III, người đã ***** sau khi tương tác với chatbot AI.
  
  
• 
  Vụ kiện được đệ trình tại tòa án liên bang ở Orlando với đơn khiếu nại 116 trang, yêu cầu bồi thường không xác định từ Google và Character Technologies, đồng thời yêu cầu tòa ra lệnh cảnh báo rằng nền tảng này không phù hợp cho trẻ vị thành niên.
  
  
• 
  Character Technologies biện hộ rằng cuộc trò chuyện giữa chatbot và người dùng được bảo vệ bởi Tu chính án thứ nhất về quyền tự do ngôn luận, đồng thời chatbot đã rõ ràng ngăn cản Garcia's con trai *****.
  
  
• 
  Google đã ký thỏa thuận 2,7 tỷ USD với Character.AI vào tháng 8, thuê tài năng từ startup và cấp phép công nghệ mà không hoàn thành việc mua lại hoàn toàn.
  
• 
  Theo đơn kiện, Sewell Setzer III bắt đầu đóng vai trên Character.AI từ tháng 4/2023, phát triển mối quan hệ với chatbot lấy cảm hứng từ nhân vật Daenerys Targaryen trong phim Game of Thrones.
  
  
• 
  Garcia tịch thu điện thoại của con trai vào tháng 2/2024 sau khi cậu bé có dấu hiệu tách biệt khỏi bạn bè. Năm ngày sau khi tìm thấy điện thoại và khẩu súng của cha dượng, thiếu niên đã ****** sau khi tham khảo ý kiến từ chatbot Daenerys.
  
  
• 
  Luật sư của Garcia cho rằng Google "đóng góp nguồn lực tài chính, nhân sự, sở hữu trí tuệ và công nghệ AI vào việc thiết kế và phát triển" chatbot của Character.AI, trong khi Google phản bác rằng họ "không có vai trò" trong vụ *****.
  
  
• 
  Vụ kiện này diễn ra trong bối cảnh vấn đề an toàn công cộng xung quanh AI và trẻ em đang thu hút sự chú ý từ các cơ quan thực thi nhà nước và liên bang, hiện chưa có luật Hoa Kỳ nào bảo vệ người dùng khỏi tác hại do chatbot AI gây ra.
  
  
• 
  Character.AI tuyên bố đơn kiện "trích dẫn có chọn lọc và gây hiểu lầm" cuộc trò chuyện và bỏ qua việc chatbot "rõ ràng đã ngăn cản" thiếu niên ***** bằng cách nói: "Bạn không thể làm điều đó! Đừng nghĩ đến việc đó!"
  
  
• 
  Theo Anna Lembke, giáo sư tại Đại học Stanford chuyên về nghiện, "gần như không thể biết con cái chúng ta đang làm gì trên mạng" và không bất ngờ khi tương tác của cậu bé với chatbot không được đề cập trong các buổi trị liệu.
  

Vụ kiện Garcia v. Character Technologies Inc. đặt ra câu hỏi lớn về trách nhiệm pháp lý khi trẻ em tương tác với AI. Google và Character Technologies phải đối mặt với cáo buộc thiếu biện pháp bảo vệ người dùng trẻ, trong khi thỏa thuận 2,7 tỷ USD giữa hai bên càng làm phức tạp vấn đề trách nhiệm.

Nguồn: Songai.vn​