Derpy
Intern Writer
Khi công nghệ AI ngày càng phát triển, ranh giới giữa sáng tạo và lạm dụng cũng trở nên mong manh hơn bao giờ hết. Mới đây, một vụ kiện lịch sử vừa nổ ra, cho thấy các công ty AI đang phải đối mặt với những thách thức đạo đức và pháp lý nghiêm trọng đến mức nào khi sản phẩm của họ bị lợi dụng cho mục đích xấu. Theo Reuters, xAI, công ty khởi nghiệp về trí tuệ nhân tạo của Elon Musk, đã đệ đơn kiện một người đàn ông ở bang South Carolina, Mỹ, với cáo buộc lạm dụng hệ thống AI Grok của họ để tạo ra nội dung lạm dụng tình dục trẻ em.
Vụ kiện được xAI đệ trình lên tòa án liên bang Texas vào thứ Ba, nhắm vào Terry Harwood. Công ty cáo buộc Harwood đã vi phạm các điều khoản dịch vụ của họ. Điều đáng chú ý là đây là một trong những vụ kiện đầu tiên mà một công ty AI khởi kiện người dùng vì bị cáo buộc sử dụng hệ thống của họ để tạo ra nội dung khiêu *** hoặc nhạy cảm.
Trước khi xAI đưa Harwood ra tòa, người đàn ông này đã bị bắt giữ vào đầu năm nay vì nghi ngờ bóc lột tình dục trẻ vị thành niên. Bản thân xAI cũng từng phải đối mặt với sự giám sát gắt gao trên toàn cầu khi hệ thống Grok của họ bị chỉ trích vì cho phép người dùng tạo ra các nội dung deepfake mang tính tình dục mà không có sự đồng thuận.
Trong đơn kiện, xAI khẳng định họ luôn thực thi các quy tắc của mình một cách nghiêm túc. Công ty cho biết họ đã đình chỉ hơn 52.222 tài khoản và gửi hơn 73.604 báo cáo cho Trung tâm Quốc gia về Trẻ em Mất tích và Bị Bóc lột (NCMEC), dẫn đến ít nhất 244 vụ bắt giữ. xAI cáo buộc Harwood đã tải lên Grok những hình ảnh người lớn và trẻ vị thành niên không mang tính tìnhdục, sau đó cố gắng sử dụng hệ thống này để tạo ra các nội dung deepfake khiêu *** dựa trên những hình ảnh đó. Đơn kiện cũng chỉ ra rằng Harwood đã tạo ra các hình ảnh deepfake người lớn mang tính tìnhdục mà không có sự đồng thuận.
xAI đang yêu cầu tòa án bồi thường thiệt hại bằng tiền với số tiền không xác định, đồng thời ban hành lệnh cấm vĩnh viễn Harwood sử dụng Grok. Công ty nhấn mạnh trong đơn kiện rằng "hành vi của bị cáo là một âm mưu được lên kế hoạch kỹ lưỡng nhằm biến công cụ của nguyên đơn thành vũ khí để đạt được mục đích tội phạm, gây ra những tổn hại sâu sắc và lâu dài cho các nạn nhân thực sự, đồng thời khiến nguyên đơn phải đối mặt với rủi ro pháp lý và thiệt hại danh tiếng đáng kể".
Vụ kiện được xAI đệ trình lên tòa án liên bang Texas vào thứ Ba, nhắm vào Terry Harwood. Công ty cáo buộc Harwood đã vi phạm các điều khoản dịch vụ của họ. Điều đáng chú ý là đây là một trong những vụ kiện đầu tiên mà một công ty AI khởi kiện người dùng vì bị cáo buộc sử dụng hệ thống của họ để tạo ra nội dung khiêu *** hoặc nhạy cảm.
Trước khi xAI đưa Harwood ra tòa, người đàn ông này đã bị bắt giữ vào đầu năm nay vì nghi ngờ bóc lột tình dục trẻ vị thành niên. Bản thân xAI cũng từng phải đối mặt với sự giám sát gắt gao trên toàn cầu khi hệ thống Grok của họ bị chỉ trích vì cho phép người dùng tạo ra các nội dung deepfake mang tính tình dục mà không có sự đồng thuận.
Trong đơn kiện, xAI khẳng định họ luôn thực thi các quy tắc của mình một cách nghiêm túc. Công ty cho biết họ đã đình chỉ hơn 52.222 tài khoản và gửi hơn 73.604 báo cáo cho Trung tâm Quốc gia về Trẻ em Mất tích và Bị Bóc lột (NCMEC), dẫn đến ít nhất 244 vụ bắt giữ. xAI cáo buộc Harwood đã tải lên Grok những hình ảnh người lớn và trẻ vị thành niên không mang tính tìnhdục, sau đó cố gắng sử dụng hệ thống này để tạo ra các nội dung deepfake khiêu *** dựa trên những hình ảnh đó. Đơn kiện cũng chỉ ra rằng Harwood đã tạo ra các hình ảnh deepfake người lớn mang tính tìnhdục mà không có sự đồng thuận.
xAI đang yêu cầu tòa án bồi thường thiệt hại bằng tiền với số tiền không xác định, đồng thời ban hành lệnh cấm vĩnh viễn Harwood sử dụng Grok. Công ty nhấn mạnh trong đơn kiện rằng "hành vi của bị cáo là một âm mưu được lên kế hoạch kỹ lưỡng nhằm biến công cụ của nguyên đơn thành vũ khí để đạt được mục đích tội phạm, gây ra những tổn hại sâu sắc và lâu dài cho các nạn nhân thực sự, đồng thời khiến nguyên đơn phải đối mặt với rủi ro pháp lý và thiệt hại danh tiếng đáng kể".
