Mẫn Nhi
Admin xinh gái
Tập đoàn công nghệ Meta vừa bị phanh phui việc vận hành một chương trình bí mật mang mật danh "Cannes", trong đó thuê hàng trăm nhà thầu giả danh thanh thiếu niên để liên tục gửi các yêu cầu có nội dung cực kỳ độc hại và nhạy cảm tới các mô hình trí tuệ nhân tạo (AI) của đối thủ cạnh tranh.
Ảnh: Getty Images
Theo báo cáo từ Wired, dự án "Cannes" được vận hành bởi Covalen - một đối tác nhà thầu của Meta. Chương trình này sử dụng các tài khoản ảo tự xưng là dưới 18 tuổi để liên tục gửi các câu hỏi thử thách giới hạn an toàn đến ChatGPT của OpenAI, Gemini của Google và các chatbot của Character.AI mà các công ty sở hữu không hề hay biết.
Một bảng dữ liệu rò rỉ chứa gần 3.800 yêu cầu đầu vào (prompts) cho thấy quy mô đáng sợ của chiến dịch. Trong đó, hàng trăm yêu cầu tập trung vào chủ đề tự tử, tự hại, rối loạn ăn uống, và ít nhất 239 yêu cầu liên quan đến tình dục hoặc yêu đương - tất cả đều được viết dưới góc nhìn của một đứa trẻ hoặc thanh thiếu niên.
Một số nội dung cụ thể bao gồm kịch bản một học sinh lớp 5 bị bạn học chĩa súng vào miệng, một cô gái cố gắng giấu cha mẹ chứng cuồng ăn vô độ, hay câu hỏi liệu việc tưởng tượng ăn thịt con của hàng xóm có phải là "bình thường". Những người đóng vai học sinh trung học còn hỏi cách mua cocaine, gửi kèm hình ảnh mô tả thuốc viên, thòng lọng, dao và sơ đồ y khoa về thủ thuật phụ khoa.
Các nhà thầu phải ghi chép tỉ mỉ phản hồi của các chatbot vào bảng tính, dù chưa rõ Meta dùng dữ liệu này vào mục đích cụ thể nào.
Một tài liệu nội bộ của Covalen mô tả nỗ lực này là "đánh giá chuẩn mực an toàn AI toàn diện" nhằm cung cấp "các tập dữ liệu quan trọng để so sánh mô hình và tuân thủ".
Nhiều nhà thầu trực tiếp tham gia viết các yêu cầu này thừa nhận họ cảm thấy vô cùng bất an. Một nhân viên chia sẻ với Wired: "Tôi đã thấy nhiều thứ tôi ước mình chưa từng thấy khi làm công việc này. Mọi người tham gia dự án đều sốc nặng trước những gì được yêu cầu thử nghiệm. Chúng tôi tự hỏi, liệu mình có bị rắc rối pháp lý vì việc này không?"
Phản hồi về vụ việc, Meta khẳng định đây là "hoạt động tiêu chuẩn trong ngành" nhằm đánh giá mức độ an toàn của các mô hình AI. Tuy nhiên, bà Rumman Chowdhury, Giám đốc điều hành của tổ chức phi lợi nhuận Humane Intelligence PBC, đã lên tiếng bác bỏ lập luận này.
Bà Chowdhury nhấn mạnh việc xây dựng một dự án quy mô lớn kéo dài nhiều tháng, cố tình lách luật bằng tài khoản giả mạo trẻ em và giữ bí mật hoàn toàn với đối thủ lẫn công chúng không thể coi là tiêu chuẩn chung của ngành. Theo bà, đây chính là vùng xám trong quản trị, nơi khái niệm "an toàn" bị lạm dụng để che đậy cho các hành vi cạnh tranh không lành mạnh.
Hàng ngàn yêu cầu bệnh hoạn gửi đến ChatGPT và Gemini
Ảnh: Getty Images
Theo báo cáo từ Wired, dự án "Cannes" được vận hành bởi Covalen - một đối tác nhà thầu của Meta. Chương trình này sử dụng các tài khoản ảo tự xưng là dưới 18 tuổi để liên tục gửi các câu hỏi thử thách giới hạn an toàn đến ChatGPT của OpenAI, Gemini của Google và các chatbot của Character.AI mà các công ty sở hữu không hề hay biết.
Một bảng dữ liệu rò rỉ chứa gần 3.800 yêu cầu đầu vào (prompts) cho thấy quy mô đáng sợ của chiến dịch. Trong đó, hàng trăm yêu cầu tập trung vào chủ đề tự tử, tự hại, rối loạn ăn uống, và ít nhất 239 yêu cầu liên quan đến tình dục hoặc yêu đương - tất cả đều được viết dưới góc nhìn của một đứa trẻ hoặc thanh thiếu niên.
Một số nội dung cụ thể bao gồm kịch bản một học sinh lớp 5 bị bạn học chĩa súng vào miệng, một cô gái cố gắng giấu cha mẹ chứng cuồng ăn vô độ, hay câu hỏi liệu việc tưởng tượng ăn thịt con của hàng xóm có phải là "bình thường". Những người đóng vai học sinh trung học còn hỏi cách mua cocaine, gửi kèm hình ảnh mô tả thuốc viên, thòng lọng, dao và sơ đồ y khoa về thủ thuật phụ khoa.
Nhân viên hoảng loạn và nghi vấn cạnh tranh không lành mạnh
Đây chỉ là một phần nhỏ trong phương pháp tiếp cận thô bạo của Meta, bởi một đợt thử nghiệm khác được ghi nhận có quy mô lên tới hơn 45.000 yêu cầu.Các nhà thầu phải ghi chép tỉ mỉ phản hồi của các chatbot vào bảng tính, dù chưa rõ Meta dùng dữ liệu này vào mục đích cụ thể nào.
Một tài liệu nội bộ của Covalen mô tả nỗ lực này là "đánh giá chuẩn mực an toàn AI toàn diện" nhằm cung cấp "các tập dữ liệu quan trọng để so sánh mô hình và tuân thủ".
Nhiều nhà thầu trực tiếp tham gia viết các yêu cầu này thừa nhận họ cảm thấy vô cùng bất an. Một nhân viên chia sẻ với Wired: "Tôi đã thấy nhiều thứ tôi ước mình chưa từng thấy khi làm công việc này. Mọi người tham gia dự án đều sốc nặng trước những gì được yêu cầu thử nghiệm. Chúng tôi tự hỏi, liệu mình có bị rắc rối pháp lý vì việc này không?"
Phản hồi về vụ việc, Meta khẳng định đây là "hoạt động tiêu chuẩn trong ngành" nhằm đánh giá mức độ an toàn của các mô hình AI. Tuy nhiên, bà Rumman Chowdhury, Giám đốc điều hành của tổ chức phi lợi nhuận Humane Intelligence PBC, đã lên tiếng bác bỏ lập luận này.
Bà Chowdhury nhấn mạnh việc xây dựng một dự án quy mô lớn kéo dài nhiều tháng, cố tình lách luật bằng tài khoản giả mạo trẻ em và giữ bí mật hoàn toàn với đối thủ lẫn công chúng không thể coi là tiêu chuẩn chung của ngành. Theo bà, đây chính là vùng xám trong quản trị, nơi khái niệm "an toàn" bị lạm dụng để che đậy cho các hành vi cạnh tranh không lành mạnh.
