Thoại Viết Hoàng
Writer
Tại sao nhiều công ty dựa vào việc kiếm tiền từ dữ liệu của người dùng lại có vẻ cực kỳ quan tâm đến AI? Nếu bạn hỏi chủ tịch Signal Meredith Whittaker (và tôi cũng vậy), cô ấy sẽ nói với bạn điều đó đơn giản vì “AI là một công nghệ giám sát”.
Kimberly White/Getty Images for TechCrunch
Trên sân khấu tại TechCrunch Disrupt 2023, Whittaker giải thích quan điểm của mình rằng AI phần lớn không thể tách rời khỏi ngành công nghiệp nhắm mục tiêu và dữ liệu lớn được duy trì bởi Google và Meta, cũng như các công ty quốc phòng và doanh nghiệp ít tập trung vào người tiêu dùng hơn nhưng không kém phần nổi bật. (Nhận xét của cô ấy được chỉnh sửa nhẹ cho rõ ràng.)
“Nó đòi hỏi mô hình kinh doanh giám sát; đó là sự trầm trọng hơn của những gì chúng ta đã thấy kể từ cuối những năm 90 và sự phát triển của quảng cáo giám sát. Tôi nghĩ AI là một cách để củng cố và mở rộng mô hình kinh doanh giám sát,” cô nói. “Biểu đồ Venn là một hình tròn.”
“Và việc sử dụng AI cũng mang tính chất giám sát phải không?” cô ấy tiếp tục. “Bạn biết đấy, bạn đi ngang qua một camera nhận dạng khuôn mặt được trang bị khả năng nhận dạng cảm xúc giả khoa học và nó tạo ra dữ liệu về bạn, dù đúng hay sai, cho biết 'bạn vui, bạn buồn, bạn có tính cách xấu, bạn' là kẻ nói dối, sao cũng được.' Đây cuối cùng là những hệ thống giám sát đang được tiếp thị cho những người có quyền lực đối với chúng ta nói chung: người sử dụng lao động, chính phủ, cơ quan kiểm soát biên giới, v.v., để đưa ra quyết định và dự đoán sẽ định hình khả năng tiếp cận các nguồn lực và cơ hội của chúng ta .”
Trớ trêu thay, cô chỉ ra rằng, dữ liệu làm nền tảng cho các hệ thống này thường được sắp xếp và chú thích (một bước cần thiết trong quy trình tập hợp tập dữ liệu AI) bởi chính những người lao động mà nó có thể hướng tớ
“Không có cách nào để tạo ra những hệ thống này mà không có sức lao động của con người ở cấp độ cung cấp thông tin cơ bản về sự thật của dữ liệu - học tập tăng cường với phản hồi của con người, một lần nữa chỉ là một loại lao động bấp bênh của con người trong việc rửa sạch công nghệ. Hàng nghìn hàng nghìn công nhân được trả rất ít, mặc dù chi phí rất đắt đỏ và không có cách nào khác để tạo ra những hệ thống này, chấm dứt hoàn toàn,” cô giải thích. “Theo một cách nào đó, những gì chúng ta đang thấy là một loại hiện tượng Phù thủy xứ Oz, khi chúng ta kéo bức màn lại thì chẳng có gì là thông minh cả.”
Tuy nhiên, không phải tất cả các hệ thống AI và máy học đều có tính lợi dụng như nhau. Khi tôi hỏi liệu Signal có sử dụng bất kỳ công cụ hoặc quy trình AI nào trong ứng dụng hoặc công việc phát triển của mình hay không, cô ấy xác nhận rằng ứng dụng này có “một mẫu thiết bị nhỏ mà chúng tôi không phát triển, chúng tôi sử dụng nó ngay trên kệ, như một phần của khuôn mặt”. tính năng làm mờ trong bộ công cụ chỉnh sửa phương tiện của chúng tôi. Nó thực sự không tốt đến thế… nhưng nó giúp phát hiện khuôn mặt trong ảnh đám đông và làm mờ chúng, để khi bạn chia sẻ chúng trên mạng xã hội, bạn sẽ không tiết lộ dữ liệu sinh trắc học riêng tư của mọi người cho Clearview chẳng hạn.”
“Nhưng vấn đề là thế này. Giống như… vâng, đó là một công dụng tuyệt vời của AI, và điều đó không phải giúp chúng ta loại bỏ tất cả những điều tiêu cực mà tôi đã ném ra trên sân khấu,” cô nói thêm. “Chắc chắn rồi, nếu đó là thị trường duy nhất cho nhận dạng khuôn mặt… nhưng hãy nói rõ ràng. Các ưu đãi kinh tế thúc đẩy quá trình phát triển và triển khai công nghệ nhận dạng khuôn mặt rất tốn kém sẽ không bao giờ coi đó là mục đích sử dụng duy nhất.”
Trên sân khấu tại TechCrunch Disrupt 2023, Whittaker giải thích quan điểm của mình rằng AI phần lớn không thể tách rời khỏi ngành công nghiệp nhắm mục tiêu và dữ liệu lớn được duy trì bởi Google và Meta, cũng như các công ty quốc phòng và doanh nghiệp ít tập trung vào người tiêu dùng hơn nhưng không kém phần nổi bật. (Nhận xét của cô ấy được chỉnh sửa nhẹ cho rõ ràng.)
“Nó đòi hỏi mô hình kinh doanh giám sát; đó là sự trầm trọng hơn của những gì chúng ta đã thấy kể từ cuối những năm 90 và sự phát triển của quảng cáo giám sát. Tôi nghĩ AI là một cách để củng cố và mở rộng mô hình kinh doanh giám sát,” cô nói. “Biểu đồ Venn là một hình tròn.”
“Và việc sử dụng AI cũng mang tính chất giám sát phải không?” cô ấy tiếp tục. “Bạn biết đấy, bạn đi ngang qua một camera nhận dạng khuôn mặt được trang bị khả năng nhận dạng cảm xúc giả khoa học và nó tạo ra dữ liệu về bạn, dù đúng hay sai, cho biết 'bạn vui, bạn buồn, bạn có tính cách xấu, bạn' là kẻ nói dối, sao cũng được.' Đây cuối cùng là những hệ thống giám sát đang được tiếp thị cho những người có quyền lực đối với chúng ta nói chung: người sử dụng lao động, chính phủ, cơ quan kiểm soát biên giới, v.v., để đưa ra quyết định và dự đoán sẽ định hình khả năng tiếp cận các nguồn lực và cơ hội của chúng ta .”
Trớ trêu thay, cô chỉ ra rằng, dữ liệu làm nền tảng cho các hệ thống này thường được sắp xếp và chú thích (một bước cần thiết trong quy trình tập hợp tập dữ liệu AI) bởi chính những người lao động mà nó có thể hướng tớ
“Không có cách nào để tạo ra những hệ thống này mà không có sức lao động của con người ở cấp độ cung cấp thông tin cơ bản về sự thật của dữ liệu - học tập tăng cường với phản hồi của con người, một lần nữa chỉ là một loại lao động bấp bênh của con người trong việc rửa sạch công nghệ. Hàng nghìn hàng nghìn công nhân được trả rất ít, mặc dù chi phí rất đắt đỏ và không có cách nào khác để tạo ra những hệ thống này, chấm dứt hoàn toàn,” cô giải thích. “Theo một cách nào đó, những gì chúng ta đang thấy là một loại hiện tượng Phù thủy xứ Oz, khi chúng ta kéo bức màn lại thì chẳng có gì là thông minh cả.”
Tuy nhiên, không phải tất cả các hệ thống AI và máy học đều có tính lợi dụng như nhau. Khi tôi hỏi liệu Signal có sử dụng bất kỳ công cụ hoặc quy trình AI nào trong ứng dụng hoặc công việc phát triển của mình hay không, cô ấy xác nhận rằng ứng dụng này có “một mẫu thiết bị nhỏ mà chúng tôi không phát triển, chúng tôi sử dụng nó ngay trên kệ, như một phần của khuôn mặt”. tính năng làm mờ trong bộ công cụ chỉnh sửa phương tiện của chúng tôi. Nó thực sự không tốt đến thế… nhưng nó giúp phát hiện khuôn mặt trong ảnh đám đông và làm mờ chúng, để khi bạn chia sẻ chúng trên mạng xã hội, bạn sẽ không tiết lộ dữ liệu sinh trắc học riêng tư của mọi người cho Clearview chẳng hạn.”
“Nhưng vấn đề là thế này. Giống như… vâng, đó là một công dụng tuyệt vời của AI, và điều đó không phải giúp chúng ta loại bỏ tất cả những điều tiêu cực mà tôi đã ném ra trên sân khấu,” cô nói thêm. “Chắc chắn rồi, nếu đó là thị trường duy nhất cho nhận dạng khuôn mặt… nhưng hãy nói rõ ràng. Các ưu đãi kinh tế thúc đẩy quá trình phát triển và triển khai công nghệ nhận dạng khuôn mặt rất tốn kém sẽ không bao giờ coi đó là mục đích sử dụng duy nhất.”
