Clearview AI của người gốc Việt là gì? Vì sao bị Pháp phạt nặng như thế?

[Khánh Phạm]

Công ty nhận dạng khuôn mặt Clearview AI của Mỹ vừa bị Pháp phạt 20 triệu euro (19,6 triệu USD). Cần phải lưu ý rằng Clearview AI là một công ty của Mỹ và không có cơ sở kinh doanh tại Pháp. Khoản tiền phạt do cơ quan quản lý của Pháp đưa ra có nhiều khả năng thể hiện thái độ của chính phủ Pháp đối với vấn đề này.

Vậy Clearview AI đã vi phạm gì và như thế nào?​

1. Thu thập dữ liệu khuôn mặt toàn cầu một cách bừa bãi Clearview AI được thành lập vào năm 2017 bởi nhà sáng lập kiêm Giám đốc điều hành Hoan Ton-That, một người Úc gốc Việt. Anh nhập cư đến San Francisco năm 19 tuổi và hiện mang hai quốc tịch Hoa Kỳ và Úc. Clearview AI thu thập ảnh từ nhiều trang web bao gồm cả phương tiện truyền thông xã hội - nó thậm chí có thể trích xuất hình ảnh từ video trực tuyến để bán cho cơ quan thực thi pháp luật và các cơ quan / cá nhân khác. Nói một cách đơn giản, người dùng chỉ cần tải ảnh lên các trang mạng xã hội như YouTube, Facebook, LinkedIn là trong phút mốt nó đã trong kho dữ liệu khổng lồ của Clearview AI. Theo một chuyên gia kỹ thuật, miễn là công nghệ được triển khai đúng cách, 99% công nghệ có thể được sử dụng đúng. Nhưng với Clearview AI, có thể nói đây là một công cụ “tìm kiếm thịt người” tiên tiến. Theo Cơ quan giám sát quyền bảo mật dữ liệu Pháp CNIL, công ty này đã thu thập hơn 20 tỷ hình ảnh trên toàn thế giới. Rõ ràng, đại đa số mọi người không biết rằng ảnh của họ đã bị công cụ dữ liệu của công ty này thu thập để được sử dụng cho các mục đích khác nhau.

Hoan Ton-That, Giám đốc điều hành của Clearview AI Theo Hoan Ton-That, Giám đốc điều hành của Clearview AI, "Không thể xác định liệu một người có quốc tịch Pháp hay bất kỳ nước nào chỉ từ các bức ảnh công khai trên Internet, và do đó không thể xóa dữ liệu của cư dân Pháp". Clearview AI bị cáo buộc thực sự đang thu thập dữ liệu khuôn mặt một cách bừa bãi trên khắp thế giới, bao gồm ít nhất là Hoa Kỳ, Canada, Vương quốc Anh, Úc, Thụy Điển, Ý, Pháp, Áo, Hy Lạp, Nga…. Các nhà lãnh đạo trong ngành công nghệ đang áp dụng một cách tiếp cận có trách nhiệm hơn, được đo lường để nhận dạng khuôn mặt - các công ty lớn như Amazon, Microsoft, IBM và những công ty khác đã tạm ngừng hoạt động kinh doanh thu thập khuôn mặtcủa họ. Ngược lại, Clearview AI coi cách tiếp cận thận trọng của các công ty lớn này là cơ hội thị trường để theo đuổi việc đầu tư và mở rộng quy mô lớn hơn.

Các ứng dụng bằng sáng chế của Clearview AI chứng minh rằng công nghệ của nó có thể được sử dụng để hẹn hò, bán lẻ, phân phối lợi ích xã hội và cấp hoặc từ chối quyền truy cập vào các hệ thống trong đó có cả thị trường tài chính. Đáng lo ngại hơn, Clearview AI muốn xây dựng một "hệ sinh thái nhà phát triển" để giúp các công ty khác sử dụng cơ sở dữ liệu của nó trong các sản phẩm. Ngoài ra, Clearview Al đã sử dụng công nghệ trong các cuộc xung đột giữa các quốc gia. Hãng tuyên bố rằng hơn 2 tỷ hình ảnh đã được thu thập từ các hình ảnh công khai trên trang mạng xã hội Vkontate của Nga và ngay lập tức được sử dụng để xác định các binh sĩ và đặc vụ tiềm năng của Nga tại các trạm kiểm soát. Tính đến tháng 7/2022, 7 cơ quan và hơn 600 quân nhân đang tích cực sử dụng nền tảng Clearview AI, thực hiện hơn 60.000 lượt tìm kiếm trong 4 tháng.

Tranh cãi pháp lý về nhận dạng khuôn mặt​

1. Các nước EU: Về nguyên tắc, việc sử dụng nhận dạng khuôn mặt bị cấm Theo Điều 4 của GDPR, thông tin sinh trắc học là thông tin nhạy cảm, về nguyên tắc bị cấm xử lý và chỉ có thể được xử lý theo các trường hợp ngoại lệ gồm: sự đồng ý rõ ràng của chủ thể thông tin, thực hiện các nhiệm vụ theo luật định, bảo vệ lợi ích quan trọng của thể nhân, bảo vệ lợi ích công cộng, thông tin được chủ thể thông tin tiết lộ, nhu cầu dựa trên chẩn đoán y tế hoặc đánh giá khả năng làm việc của nhân viên… Pháp và Ý: Việc thu thập và sử dụng dữ liệu khuôn mặt của Clearview AI vi phạm GDPR

CNIL đã tiến hành một cuộc điều tra về Clearview AI và xác định rằng các vi phạm của nó đối với GDPR bao gồm: 1. Xử lý bất hợp pháp dữ liệu cá nhân: Vi phạm Điều 6 của GDPR (Quy định bảo vệ dữ liệu chung của EU), việc thu thập và sử dụng dữ liệu sinh trắc học được thực hiện mà không có cơ sở pháp lý; 2. Vi phạm quyền của chủ thể dữ liệu: không tính đến quyền của chủ thể dữ liệu một cách hiệu quả và thỏa đáng, bao gồm cả việc không tạo điều kiện thuận lợi cho việc thực hiện quyền truy cập của chủ thể dữ liệu và không đáp ứng hiệu quả các yêu cầu truy cập và xóa (GDPR Điều 12, 15 và 17). Tại Pháp, một số tổ chức đăng ký thử nghiệm công nghệ nhận dạng khuôn mặt, vì vậy CNIL đã đặt ra ba điều kiện cho việc này: 1. Tuân thủ các quy định về GDPR của EU và "Chỉ thị của Cảnh sát-Tư pháp". 2. Đặt sự tôn trọng và bảo vệ của con người vào trung tâm của hệ thống. 3. Việc thử nghiệm nhận dạng khuôn mặt phải đặt ra giới hạn rõ ràng về thời gian và không gian, có mục tiêu xác định rõ ràng và có mô hình đánh giá hiệu suất. Và vào tháng 3/2022, cơ quan bảo vệ dữ liệu của Ý đã tuyên bố phạt Clearview AI 20 triệu euro vì vi phạm luật của EU, ra lệnh cho công ty gây tranh cãi phải xóa bất kỳ dữ liệu nào của Ý mà họ nắm giữ và cấm công ty hiển thị khuôn mặt công dân sinh trắc học để xử lý thêm. Nhưng phản hồi của Clearview AI là nhất quán, tuyên bố rằng công ty được miễn GDPR và từ chối xóa dữ liệu. Ngược lại, có vẻ như cơ quan bảo vệ dữ liệu Thụy Điển đã hành động thông minh hơn, chọn cơ quan quốc gia của chính mình làm mục tiêu thực thi. Vào tháng 2/2021, cơ quan bảo vệ dữ liệu IMY của Thụy Điển đã phạt sở cảnh sát địa phương 250.000 euro vì vi phạm Đạo luật dữ liệu hình sự của quốc gia này bằng cách sử dụng bất hợp pháp phần mềm nhận dạng khuôn mặt gây tranh cãi Clearview AI. Ngoài tiền phạt, IMY đã thực hiện một loạt các biện pháp bồi thường và phòng ngừa: Bồi thường: Cảnh sát phải thông báo cho các chủ thể dữ liệu đã tiết lộ dữ liệu của họ cho Clearview AI, vì vậy ít nhất họ sẽ biết rằng quyền riêng tư của họ đã bị xâm phạm. Nếu các đối tượng ra lệnh xóa dữ liệu cá nhân của họ khỏi Clearview AI, cảnh sát sẽ phải đảm bảo rằng dữ liệu thực sự đã bị xóa. Phòng ngừa: IMY yêu cầu cảnh sát tiến hành các buổi đào tạo và giáo dục bổ sung cho nhân viên để ngăn chặn các sự cố truy cập và xử lý dữ liệu trái phép tương tự trong tương lai. Hoa Kỳ: Một số thành phố và tiểu bang có những hạn chế về mặt lập pháp, nhưng việc sử dụng Clearview ngày càng tăng Các cơ quan thực thi pháp luật trên khắp Hoa Kỳ đang sử dụng công nghệ nhận dạng khuôn mặt để chống tội phạm, nhưng các nhà lập pháp thừa nhận sự thiếu minh bạch, trách nhiệm giải trình và các giới hạn nghiêm ngặt trong việc sử dụng công nghệ này. Cảnh sát địa phương đã sử dụng công nghệ này để xác định những người biểu tình ôn hòa hợp pháp. Cơ quan thực thi pháp luật cũng thường xuyên sử dụng kỹ thuật xâm lấn và đôi khi thiếu sót này để điều tra các tội phạm nhỏ. Đặc biệt là sau cuộc bạo loạn tại Điện Capitol của Hoa Kỳ vào ngày 6/1/2021, cả lực lượng hành pháp và thám tử nghiệp dư đã bắt đầu sử dụng nhiều tính năng nhận dạng khuôn mặt để xác định quân *******. Số lượt tìm kiếm Clearview AI đã tăng 26% một ngày sau cuộc bạo động và các sở cảnh sát ở cả Florida và Alabama sử dụng nó để giúp xác định tội phạm bị truy nã. ① Các luật nhắm vào công nghệ nhận dạng khuôn mặt đang gia tăng ở một số thành phố và tiểu bang của Hoa Kỳ Ở Hoa Kỳ, một số thành phố tiểu bang là nơi đầu tiên ban hành luật về nhận dạng khuôn mặt. Vào tháng 5/2019, San Francisco, California, trở thành thành phố đầu tiên của Hoa Kỳ ban hành luật cấm các cơ quan chính phủ sử dụng công nghệ nhận dạng khuôn mặt. Các lệnh cấm tương tự đã được thông qua ở Somerville, Massachusetts, Boston, Easthampton và Springfield, Missouri. Sắc lệnh của Thành phố New York khoan dung hơn, liệt kê các doanh nghiệp không thể sử dụng tính năng nhận dạng khuôn mặt - địa điểm giải trí, cửa hàng bán lẻ, cửa hàng thực phẩm và đồ uống, nhưng không liệt kê các doanh nghiệp nói chung. Liên quan đến luật pháp cấp tiểu bang, một số tiểu bang ở Hoa Kỳ có các quy định pháp lý đối với thông tin sinh trắc học, chẳng hạn như Texas, Illinois, Washington, Alabama, Maryland và các luật tiểu bang này yêu cầu các công ty phải thu thập và sử dụng thông tin sinh trắc học trong phạm vi Có thể. Thông báo trước và các nghĩa vụ đồng ý được thông báo.

Bị sử dụng hạn chế ở Hoa Kỳ, nhưng Clearview AI tuyên bố "thắng lớn"​

Vào tháng 5/2022, sau hai năm kiện tụng và tranh chấp, Clearview AI đã chấp nhận kế hoạch giải quyết do tòa án Illinois cung cấp, đồng ý không cung cấp dịch vụ cơ sở dữ liệu miễn phí hoặc trả phí cho hầu hết các công ty hoặc cá nhân tư nhân và ngừng bang Illinois trong vòng 5 năm. Các cơ quan chính phủ chỉ cung cấp cơ sở dữ liệu cho chính phủ liên bang Hoa Kỳ và các chính phủ khác ngoài tiểu bang Illinois. Tuy nhiên, Clearview AI gọi việc dàn xếp này là một "chiến thắng lớn" cho công ty - công ty có kế hoạch tuân thủ Đạo luật Bảo mật Thông tin Sinh trắc học (BIPA) của tiểu bang bằng cách bán các thuật toán của mình cho các công ty tư nhân của Hoa Kỳ thay vì truy cập vào cơ sở dữ liệu của họ.

Xu hướng chung của nhận dạng khuôn mặt​

1. Việc sử dụng công nghệ được hỗ trợ mạnh mẽ Kể từ năm 2020, Clearview AI đã bị Ý, Vương quốc Anh, Úc, Canada, Pháp, Thụy Điển và các quốc gia khác điều tra và trừng phạt, nhưng có vẻ như không ai trong số họ có thể ngăn chặn sự tiếp tục mở rộng của công ty. Lý do là trên toàn cầu, "công nghệ nhận dạng khuôn mặt" đã nhận được sự ủng hộ mạnh mẽ từ nhiều cơ quan chính phủ, đặc biệt là các cơ quan thực thi pháp luật và các công ty công nghệ như sự thuận tiện và bảo mật trong các tình huống kinh doanh. Lợi ích của công nghệ này chỉ có thể đạt được khi xâm phạm quyền riêng tư của mọi người, tức là, cơ sở dữ liệu đủ lớn để ghi lại tất cả các "bản in khuôn mặt", để các mục tiêu thực thi pháp luật có thể được đánh dấu và khóa chính xác. Miễn là Clearview AI được chính phủ của một quốc gia coi là hợp pháp, ngay cả khi nó bị hạn chế bởi một số mục đích sử dụng, nó có thể thu thập và sử dụng dữ liệu "khuôn mặt" toàn cầu một cách bừa bãi. Hiện tại, Clearview AI đã từ chối lệnh từ nhiều quốc gia về việc "xóa dữ liệu khuôn mặt của cư dân" và cũng đã thiết lập các rào cản đối với các yêu cầu xóa dữ liệu cá nhân trong chính sách quyền riêng tư của mình: trước tiên xóa hình ảnh cá nhân khỏi hồ sơ mạng xã hội, sau đó phải cung cấp ảnh hồ sơ và giấy tờ tùy thân do chính phủ cấp để chứng minh danh tính của bạn trước khi yêu cầu xóa dữ liệu. 2. Bị hạn chế về mặt pháp lý nhưng vẫn hợp pháp Liên minh châu Âu đang xem xét thắt chặt đáng kể các quy định và hạn chế của EU đối với việc sử dụng công nghệ nhận dạng khuôn mặt. Đạo luật Trí tuệ Nhân tạo năm 2021 của Ủy ban Châu Âu cung cấp một khuôn khổ để phân loại "sinh trắc học" là một hệ thống có rủi ro cao, một danh mục được quản lý chặt chẽ nhưng không bị cấm hoàn toàn. Một số cơ quan của EU đã rõ ràng kêu gọi một lệnh cấm đầy đủ hơn đối với đo điện tử, nhưng khuyến nghị này không được phản ánh trong dự luật. EU cũng đề xuất kế hoạch Chỉ thị về trách nhiệm pháp lý của AI vào tháng 9/ 2022. Về khả năng chịu trách nhiệm, phạm vi của dự thảo luật này rộng hơn so với các đề xuất trước đó về các dự luật AI (nhắm mục tiêu vào các hệ thống AI “rủi ro cao”) vì nó không giới hạn ở việc yêu cầu các nhà sản xuất phải chịu trách nhiệm, mà thay vào đó, toàn bộ chuỗi cung ứng vào tài khoản - Nhà sản xuất, nhà phát triển hoặc người sử dụng hệ thống AI. Ở cấp liên bang ở Hoa Kỳ, luật nhận dạng khuôn mặt đã được thảo luận, nhưng chưa thể đạt được, bao gồm Đạo luật về quyền riêng tư của nhận dạng khuôn mặt thương mại năm 2019, Đạo luật về sử dụng đạo đức của nhận dạng khuôn mặt năm 2020 (Đạo luật về sử dụng đạo đức của nhận dạng khuôn mặt ) và Đạo luật Công nghệ Sinh trắc học và Nhận dạng Khuôn mặt năm 2020, Đạo luật Công lý về Chính sách của George Floyd, Không có Đạo luật Nâng cao nào về Nhận dạng Khuôn mặt. Mới đây, vào ngày 30/9/2022, Đại diện Hoa Kỳ Ted Lieu đã giới thiệu Đạo luật Nhận dạng Khuôn mặt năm 2022. Dự luật có các điều khoản quy định việc sử dụng công nghệ nhận dạng khuôn mặt trong khu vực công và tư. Nó cũng đề xuất một đánh giá minh bạch về việc sử dụng nhận dạng khuôn mặt của cơ quan thực thi pháp luật, với các đánh giá và báo cáo hàng năm. Nhìn chung, công nghệ nhận dạng khuôn mặt hiện đã hợp pháp trên toàn cầu và các quy định hạn chế việc sử dụng công nghệ này chỉ làm tăng chi phí tuân thủ. 3. Các tổ chức phi chính phủ đang ủng hộ 'lệnh cấm' nhận dạng khuôn mặt Vì các cá nhân nói chung không có cách nào để biết rằng thông tin khuôn mặt của họ đang được sử dụng, nên hầu hết các vụ kiện và điều tra nói trên chống lại "nhận dạng khuôn mặt" ban đầu do các tổ chức xã hội bảo vệ quyền riêng tư khởi xướng. Vào ngày 15/10/2020, những người tổ chức chiến dịch toàn châu Âu "Lấy lại khuôn mặt: Cấm giám sát hàng loạt sinh trắc học", được hỗ trợ bởi 44 tổ chức xã hội dân sự bao gồm Access Now, European Digital Rights (EDRi) Sáng kiến xã hội dân sự kêu gọi Ủy ban châu Âu "quy định chặt chẽ việc sử dụng sinh trắc học để tránh can thiệp quá mức vào các quyền cơ bản" và yêu cầu "Ủy ban cấm theo luật và thực hành việc sử dụng sinh trắc học bừa bãi hoặc tùy tiện, có thể dẫn đến giám sát hàng loạt trái pháp luật”. Ngoài việc nhấn mạnh mong muốn của họ về việc cấm công nghệ giám sát hàng loạt sinh trắc học, những người ký lá thư đã nêu chi tiết những gì họ muốn thấy trong đề xuất lập pháp tiếp theo của EU về trí tuệ nhân tạo: "Việc sử dụng sinh trắc học có mục tiêu bừa bãi hoặc tùy tiện trong các không gian công cộng hoặc có thể tiếp cận công cộng bị nghiêm cấm rõ ràng, có thể dẫn đến giám sát hàng loạt"

Trí tuệ nhân tạo 'vi phạm các quyền cơ bản' 'các hạn chế pháp lý hoặc ranh giới đỏ của pháp luật' ​

- "Bao gồm rõ ràng các cộng đồng bị thiệt thòi và bị ảnh hưởng trong quá trình phát triển chính sách và luật pháp về AI của EU" - "Việc sử dụng sinh trắc học có mục tiêu bừa bãi hoặc tùy tiện trong các không gian công cộng hoặc có thể tiếp cận công cộng bị nghiêm cấm rõ ràng, có thể dẫn đến giám sát hàng loạt" Vào cuối tháng 1/2021, Tổ chức Ân xá Quốc tế đã khởi động sáng kiến "Cấm quét", kêu gọi "cấm hoàn toàn việc sử dụng, phát triển, sản xuất và bán công nghệ nhận dạng khuôn mặt" bởi cảnh sát và các cơ quan chính phủ. Tổ chức Ân xá Quốc tế tập trung sáng kiến vào Thành phố New York và kể từ đó đã bắt đầu mở rộng sáng kiến trên toàn cầu.

>> Facebook yêu cầu Clearview dừng sử dụng hình ảnh của họ cho chương trình nhận dạng khuôn mặt gây tranh cãi​