Con voi còi
Writer
Tóm tắt các ý chính:
Những phát hiện này đã làm sáng tỏ cách thức sử dụng công nghệ tiên tiến một cách bừa bãi và thường không kiểm soát được trên khắp Whitehall (một cách chỉ Chính phủ Anh).
Cuộc điều tra cho thấy các công chức ở ít nhất tám sở Whitehall và một số lực lượng cảnh sát đang sử dụng AI trong nhiều lĩnh vực, nhưng đặc biệt là khi giúp họ đưa ra quyết định về phúc lợi, nhập cư và tư pháp hình sự. Có bằng chứng cho thấy một số công cụ đang được sử dụng có khả năng tạo ra kết quả phân biệt đối xử, chẳng hạn như:
- Một thuật toán được Bộ Lao động và Lương hưu (DWP) sử dụng mà một nghị sĩ tin rằng đã nhầm lẫn đã dẫn đến việc hàng chục người bị cắt trợ cấp.
- Một công cụ nhận dạng khuôn mặt được cảnh sát Metropolitan sử dụng đã được phát hiện là mắc nhiều lỗi nhận dạng khuôn mặt người da đen hơn người da trắng trong một số cài đặt nhất định.
- Một thuật toán được Bộ Nội vụ sử dụng để cảnh báo các cuộc hôn nhân giả nhằm lựa chọn không cân đối những người thuộc một số quốc tịch nhất định.
Trí tuệ nhân tạo thường được “đào tạo” trên một tập dữ liệu lớn và sau đó phân tích dữ liệu đó theo những cách mà ngay cả những người đã phát triển công cụ này đôi khi cũng không hiểu hết. Các chuyên gia cảnh báo, nếu dữ liệu cho thấy bằng chứng về sự phân biệt đối xử, công cụ AI cũng có khả năng dẫn đến kết quả phân biệt đối xử.
Thủ tướng Anh Rishi Sunak gần đây đã phát biểu một cách sôi nổi về cách AI có thể biến đổi các dịch vụ công, “từ việc tiết kiệm cho giáo viên hàng trăm giờ soạn giáo án cho đến giúp bệnh nhân NHS được chẩn đoán nhanh hơn và kiểm tra chính xác hơn”. Tuy nhiên, việc sử dụng nó trong khu vực công trước đây đã gây tranh cãi, chẳng hạn như ở Hà Lan , nơi cơ quan thuế sử dụng nó để phát hiện hành vi gian lận lợi ích chăm sóc trẻ em tiềm ẩn, nhưng đã bị phạt 3,7 triệu euro sau khi liên tục đưa ra các quyết định sai lầm và đẩy hàng chục nghìn gia đình vào tình trạng khó khăn.
Các chuyên gia lo lắng về việc lặp lại vụ bê bối đó ở Anh, cảnh báo rằng các quan chức Anh đang sử dụng các thuật toán kém hiểu biết để đưa ra những quyết định thay đổi cuộc sống mà những người bị ảnh hưởng bởi những quyết định đó thậm chí không hề biết về nó. Nhiều người lo ngại về việc bãi bỏ một ban cố vấn độc lập của chính phủ vào đầu năm nay, nơi quy định các cơ quan khu vực công phải chịu trách nhiệm về cách họ sử dụng AI.
Shameem Ahmad, giám đốc điều hành của Dự án Luật Công, cho biết: “AI có tiềm năng to lớn mang lại lợi ích xã hội. Ví dụ, chúng ta có thể làm mọi việc hiệu quả hơn. Nhưng chúng ta không thể bỏ qua những rủi ro nghiêm trọng. Nếu không hành động khẩn cấp, chúng ta có thể rơi vào tình huống mộng du trong đó các hệ thống tự động không rõ ràng thường xuyên được sử dụng bất hợp pháp theo những cách làm thay đổi cuộc sống và mọi người sẽ không thể tìm cách khắc phục khi các quy trình đó gặp trục trặc”.
Marion Oswald, giáo sư luật tại Đại học Northumbria và là cựu thành viên ban cố vấn của chính phủ về đạo đức dữ liệu, cho biết: “Có sự thiếu nhất quán và minh bạch trong cách sử dụng AI trong khu vực công. Rất nhiều công cụ trong số này sẽ ảnh hưởng đến cuộc sống hàng ngày của nhiều người, chẳng hạn như những người yêu cầu quyền lợi, nhưng mọi người không hiểu tại sao chúng lại được sử dụng và không có cơ hội thử thách chúng”.
Sunak sẽ tập hợp các nguyên thủ quốc gia tại Bletchley Park để tham dự hội nghị thượng đỉnh quốc tế về an toàn AI. Hội nghị thượng đỉnh mà Downing Street hy vọng sẽ đặt ra các điều kiện cho sự phát triển AI trên toàn thế giới trong nhiều năm tới, sẽ tập trung đặc biệt vào mối đe dọa tiềm tàng gây ra cho toàn nhân loại bởi các mô hình thuật toán tiên tiến.
Tuy nhiên, trong nhiều năm, các công chức đã dựa vào các công cụ thuật toán kém phức tạp hơn để giúp đưa ra nhiều quyết định về cuộc sống hàng ngày của người dân.
Trong một số trường hợp, các công cụ này rất đơn giản và minh bạch, chẳng hạn như cổng hộ chiếu điện tử hoặc camera nhận dạng biển số, cả hai đều sử dụng phần mềm nhận dạng hình ảnh được hỗ trợ bởi AI.
Tuy nhiên, trong các trường hợp khác, phần mềm mạnh hơn và ít rõ ràng hơn đối với những người bị ảnh hưởng bởi nó.
Văn phòng Nội các gần đây đã đưa ra “tiêu chuẩn báo cáo minh bạch về thuật toán”, khuyến khích các sở và cơ quan cảnh sát tự nguyện tiết lộ nơi họ sử dụng AI để giúp đưa ra các quyết định có thể có tác động đáng kể đến công chúng.
Sáu tổ chức đã liệt kê các dự án theo tiêu chuẩn minh bạch mới.
The Guardian đã kiểm tra các dự án đó cũng như một cơ sở dữ liệu riêng do Dự án Luật Công biên soạn. The Guardian sau đó đã đưa ra các yêu cầu về quyền tự do thông tin tới mọi cơ quan chính phủ và cơ quan cảnh sát ở Anh để xây dựng một bức tranh đầy đủ hơn về nơi AI hiện đang đưa ra các quyết định ảnh hưởng đến cuộc sống của con người.
Kết quả cho thấy ít nhất tám bộ phận của Whitehall sử dụng AI theo cách này hay cách khác, một số bộ phận còn sử dụng nhiều hơn những bộ phận khác.
NHS đã sử dụng AI trong một số bối cảnh, bao gồm cả trong đại dịch Covid, khi các quan chức sử dụng nó để giúp xác định những bệnh nhân có nguy cơ cần được khuyên nên che chắn.
Bộ Nội vụ cho biết họ đã sử dụng AI cho cổng điện tử để đọc hộ chiếu tại sân bay, hỗ trợ nộp đơn xin hộ chiếu và trong “công cụ phân loại hôn nhân giả” của bộ, công cụ này đánh dấu các cuộc hôn nhân giả có thể xảy ra để điều tra thêm.
Một đánh giá nội bộ của Bộ Nội vụ mà Guardian xem xét cho thấy công cụ này gắn cờ những người đến từ Albania, Hy Lạp, Romania và Bulgaria một cách không cân đối.
Trong khi đó, DWP có “dịch vụ tình báo và rủi ro tích hợp”, sử dụng thuật toán để giúp phát hiện gian lận và sai sót giữa những người yêu cầu quyền lợi. Nghị sĩ Lao động Kate Osamor tin rằng việc sử dụng thuật toán này có thể đã góp phần khiến hàng chục người Bulgaria đột nhiên bị đình chỉ trợ cấp trong những năm gần đây sau khi họ bị gắn cờ sai là đưa ra các yêu cầu có khả năng gian lận.
DWP khẳng định thuật toán không tính đến quốc tịch. Một phát ngôn viên cho biết thêm: “Chúng tôi đang trấn áp những kẻ cố gắng khai thác hệ thống và ăn trộm một cách trắng trợn từ những người cần giúp đỡ nhất khi chúng tôi tiếp tục nỗ lực tiết kiệm cho người nộp thuế 1,3 tỷ bảng Anh vào năm tới”.
Cả DWP và Home Office đều không cung cấp thông tin chi tiết về cách thức hoạt động của các quy trình tự động, nhưng cả hai đều cho biết các quy trình họ sử dụng là công bằng vì quyết định cuối cùng là do con người đưa ra. Tuy nhiên, nhiều chuyên gia lo ngại rằng các thuật toán thiên vị sẽ dẫn đến các quyết định cuối cùng sai lệch, bởi vì các quan chức chỉ có thể xem xét các trường hợp được gắn cờ với họ và thường có giới hạn thời gian để làm việc đó.
- Sử dụng trí tuệ nhân tạo (AI) trong các cơ quan chính phủ Anh không được kiểm soát.
- Các công cụ AI gây ra các quyết định sai lầm và phân biệt đối xử.
- Lo ngại về sự kiểm soát và minh bạch trong việc sử dụng AI.
Những phát hiện này đã làm sáng tỏ cách thức sử dụng công nghệ tiên tiến một cách bừa bãi và thường không kiểm soát được trên khắp Whitehall (một cách chỉ Chính phủ Anh).
- Một thuật toán được Bộ Lao động và Lương hưu (DWP) sử dụng mà một nghị sĩ tin rằng đã nhầm lẫn đã dẫn đến việc hàng chục người bị cắt trợ cấp.
- Một công cụ nhận dạng khuôn mặt được cảnh sát Metropolitan sử dụng đã được phát hiện là mắc nhiều lỗi nhận dạng khuôn mặt người da đen hơn người da trắng trong một số cài đặt nhất định.
- Một thuật toán được Bộ Nội vụ sử dụng để cảnh báo các cuộc hôn nhân giả nhằm lựa chọn không cân đối những người thuộc một số quốc tịch nhất định.
Trí tuệ nhân tạo thường được “đào tạo” trên một tập dữ liệu lớn và sau đó phân tích dữ liệu đó theo những cách mà ngay cả những người đã phát triển công cụ này đôi khi cũng không hiểu hết. Các chuyên gia cảnh báo, nếu dữ liệu cho thấy bằng chứng về sự phân biệt đối xử, công cụ AI cũng có khả năng dẫn đến kết quả phân biệt đối xử.
Thủ tướng Anh Rishi Sunak gần đây đã phát biểu một cách sôi nổi về cách AI có thể biến đổi các dịch vụ công, “từ việc tiết kiệm cho giáo viên hàng trăm giờ soạn giáo án cho đến giúp bệnh nhân NHS được chẩn đoán nhanh hơn và kiểm tra chính xác hơn”. Tuy nhiên, việc sử dụng nó trong khu vực công trước đây đã gây tranh cãi, chẳng hạn như ở Hà Lan , nơi cơ quan thuế sử dụng nó để phát hiện hành vi gian lận lợi ích chăm sóc trẻ em tiềm ẩn, nhưng đã bị phạt 3,7 triệu euro sau khi liên tục đưa ra các quyết định sai lầm và đẩy hàng chục nghìn gia đình vào tình trạng khó khăn.
Các chuyên gia lo lắng về việc lặp lại vụ bê bối đó ở Anh, cảnh báo rằng các quan chức Anh đang sử dụng các thuật toán kém hiểu biết để đưa ra những quyết định thay đổi cuộc sống mà những người bị ảnh hưởng bởi những quyết định đó thậm chí không hề biết về nó. Nhiều người lo ngại về việc bãi bỏ một ban cố vấn độc lập của chính phủ vào đầu năm nay, nơi quy định các cơ quan khu vực công phải chịu trách nhiệm về cách họ sử dụng AI.
Shameem Ahmad, giám đốc điều hành của Dự án Luật Công, cho biết: “AI có tiềm năng to lớn mang lại lợi ích xã hội. Ví dụ, chúng ta có thể làm mọi việc hiệu quả hơn. Nhưng chúng ta không thể bỏ qua những rủi ro nghiêm trọng. Nếu không hành động khẩn cấp, chúng ta có thể rơi vào tình huống mộng du trong đó các hệ thống tự động không rõ ràng thường xuyên được sử dụng bất hợp pháp theo những cách làm thay đổi cuộc sống và mọi người sẽ không thể tìm cách khắc phục khi các quy trình đó gặp trục trặc”.
Marion Oswald, giáo sư luật tại Đại học Northumbria và là cựu thành viên ban cố vấn của chính phủ về đạo đức dữ liệu, cho biết: “Có sự thiếu nhất quán và minh bạch trong cách sử dụng AI trong khu vực công. Rất nhiều công cụ trong số này sẽ ảnh hưởng đến cuộc sống hàng ngày của nhiều người, chẳng hạn như những người yêu cầu quyền lợi, nhưng mọi người không hiểu tại sao chúng lại được sử dụng và không có cơ hội thử thách chúng”.
Sunak sẽ tập hợp các nguyên thủ quốc gia tại Bletchley Park để tham dự hội nghị thượng đỉnh quốc tế về an toàn AI. Hội nghị thượng đỉnh mà Downing Street hy vọng sẽ đặt ra các điều kiện cho sự phát triển AI trên toàn thế giới trong nhiều năm tới, sẽ tập trung đặc biệt vào mối đe dọa tiềm tàng gây ra cho toàn nhân loại bởi các mô hình thuật toán tiên tiến.
Tuy nhiên, trong nhiều năm, các công chức đã dựa vào các công cụ thuật toán kém phức tạp hơn để giúp đưa ra nhiều quyết định về cuộc sống hàng ngày của người dân.
Trong một số trường hợp, các công cụ này rất đơn giản và minh bạch, chẳng hạn như cổng hộ chiếu điện tử hoặc camera nhận dạng biển số, cả hai đều sử dụng phần mềm nhận dạng hình ảnh được hỗ trợ bởi AI.
Tuy nhiên, trong các trường hợp khác, phần mềm mạnh hơn và ít rõ ràng hơn đối với những người bị ảnh hưởng bởi nó.
Văn phòng Nội các gần đây đã đưa ra “tiêu chuẩn báo cáo minh bạch về thuật toán”, khuyến khích các sở và cơ quan cảnh sát tự nguyện tiết lộ nơi họ sử dụng AI để giúp đưa ra các quyết định có thể có tác động đáng kể đến công chúng.
Sáu tổ chức đã liệt kê các dự án theo tiêu chuẩn minh bạch mới.
The Guardian đã kiểm tra các dự án đó cũng như một cơ sở dữ liệu riêng do Dự án Luật Công biên soạn. The Guardian sau đó đã đưa ra các yêu cầu về quyền tự do thông tin tới mọi cơ quan chính phủ và cơ quan cảnh sát ở Anh để xây dựng một bức tranh đầy đủ hơn về nơi AI hiện đang đưa ra các quyết định ảnh hưởng đến cuộc sống của con người.
Kết quả cho thấy ít nhất tám bộ phận của Whitehall sử dụng AI theo cách này hay cách khác, một số bộ phận còn sử dụng nhiều hơn những bộ phận khác.
NHS đã sử dụng AI trong một số bối cảnh, bao gồm cả trong đại dịch Covid, khi các quan chức sử dụng nó để giúp xác định những bệnh nhân có nguy cơ cần được khuyên nên che chắn.
Bộ Nội vụ cho biết họ đã sử dụng AI cho cổng điện tử để đọc hộ chiếu tại sân bay, hỗ trợ nộp đơn xin hộ chiếu và trong “công cụ phân loại hôn nhân giả” của bộ, công cụ này đánh dấu các cuộc hôn nhân giả có thể xảy ra để điều tra thêm.
Một đánh giá nội bộ của Bộ Nội vụ mà Guardian xem xét cho thấy công cụ này gắn cờ những người đến từ Albania, Hy Lạp, Romania và Bulgaria một cách không cân đối.
Trong khi đó, DWP có “dịch vụ tình báo và rủi ro tích hợp”, sử dụng thuật toán để giúp phát hiện gian lận và sai sót giữa những người yêu cầu quyền lợi. Nghị sĩ Lao động Kate Osamor tin rằng việc sử dụng thuật toán này có thể đã góp phần khiến hàng chục người Bulgaria đột nhiên bị đình chỉ trợ cấp trong những năm gần đây sau khi họ bị gắn cờ sai là đưa ra các yêu cầu có khả năng gian lận.
DWP khẳng định thuật toán không tính đến quốc tịch. Một phát ngôn viên cho biết thêm: “Chúng tôi đang trấn áp những kẻ cố gắng khai thác hệ thống và ăn trộm một cách trắng trợn từ những người cần giúp đỡ nhất khi chúng tôi tiếp tục nỗ lực tiết kiệm cho người nộp thuế 1,3 tỷ bảng Anh vào năm tới”.
Cả DWP và Home Office đều không cung cấp thông tin chi tiết về cách thức hoạt động của các quy trình tự động, nhưng cả hai đều cho biết các quy trình họ sử dụng là công bằng vì quyết định cuối cùng là do con người đưa ra. Tuy nhiên, nhiều chuyên gia lo ngại rằng các thuật toán thiên vị sẽ dẫn đến các quyết định cuối cùng sai lệch, bởi vì các quan chức chỉ có thể xem xét các trường hợp được gắn cờ với họ và thường có giới hạn thời gian để làm việc đó.
