Checker
Writer
Các nhà nghiên cứu thách thức niềm tin phổ biến rằng sự thiên vị do AI gây ra là một lỗi kỹ thuật, thay vào đó, họ lập luận rằng AI bị ảnh hưởng sâu sắc bởi động lực quyền lực xã hội. Nó học hỏi từ dữ liệu lịch sử được định hình bởi sự thiên vị của con người, hấp thụ và duy trì sự phân biệt đối xử trong quá trình này. Điều này có nghĩa là, thay vì tạo ra sự bất bình đẳng, AI tái tạo và củng cố nó.
Nghiên cứu này được công bố trên tạp chí Dự báo công nghệ và thay đổi xã hội.
"Tương tự như vậy, các hệ thống phát hiện gian lận AI của chính phủ đã cáo buộc sai các gia đình, đặc biệt là người di cư, về hành vi gian lận, dẫn đến hậu quả nghiêm trọng cho những người bị ảnh hưởng. Những trường hợp này chứng minh rằng AI, thay vì loại bỏ sự thiên vị, có thể khuếch đại sự phân biệt đối xử khi không được kiểm soát.
"Nếu không có sự minh bạch và trách nhiệm giải trình, AI có nguy cơ trở thành công cụ củng cố các hệ thống phân cấp xã hội hiện tại thay vì thách thức chúng."
AI được phát triển trong một hệ sinh thái rộng hơn, nơi các công ty, nhà phát triển và nhà hoạch định chính sách đưa ra các quyết định quan trọng về thiết kế và sử dụng AI. Những lựa chọn này quyết định AI có làm giảm hay làm trầm trọng thêm bất bình đẳng hay không. Khi được đào tạo trên dữ liệu phản ánh định kiến xã hội, các hệ thống AI sẽ sao chép sự phân biệt đối xử trong các lĩnh vực có rủi ro cao như tuyển dụng, cảnh sát và phân phối phúc lợi.
Nghiên cứu của Giáo sư Bircan nhấn mạnh rằng quản trị AI phải mở rộng ra ngoài các công ty công nghệ và nhà phát triển. Vì AI dựa vào dữ liệu do người dùng tạo ra, nên phải có tính minh bạch và bao trùm hơn trong cách thiết kế, triển khai và quản lý AI. Nếu không, AI sẽ tiếp tục làm sâu sắc thêm khoảng cách số và gia tăng chênh lệch kinh tế xã hội.
Bất chấp những thách thức, nghiên cứu này cũng mang lại hy vọng. "Thay vì chấp nhận những khiếm khuyết của AI là điều không thể tránh khỏi, công trình của chúng tôi ủng hộ các chính sách và khuôn khổ chủ động đảm bảo AI phục vụ công lý xã hội thay vì làm suy yếu nó. Bằng cách đưa sự công bằng và trách nhiệm giải trình vào AI ngay từ đầu, chúng ta có thể khai thác tiềm năng của nó để tạo ra sự thay đổi tích cực thay vì để nó củng cố bất bình đẳng có hệ thống", Giáo sư Bircan kết luận.
Nghiên cứu này được công bố trên tạp chí Dự báo công nghệ và thay đổi xã hội.
Điểm nổi bật
- Xác định các cơ chế điều hòa xã hội trong hệ sinh thái AI làm gia tăng bất bình đẳng.
- Nhấn mạnh nhu cầu thiết kế hệ thống AI công bằng, không thiên vị.
- Ủng hộ quản trị toàn cầu và tiến trình AI công bằng.
- Đề xuất cơ chế đồng sở hữu có trách nhiệm để dân chủ hóa nguồn tài nguyên.
- Nhấn mạnh tiềm năng của AI đối với công bằng xã hội khi giải quyết được bất bình đẳng.
"Tương tự như vậy, các hệ thống phát hiện gian lận AI của chính phủ đã cáo buộc sai các gia đình, đặc biệt là người di cư, về hành vi gian lận, dẫn đến hậu quả nghiêm trọng cho những người bị ảnh hưởng. Những trường hợp này chứng minh rằng AI, thay vì loại bỏ sự thiên vị, có thể khuếch đại sự phân biệt đối xử khi không được kiểm soát.
"Nếu không có sự minh bạch và trách nhiệm giải trình, AI có nguy cơ trở thành công cụ củng cố các hệ thống phân cấp xã hội hiện tại thay vì thách thức chúng."
AI được phát triển trong một hệ sinh thái rộng hơn, nơi các công ty, nhà phát triển và nhà hoạch định chính sách đưa ra các quyết định quan trọng về thiết kế và sử dụng AI. Những lựa chọn này quyết định AI có làm giảm hay làm trầm trọng thêm bất bình đẳng hay không. Khi được đào tạo trên dữ liệu phản ánh định kiến xã hội, các hệ thống AI sẽ sao chép sự phân biệt đối xử trong các lĩnh vực có rủi ro cao như tuyển dụng, cảnh sát và phân phối phúc lợi.
Nghiên cứu của Giáo sư Bircan nhấn mạnh rằng quản trị AI phải mở rộng ra ngoài các công ty công nghệ và nhà phát triển. Vì AI dựa vào dữ liệu do người dùng tạo ra, nên phải có tính minh bạch và bao trùm hơn trong cách thiết kế, triển khai và quản lý AI. Nếu không, AI sẽ tiếp tục làm sâu sắc thêm khoảng cách số và gia tăng chênh lệch kinh tế xã hội.
Bất chấp những thách thức, nghiên cứu này cũng mang lại hy vọng. "Thay vì chấp nhận những khiếm khuyết của AI là điều không thể tránh khỏi, công trình của chúng tôi ủng hộ các chính sách và khuôn khổ chủ động đảm bảo AI phục vụ công lý xã hội thay vì làm suy yếu nó. Bằng cách đưa sự công bằng và trách nhiệm giải trình vào AI ngay từ đầu, chúng ta có thể khai thác tiềm năng của nó để tạo ra sự thay đổi tích cực thay vì để nó củng cố bất bình đẳng có hệ thống", Giáo sư Bircan kết luận.
