"Bộ dữ liệu AI có điểm mù về giá trị của con người"

[Vũ Nguyễn]

AI ngày càng có mặt trong nhiều lĩnh vực quan trọng như luật pháp, y tế và mạng xã hội. Tuy nhiên, nghiên cứu của chúng tôi tại Đại học Purdue cho thấy các hệ thống AI hiện nay chủ yếu tập trung vào việc cung cấp thông tin và sự tiện lợi, trong khi ít chú trọng đến các giá trị như sự đồng cảm, công bằng xã hội hay trách nhiệm đạo đức.

AI đang học gì từ dữ liệu?​

AI được đào tạo từ các tập dữ liệu lớn gồm văn bản, hình ảnh và nhiều loại thông tin khác. Dù được kiểm soát chặt chẽ, các dữ liệu này vẫn có thể chứa nội dung không phù hợp hoặc thiếu cân bằng về giá trị con người.

Chúng tôi đã nghiên cứu ba bộ dữ liệu nguồn mở được các công ty AI hàng đầu Mỹ sử dụng. Để phân tích, nhóm đã xây dựng một hệ thống phân loại các giá trị con người dựa trên triết học, khoa học xã hội và công nghệ. Các giá trị này bao gồm:

• Tìm kiếm thông tin
• Trí tuệ và kiến thức
• Công lý, quyền con người và quyền động vật
• Lịch sự, khoan dung và đồng cảm
• Trách nhiệm và nghĩa vụ xã hội

Sau khi phân tích, chúng tôi nhận thấy AI được đào tạo rất nhiều về cách cung cấp thông tin hữu ích, nhưng rất ít về các chủ đề liên quan đến công bằng xã hội hay nhân quyền.

Vì sao điều này quan trọng?​

Việc AI thiếu sự cân bằng trong các giá trị có thể ảnh hưởng đến cách nó tương tác với con người, đặc biệt khi được sử dụng trong các lĩnh vực nhạy cảm như luật pháp hay y tế. Nếu AI không hiểu rõ về công bằng, đồng cảm hay trách nhiệm, nó có thể đưa ra phản hồi thiếu đạo đức hoặc gây hại trong một số tình huống nhất định.

Điều này cũng đặt ra câu hỏi lớn cho chính phủ và các nhà hoạch định chính sách: Làm thế nào để đảm bảo AI phục vụ con người một cách công bằng và đạo đức?

Hướng đi tiếp theo​

Các công ty công nghệ đang nỗ lực để hướng AI theo các giá trị con người thông qua phương pháp học tăng cường từ phản hồi của con người. Đây là cách giúp AI học từ dữ liệu được kiểm soát để trở nên hữu ích và trung thực hơn.

Nhóm của chúng tôi là những người đầu tiên áp dụng phương pháp có hệ thống để phân tích giá trị trong dữ liệu đào tạo AI. Chúng tôi hy vọng cách làm này sẽ giúp các công ty xây dựng các tập dữ liệu cân bằng hơn, phản ánh đúng các giá trị xã hội và cộng đồng.

Dù các bộ dữ liệu chúng tôi nghiên cứu có thể không còn được sử dụng, nhưng quy trình này vẫn giúp các công ty phát triển AI theo hướng có trách nhiệm hơn trong tương lai.

Ike Obi
Sinh viên tiến sĩ ngành Máy tính và Công nghệ thông tin, Đại học Purdue
The Conversation