Thoại Viết Hoàng
Writer
Các nhà khoa học lo ngại việc sử dụng các mô hình AI như ChatGPT trong chăm sóc sức khỏe sẽ làm trầm trọng thêm sự bất bình đẳng.
Các nhà dịch tễ học, từ các trường đại học Cambridge và Leicester, cảnh báo rằng các mô hình ngôn ngữ lớn (LLM) có thể tạo ra sự bất bình đẳng cho các dân tộc thiểu số và các nước có thu nhập thấp.
Mối quan tâm của họ bắt nguồn từ những sai lệch dữ liệu hệ thống. Các mô hình AI được sử dụng trong chăm sóc sức khỏe được đào tạo dựa trên thông tin từ các trang web và tài liệu khoa học. Nhưng bằng chứng cho thấy dữ liệu dân tộc thường bị thiếu từ các nguồn này.
Do đó, các công cụ AI có thể kém chính xác hơn đối với các nhóm ít được đại diện. Điều này có thể dẫn đến các khuyến nghị về thuốc không hiệu quả hoặc tư vấn y tế phân biệt chủng tộc.
Các nhà nghiên cứu cho biết trong bài báo nghiên cứu của họ: “Người ta chấp nhận rộng rãi rằng nguy cơ khác biệt có liên quan đến việc xuất thân từ dân tộc thiểu số trong nhiều nhóm bệnh.
“Nếu tài liệu đã xuất bản đã chứa đựng những sai lệch và kém chính xác hơn, thì điều hợp lý là các mô hình AI trong tương lai sẽ duy trì và làm trầm trọng thêm chúng.”
Các nhà khoa học cũng lo ngại về mối đe dọa đối với các nước thu nhập thấp và trung bình (LMICs). Các mô hình AI chủ yếu được phát triển ở các quốc gia giàu có hơn, những quốc gia cũng chiếm ưu thế trong việc tài trợ cho nghiên cứu y học.
Do đó, các LMIC “được đại diện rất ít” trong dữ liệu đào tạo về chăm sóc sức khỏe. Điều này có thể khiến các công cụ AI đưa ra lời khuyên tồi cho người dân ở các quốc gia này.
Bất chấp những lo ngại này, các nhà nghiên cứu nhận ra những lợi ích mà AI có thể mang lại cho y học. Để giảm thiểu rủi ro, họ đề xuất một số biện pháp
Đầu tiên, họ muốn các mô hình mô tả rõ ràng dữ liệu được sử dụng trong quá trình phát triển của họ. Họ cũng kêu gọi tiếp tục làm việc để giải quyết sự bất bình đẳng về sức khỏe trong nghiên cứu, bao gồm tuyển dụng và ghi lại thông tin dân tộc tốt hơn.
Dữ liệu đào tạo phải mang tính đại diện đầy đủ, trong khi cần nghiên cứu thêm về việc sử dụng AI cho các nhóm yếu thế. Các nhà nghiên cứu cho biết những can thiệp này sẽ thúc đẩy chăm sóc sức khỏe công bằng và toàn diện.
Tiến sĩ Mohammad Ali từ Đại học Leicester cho biết: “Chúng ta phải thận trọng, thừa nhận rằng chúng ta không thể và không nên cản trở dòng tiến bộ.
Tham khảo bài viết gốc tại đây
Mối quan tâm của họ bắt nguồn từ những sai lệch dữ liệu hệ thống. Các mô hình AI được sử dụng trong chăm sóc sức khỏe được đào tạo dựa trên thông tin từ các trang web và tài liệu khoa học. Nhưng bằng chứng cho thấy dữ liệu dân tộc thường bị thiếu từ các nguồn này.
Do đó, các công cụ AI có thể kém chính xác hơn đối với các nhóm ít được đại diện. Điều này có thể dẫn đến các khuyến nghị về thuốc không hiệu quả hoặc tư vấn y tế phân biệt chủng tộc.
Các nhà nghiên cứu cho biết trong bài báo nghiên cứu của họ: “Người ta chấp nhận rộng rãi rằng nguy cơ khác biệt có liên quan đến việc xuất thân từ dân tộc thiểu số trong nhiều nhóm bệnh.
“Nếu tài liệu đã xuất bản đã chứa đựng những sai lệch và kém chính xác hơn, thì điều hợp lý là các mô hình AI trong tương lai sẽ duy trì và làm trầm trọng thêm chúng.”
Các nhà khoa học cũng lo ngại về mối đe dọa đối với các nước thu nhập thấp và trung bình (LMICs). Các mô hình AI chủ yếu được phát triển ở các quốc gia giàu có hơn, những quốc gia cũng chiếm ưu thế trong việc tài trợ cho nghiên cứu y học.
Do đó, các LMIC “được đại diện rất ít” trong dữ liệu đào tạo về chăm sóc sức khỏe. Điều này có thể khiến các công cụ AI đưa ra lời khuyên tồi cho người dân ở các quốc gia này.
Bất chấp những lo ngại này, các nhà nghiên cứu nhận ra những lợi ích mà AI có thể mang lại cho y học. Để giảm thiểu rủi ro, họ đề xuất một số biện pháp
Đầu tiên, họ muốn các mô hình mô tả rõ ràng dữ liệu được sử dụng trong quá trình phát triển của họ. Họ cũng kêu gọi tiếp tục làm việc để giải quyết sự bất bình đẳng về sức khỏe trong nghiên cứu, bao gồm tuyển dụng và ghi lại thông tin dân tộc tốt hơn.
Dữ liệu đào tạo phải mang tính đại diện đầy đủ, trong khi cần nghiên cứu thêm về việc sử dụng AI cho các nhóm yếu thế. Các nhà nghiên cứu cho biết những can thiệp này sẽ thúc đẩy chăm sóc sức khỏe công bằng và toàn diện.
Tiến sĩ Mohammad Ali từ Đại học Leicester cho biết: “Chúng ta phải thận trọng, thừa nhận rằng chúng ta không thể và không nên cản trở dòng tiến bộ.
Tham khảo bài viết gốc tại đây
