AI như ChatGPT mắc phải thiên kiến tương tự con người trong gần 50% các tình huống kiểm tra

[Sóng AI]

- Một nghiên cứu mới đã phát hiện rằng AI không phải lúc nào cũng đưa ra quyết định khách quan hơn con người, đặc biệt trong các tình huống không thuần túy dựa trên logic.

- Các nhà khoa học đã thử nghiệm ChatGPT qua 18 bài kiểm tra cổ điển được thiết kế để phát hiện tư duy thiên kiến và phát hiện trong gần một nửa các bài kiểm tra, ChatGPT mắc lỗi tương tự như con người.

- AI thể hiện dấu hiệu quá tự tin, tránh sự mơ hồ và thậm chí mắc phải ngụy biện của người đánh bạc (gambler's fallacy), nhưng không mắc phải ngụy biện chi phí chìm (sunk cost fallacy).

- Mô hình GPT-4 mới hơn, mặc dù chính xác hơn trong các vấn đề toán học, lại thể hiện thiên kiến mạnh hơn trong các tình huống đòi hỏi phán đoán.

- ChatGPT có xu hướng an toàn, tránh các lựa chọn rủi ro ngay cả khi chấp nhận rủi ro có thể mang lại kết quả tốt hơn.

- AI thường đánh giá quá cao độ chính xác của mình, trình bày kết luận với mức độ tự tin có thể gây hiểu lầm, đặc biệt khi câu trả lời đúng không rõ ràng.

- Nghiên cứu cũng phát hiện ChatGPT có xu hướng tìm kiếm thông tin xác nhận những gì nó đã "tin" (thiên kiến xác nhận) và ưa thích sự chắc chắn hơn là đối mặt với sự mơ hồ.

- Yang Chen, tác giả chính và giáo sư tại Đại học Western, cho biết: "Khi AI học từ dữ liệu của con người, nó cũng có thể suy nghĩ như con người - bao gồm cả thiên kiến."

- Phát hiện này đặc biệt quan trọng khi AI ngày càng được sử dụng để đưa ra quyết định quan trọng như tuyển dụng, phê duyệt khoản vay hoặc thiết lập mức bảo hiểm.

- Samuel Kirshner từ UNSW Business School cảnh báo: "AI không phải là trọng tài trung lập. Nếu không được kiểm soát, nó có thể không giải quyết được vấn đề ra quyết định - mà thực sự có thể làm cho chúng tồi tệ hơn."

- Các nhà nghiên cứu nhấn mạnh nhu cầu thiết lập hệ thống giám sát và hướng dẫn đạo đức cho AI, đồng thời đánh giá lại thường xuyên hiệu suất của chúng.

Nghiên cứu cho thấy AI như ChatGPT mắc phải thiên kiến tương tự con người trong gần 50% các tình huống kiểm tra. Mặc dù xuất sắc trong toán học và logic, AI vẫn thể hiện tính quá tự tin, tránh rủi ro và thiên kiến xác nhận, đòi hỏi sự giám sát chặt chẽ khi được ứng dụng vào các quyết định quan trọng.

Can AI systems be trusted to make unbiased decisions? Scientists found out

Study reveals that AI tools like ChatGPT can mimic human decision-making biases, raising concerns about their use in high-stakes situations.

www.earth.com

Nguồn: Songai.vn​