Sóng AI
Writer
- Các hệ thống AI đang ngày càng đảm nhận nhiều vai trò xã hội truyền thống của con người như gia sư, nhà cung cấp dịch vụ sức khỏe tâm thần và thậm chí là đối tác tình cảm.
- Các nhà nghiên cứu từ đại học Oxford, Copenhagen và Melbourne lập luận rằng thay vì chỉ áp dụng các nguyên tắc đạo đức trừu tượng, chúng ta cần xem xét bối cảnh quan hệ cụ thể trong tương tác người-AI.
- Mỗi loại quan hệ trong xã hội tuân theo các chuẩn mực khác nhau. Cách bạn tương tác với bác sĩ khác với cách tương tác với đối tác tình cảm hoặc sếp.
- Các mối quan hệ của con người thực hiện 4 chức năng cơ bản: chăm sóc (không tính toán thiệt hơn), giao dịch (trao đổi công bằng), tìm bạn đời (tương tác lãng mạn) và phân cấp (cấu trúc quyền lực).
- Mỗi loại quan hệ kết hợp các chức năng này theo cách khác nhau. Ví dụ: quan hệ cha mẹ-con cái thường vừa mang tính chăm sóc vừa có phân cấp, nhưng không mang tính giao dịch.
- Nghiên cứu cho thấy bối cảnh quan hệ ảnh hưởng đến cách mọi người đưa ra phán đoán đạo đức. Một hành động có thể bị coi là sai trong một mối quan hệ nhưng lại được chấp nhận trong mối quan hệ khác.
- Khi chatbot từ chối thảo luận về vấn đề cá nhân của người dùng đang cảm thấy trầm cảm, tính phù hợp của phản ứng này phụ thuộc vào vai trò của chatbot. Nếu đóng vai trò bạn bè hoặc đối tác, phản ứng này không phù hợp vì vi phạm chuẩn mực chăm sóc.
- Vấn đề phức tạp hơn khi hầu hết tương tác với AI hiện nay diễn ra trong bối cảnh thương mại - người dùng phải trả tiền để truy cập hệ thống, trong khi tình bạn giữa người với người thường không mang tính giao dịch.
- Nhà phát triển AI nên xem xét các câu hỏi đạo đức liên quan đến mối quan hệ cụ thể, không chỉ các vấn đề trừu tượng như ý thức.
- Người dùng AI nên nhận thức về các điểm yếu tiềm ẩn khi sử dụng AI trong các bối cảnh quan hệ cụ thể, như việc phụ thuộc cảm xúc vào chatbot.
- Cơ quan quản lý nên xem xét bối cảnh quan hệ khi phát triển cấu trúc quản trị, thay vì chỉ áp dụng đánh giá rủi ro dựa trên lĩnh vực rộng.
Khi AI đảm nhận vai trò xã hội như bạn bè, gia sư, bác sĩ hay người yêu, chúng cần tuân theo các chuẩn mực quan hệ khác nhau. Các nhà thiết kế, người dùng và cơ quan quản lý cần xem xét 4 chức năng cơ bản của quan hệ (chăm sóc, giao dịch, tìm bạn đời, phân cấp) để đảm bảo AI nâng cao chứ không làm giảm chất lượng cuộc sống.
Friend, tutor, doctor, lover: why AI systems need different rules for different roles
What we want from AI systems depends on the kind of relationships they are trying to simulate.
theconversation.com
Nguồn: Songai.vn
