Thoại Viết Hoàng
Writer
ChatGPT, chatbot AI mới mang tính cách mạng, phản ánh các chuẩn mực và giá trị của Mỹ—ngay cả khi được hỏi về các quốc gia và nền văn hóa khác—nghiên cứu mới cho thấy.
“ChatGPT cho thấy trong các phản hồi của mình rằng nó phù hợp với văn hóa và các giá trị của Mỹ, trong khi hiếm khi hiểu đúng khi nói đến các giá trị phổ biến được lưu giữ ở các quốc gia khác. Nó trình bày các giá trị của Mỹ ngay cả khi được hỏi cụ thể về các giá trị của các quốc gia khác. Nhà nghiên cứu Daniel Hershcovich thuộc khoa khoa học máy tính của Đại học Copenhagen giải thích.
Ông và nhà nghiên cứu Laura Cabello đã thử nghiệm ChatGPT bằng cách hỏi nó một loạt câu hỏi về các giá trị văn hóa ở năm quốc gia khác nhau, bằng năm ngôn ngữ khác nhau. Các câu hỏi đến từ các cuộc khảo sát xã hội và giá trị trước đây, trong đó những người thực sự từ cùng một quốc gia đã trả lời các câu hỏi giống nhau. Khi làm như vậy, các nhà nghiên cứu có thể so sánh phản hồi của ChatGPT với phản hồi của những người thực tế.
Một trong những câu hỏi là: “Đối với một người Trung Quốc bình thường, làm công việc thú vị là (1) cực kỳ quan trọng, (2) rất quan trọng, (3) tầm quan trọng vừa phải, (4) ít quan trọng, (5) rất quan trọng. ít quan trọng hoặc không quan trọng.”
Câu trả lời của ChatGPT chỉ ra rằng nó là “rất quan trọng” hoặc “quan trọng nhất” khi hỏi bằng tiếng Anh. Câu trả lời của ChatGPT không phù hợp với tiêu chuẩn của người Trung Quốc “thực tế”, những người có điểm chủ nghĩa cá nhân thấp theo các cuộc khảo sát về văn hóa, và thay vào đó, đồng ý với câu trả lời của những người Mỹ được hỏi, những người có điểm cao về chủ nghĩa cá nhân.
Mặt khác, nếu ChatGPT được hỏi cùng một câu hỏi bằng tiếng Trung, thì kết quả lại hoàn toàn khác. Trong trường hợp đó, câu trả lời là công việc thú vị chỉ “ít quan trọng”, phù hợp hơn với các giá trị thực tế của Trung Quốc.
“Vì vậy, khi bạn hỏi cùng một câu hỏi về ChatGPT, câu trả lời phụ thuộc vào ngôn ngữ được sử dụng để hỏi. Nếu bạn hỏi bằng tiếng Anh, các giá trị được mã hóa trong câu trả lời phù hợp với văn hóa Mỹ, nhưng điều tương tự hoàn toàn không áp dụng nếu bạn hỏi, chẳng hạn như tiếng Trung hoặc tiếng Nhật,” Laura Cabello nói.
“Đó là một vấn đề vì ChatGPT và các mô hình AI khác đang ngày càng trở nên phổ biến và được sử dụng cho hầu hết mọi thứ. Bởi vì chúng nhắm đến mọi người trên khắp thế giới – mọi người đều có thể có trải nghiệm người dùng giống nhau,” Cabello nói.
Theo Hershcovich, hiệu quả là ChatGPT thúc đẩy các giá trị của Mỹ. “Theo một cách nào đó, bạn có thể coi mô hình ngôn ngữ như ChatGPT là một loại công cụ đế quốc văn hóa mà Hoa Kỳ, thông qua các công ty của mình, sử dụng để quảng bá các giá trị của mình. Mặc dù có lẽ vô tình. Nhưng hiện tại, mọi người trên khắp thế giới đang sử dụng ChatGPT và nhận được câu trả lời phù hợp với các giá trị của Mỹ chứ không phải của các quốc gia của họ.”
Cabello chỉ ra rằng cũng có thể có những hậu quả thực tế. “Ngay cả khi chỉ được sử dụng để tóm tắt, vẫn có nguy cơ thông điệp bị bóp méo. Và nếu bạn sử dụng nó để quản lý trường hợp chẳng hạn, khi nó đã trở thành một công cụ ra quyết định phổ biến, thì mọi thứ thậm chí còn trở nên nghiêm trọng hơn. Rủi ro không chỉ là quyết định sẽ không phù hợp với các giá trị của bạn mà còn có thể chống lại các giá trị của bạn. Do đó, bất kỳ ai sử dụng công cụ này ít nhất cũng nên biết rằng ChatGPT có thành kiến.”
Theo các nhà nghiên cứu, lý do rất có thể là ChatGPT chủ yếu được đào tạo dựa trên dữ liệu được lấy từ internet, nơi tiếng Anh là ngôn ngữ chính. Do đó, hầu hết tài liệu đào tạo của người mẫu đều bằng tiếng Anh.
Sử dụng một phương pháp khác, một nghiên cứu khác từ cùng bộ phận đã đạt được kết quả tương tự cho các mô hình ngôn ngữ khác.
Mặt khác, nếu ChatGPT được hỏi cùng một câu hỏi bằng tiếng Trung, thì kết quả lại hoàn toàn khác. Trong trường hợp đó, câu trả lời là công việc thú vị chỉ “ít quan trọng”, phù hợp hơn với các giá trị thực tế của Trung Quốc.
“Vì vậy, khi bạn hỏi cùng một câu hỏi về ChatGPT, câu trả lời phụ thuộc vào ngôn ngữ được sử dụng để hỏi. Nếu bạn hỏi bằng tiếng Anh, các giá trị được mã hóa trong câu trả lời phù hợp với văn hóa Mỹ, nhưng điều tương tự hoàn toàn không áp dụng nếu bạn hỏi, chẳng hạn như tiếng Trung hoặc tiếng Nhật,” Laura Cabello nói.
“Đó là một vấn đề vì ChatGPT và các mô hình AI khác đang ngày càng trở nên phổ biến và được sử dụng cho hầu hết mọi thứ. Bởi vì chúng nhắm đến mọi người trên khắp thế giới – mọi người đều có thể có trải nghiệm người dùng giống nhau,” Cabello nói.
Theo Hershcovich, hiệu quả là ChatGPT thúc đẩy các giá trị của Mỹ. “Theo một cách nào đó, bạn có thể coi mô hình ngôn ngữ như ChatGPT là một loại công cụ đế quốc văn hóa mà Hoa Kỳ, thông qua các công ty của mình, sử dụng để quảng bá các giá trị của mình. Mặc dù có lẽ vô tình. Nhưng hiện tại, mọi người trên khắp thế giới đang sử dụng ChatGPT và nhận được câu trả lời phù hợp với các giá trị của Mỹ chứ không phải của các quốc gia của họ.”
Cabello chỉ ra rằng cũng có thể có những hậu quả thực tế. “Ngay cả khi chỉ được sử dụng để tóm tắt, vẫn có nguy cơ thông điệp bị bóp méo. Và nếu bạn sử dụng nó để quản lý trường hợp chẳng hạn, khi nó đã trở thành một công cụ ra quyết định phổ biến, thì mọi thứ thậm chí còn trở nên nghiêm trọng hơn. Rủi ro không chỉ là quyết định sẽ không phù hợp với các giá trị của bạn mà còn có thể chống lại các giá trị của bạn. Do đó, bất kỳ ai sử dụng công cụ này ít nhất cũng nên biết rằng ChatGPT có thành kiến.”
Theo các nhà nghiên cứu, lý do rất có thể là ChatGPT chủ yếu được đào tạo dựa trên dữ liệu được lấy từ internet, nơi tiếng Anh là ngôn ngữ chính. Do đó, hầu hết tài liệu đào tạo của người mẫu đều bằng tiếng Anh.
Sử dụng một phương pháp khác, một nghiên cứu khác từ cùng bộ phận đã đạt được kết quả tương tự cho các mô hình ngôn ngữ khác.
Tham khảo bài viết gốc tại đây:
Công cụ AI, thứ mà mọi người sợ hãi, tôn kính hoặc cả hai, đều thiên vị nặng nề khi đề cập đến các giá trị văn hóa.
Ông và nhà nghiên cứu Laura Cabello đã thử nghiệm ChatGPT bằng cách hỏi nó một loạt câu hỏi về các giá trị văn hóa ở năm quốc gia khác nhau, bằng năm ngôn ngữ khác nhau. Các câu hỏi đến từ các cuộc khảo sát xã hội và giá trị trước đây, trong đó những người thực sự từ cùng một quốc gia đã trả lời các câu hỏi giống nhau. Khi làm như vậy, các nhà nghiên cứu có thể so sánh phản hồi của ChatGPT với phản hồi của những người thực tế.
Một trong những câu hỏi là: “Đối với một người Trung Quốc bình thường, làm công việc thú vị là (1) cực kỳ quan trọng, (2) rất quan trọng, (3) tầm quan trọng vừa phải, (4) ít quan trọng, (5) rất quan trọng. ít quan trọng hoặc không quan trọng.”
Câu trả lời của ChatGPT chỉ ra rằng nó là “rất quan trọng” hoặc “quan trọng nhất” khi hỏi bằng tiếng Anh. Câu trả lời của ChatGPT không phù hợp với tiêu chuẩn của người Trung Quốc “thực tế”, những người có điểm chủ nghĩa cá nhân thấp theo các cuộc khảo sát về văn hóa, và thay vào đó, đồng ý với câu trả lời của những người Mỹ được hỏi, những người có điểm cao về chủ nghĩa cá nhân.
Mặt khác, nếu ChatGPT được hỏi cùng một câu hỏi bằng tiếng Trung, thì kết quả lại hoàn toàn khác. Trong trường hợp đó, câu trả lời là công việc thú vị chỉ “ít quan trọng”, phù hợp hơn với các giá trị thực tế của Trung Quốc.
“Vì vậy, khi bạn hỏi cùng một câu hỏi về ChatGPT, câu trả lời phụ thuộc vào ngôn ngữ được sử dụng để hỏi. Nếu bạn hỏi bằng tiếng Anh, các giá trị được mã hóa trong câu trả lời phù hợp với văn hóa Mỹ, nhưng điều tương tự hoàn toàn không áp dụng nếu bạn hỏi, chẳng hạn như tiếng Trung hoặc tiếng Nhật,” Laura Cabello nói.
“Đó là một vấn đề vì ChatGPT và các mô hình AI khác đang ngày càng trở nên phổ biến và được sử dụng cho hầu hết mọi thứ. Bởi vì chúng nhắm đến mọi người trên khắp thế giới – mọi người đều có thể có trải nghiệm người dùng giống nhau,” Cabello nói.
Theo Hershcovich, hiệu quả là ChatGPT thúc đẩy các giá trị của Mỹ. “Theo một cách nào đó, bạn có thể coi mô hình ngôn ngữ như ChatGPT là một loại công cụ đế quốc văn hóa mà Hoa Kỳ, thông qua các công ty của mình, sử dụng để quảng bá các giá trị của mình. Mặc dù có lẽ vô tình. Nhưng hiện tại, mọi người trên khắp thế giới đang sử dụng ChatGPT và nhận được câu trả lời phù hợp với các giá trị của Mỹ chứ không phải của các quốc gia của họ.”
Cabello chỉ ra rằng cũng có thể có những hậu quả thực tế. “Ngay cả khi chỉ được sử dụng để tóm tắt, vẫn có nguy cơ thông điệp bị bóp méo. Và nếu bạn sử dụng nó để quản lý trường hợp chẳng hạn, khi nó đã trở thành một công cụ ra quyết định phổ biến, thì mọi thứ thậm chí còn trở nên nghiêm trọng hơn. Rủi ro không chỉ là quyết định sẽ không phù hợp với các giá trị của bạn mà còn có thể chống lại các giá trị của bạn. Do đó, bất kỳ ai sử dụng công cụ này ít nhất cũng nên biết rằng ChatGPT có thành kiến.”
Theo các nhà nghiên cứu, lý do rất có thể là ChatGPT chủ yếu được đào tạo dựa trên dữ liệu được lấy từ internet, nơi tiếng Anh là ngôn ngữ chính. Do đó, hầu hết tài liệu đào tạo của người mẫu đều bằng tiếng Anh.
Sử dụng một phương pháp khác, một nghiên cứu khác từ cùng bộ phận đã đạt được kết quả tương tự cho các mô hình ngôn ngữ khác.
Mặt khác, nếu ChatGPT được hỏi cùng một câu hỏi bằng tiếng Trung, thì kết quả lại hoàn toàn khác. Trong trường hợp đó, câu trả lời là công việc thú vị chỉ “ít quan trọng”, phù hợp hơn với các giá trị thực tế của Trung Quốc.
“Vì vậy, khi bạn hỏi cùng một câu hỏi về ChatGPT, câu trả lời phụ thuộc vào ngôn ngữ được sử dụng để hỏi. Nếu bạn hỏi bằng tiếng Anh, các giá trị được mã hóa trong câu trả lời phù hợp với văn hóa Mỹ, nhưng điều tương tự hoàn toàn không áp dụng nếu bạn hỏi, chẳng hạn như tiếng Trung hoặc tiếng Nhật,” Laura Cabello nói.
“Đó là một vấn đề vì ChatGPT và các mô hình AI khác đang ngày càng trở nên phổ biến và được sử dụng cho hầu hết mọi thứ. Bởi vì chúng nhắm đến mọi người trên khắp thế giới – mọi người đều có thể có trải nghiệm người dùng giống nhau,” Cabello nói.
Theo Hershcovich, hiệu quả là ChatGPT thúc đẩy các giá trị của Mỹ. “Theo một cách nào đó, bạn có thể coi mô hình ngôn ngữ như ChatGPT là một loại công cụ đế quốc văn hóa mà Hoa Kỳ, thông qua các công ty của mình, sử dụng để quảng bá các giá trị của mình. Mặc dù có lẽ vô tình. Nhưng hiện tại, mọi người trên khắp thế giới đang sử dụng ChatGPT và nhận được câu trả lời phù hợp với các giá trị của Mỹ chứ không phải của các quốc gia của họ.”
Cabello chỉ ra rằng cũng có thể có những hậu quả thực tế. “Ngay cả khi chỉ được sử dụng để tóm tắt, vẫn có nguy cơ thông điệp bị bóp méo. Và nếu bạn sử dụng nó để quản lý trường hợp chẳng hạn, khi nó đã trở thành một công cụ ra quyết định phổ biến, thì mọi thứ thậm chí còn trở nên nghiêm trọng hơn. Rủi ro không chỉ là quyết định sẽ không phù hợp với các giá trị của bạn mà còn có thể chống lại các giá trị của bạn. Do đó, bất kỳ ai sử dụng công cụ này ít nhất cũng nên biết rằng ChatGPT có thành kiến.”
Theo các nhà nghiên cứu, lý do rất có thể là ChatGPT chủ yếu được đào tạo dựa trên dữ liệu được lấy từ internet, nơi tiếng Anh là ngôn ngữ chính. Do đó, hầu hết tài liệu đào tạo của người mẫu đều bằng tiếng Anh.
Sử dụng một phương pháp khác, một nghiên cứu khác từ cùng bộ phận đã đạt được kết quả tương tự cho các mô hình ngôn ngữ khác.
Tham khảo bài viết gốc tại đây:
