Trà Xanh
Moderator
Một nghiên cứu gần đây từ Đại học Purdue (Mỹ) đã gióng lên hồi chuông cảnh tỉnh về độ tin cậy của ChatGPT, chatbot AI được kỳ vọng sẽ tạo nên cuộc cách mạng về năng suất làm việc. Kết quả cho thấy ChatGPT đưa ra câu trả lời sai lệch đến hơn một nửa số câu hỏi liên quan đến lĩnh vực lập trình máy tính.
Nghiên cứu, được trình bày tại Hội nghị Tương tác Người - Máy tính diễn ra ở Hawaii đầu tháng này, dựa trên việc phân tích 517 câu hỏi lập trình từ nền tảng Stack Overflow. Các câu hỏi này sau đó được đưa vào ChatGPT để phân tích và đưa ra câu trả lời.
Kết quả chỉ ra rằng 52% câu trả lời của ChatGPT chứa thông tin sai lệch, và 77% trong số đó được diễn đạt một cách dài dòng, rườm rà. Tuy nhiên, điều đáng nói là mặc dù đưa ra nhiều thông tin sai, phong cách ngôn ngữ "dễ hiểu" và "trôi chảy" của ChatGPT lại khiến nó nhận được sự ưa chuộng từ 35% người tham gia khảo sát.
Nghiên cứu cũng phát hiện ra rằng các lập trình viên tham gia đôi khi không thể nhận ra những sai sót trong câu trả lời của ChatGPT. Cụ thể, trong 39% trường hợp, các lập trình viên đã bỏ qua thông tin sai lệch mà chatbot AI này cung cấp.
Kết quả này đặt ra câu hỏi về độ tin cậy của ChatGPT, công cụ được kỳ vọng sẽ tạo ra bước đột phá trong lĩnh vực AI. Hiện nay, các ông lớn công nghệ như Meta, Microsoft và Google đang đầu tư hàng tỷ USD vào cuộc đua AI nhằm tạo ra những chatbot "thông minh" và đáng tin cậy nhất.
Google, với công cụ tìm kiếm tích hợp AI mới, cũng đang vấp phải nhiều chỉ trích vì thường xuyên cung cấp thông tin sai lệch từ các nguồn không đáng tin cậy. Thậm chí, đã có trường hợp Google Search lấy thông tin từ trang báo châm biếm The Onion và hiển thị như một nguồn đáng tin cậy. Trước những phản hồi tiêu cực về độ chính xác của công cụ tìm kiếm, phía Google lại cho rằng những lỗi sai này chỉ là "ngoại lệ".
Đại diện Google cho biết: "Những ví dụ được đề cập đến thường là những truy vấn rất hiếm gặp và không đại diện cho trải nghiệm của hầu hết người dùng. Phần lớn AI Overviews đều cung cấp thông tin chất lượng cao, với các liên kết để người dùng tìm hiểu sâu hơn trên web." Tuy nhiên, lập luận này của Google đã ngay lập tức vấp phải sự phản đối từ phía người dùng. Với vai trò là công cụ tìm kiếm hàng đầu thế giới, Google được kỳ vọng phải đảm bảo tính chính xác với tất cả các truy vấn, chứ không chỉ với những truy vấn phổ biến.
Nghiên cứu, được trình bày tại Hội nghị Tương tác Người - Máy tính diễn ra ở Hawaii đầu tháng này, dựa trên việc phân tích 517 câu hỏi lập trình từ nền tảng Stack Overflow. Các câu hỏi này sau đó được đưa vào ChatGPT để phân tích và đưa ra câu trả lời.
Kết quả chỉ ra rằng 52% câu trả lời của ChatGPT chứa thông tin sai lệch, và 77% trong số đó được diễn đạt một cách dài dòng, rườm rà. Tuy nhiên, điều đáng nói là mặc dù đưa ra nhiều thông tin sai, phong cách ngôn ngữ "dễ hiểu" và "trôi chảy" của ChatGPT lại khiến nó nhận được sự ưa chuộng từ 35% người tham gia khảo sát.
Nghiên cứu cũng phát hiện ra rằng các lập trình viên tham gia đôi khi không thể nhận ra những sai sót trong câu trả lời của ChatGPT. Cụ thể, trong 39% trường hợp, các lập trình viên đã bỏ qua thông tin sai lệch mà chatbot AI này cung cấp.
Kết quả này đặt ra câu hỏi về độ tin cậy của ChatGPT, công cụ được kỳ vọng sẽ tạo ra bước đột phá trong lĩnh vực AI. Hiện nay, các ông lớn công nghệ như Meta, Microsoft và Google đang đầu tư hàng tỷ USD vào cuộc đua AI nhằm tạo ra những chatbot "thông minh" và đáng tin cậy nhất.
Google, với công cụ tìm kiếm tích hợp AI mới, cũng đang vấp phải nhiều chỉ trích vì thường xuyên cung cấp thông tin sai lệch từ các nguồn không đáng tin cậy. Thậm chí, đã có trường hợp Google Search lấy thông tin từ trang báo châm biếm The Onion và hiển thị như một nguồn đáng tin cậy. Trước những phản hồi tiêu cực về độ chính xác của công cụ tìm kiếm, phía Google lại cho rằng những lỗi sai này chỉ là "ngoại lệ".
Đại diện Google cho biết: "Những ví dụ được đề cập đến thường là những truy vấn rất hiếm gặp và không đại diện cho trải nghiệm của hầu hết người dùng. Phần lớn AI Overviews đều cung cấp thông tin chất lượng cao, với các liên kết để người dùng tìm hiểu sâu hơn trên web." Tuy nhiên, lập luận này của Google đã ngay lập tức vấp phải sự phản đối từ phía người dùng. Với vai trò là công cụ tìm kiếm hàng đầu thế giới, Google được kỳ vọng phải đảm bảo tính chính xác với tất cả các truy vấn, chứ không chỉ với những truy vấn phổ biến.
