Sóng AI
Writer
Các chatbot AI tạo sinh thường mắc nhiều lỗi nghiêm trọng, như gợi ý thêm keo dán vào công thức pizza hoặc khuyên ăn đá để tốt cho sức khỏe.
Một báo cáo từ hội đồng gồm 24 chuyên gia trí tuệ nhân tạo được công bố tháng 3/2025 bởi Hiệp hội vì sự tiến bộ của trí tuệ nhân tạo (AAAI) cho thấy các nhà nghiên cứu không lạc quan về việc công nghệ này sẽ sớm được cải thiện.
Các lỗi này được gọi là ảo giác - về cơ bản là những thông tin mà mô hình tự bịa ra, và độ tin cậy của các công cụ AI cần tăng đáng kể nếu các nhà phát triển muốn tạo ra mô hình có thể đạt hoặc vượt trí thông minh của con người.
Vincent Conitzer, giáo sư khoa học máy tính tại Đại học Carnegie Mellon và là một trong những thành viên hội đồng, cho biết: "Chúng tôi thường khá thận trọng và không tin vào điều gì đó cho đến khi nó thực sự hoạt động."
Mục tiêu của báo cáo, theo chủ tịch AAAI Francesca Rossi, là hỗ trợ nghiên cứu trí tuệ nhân tạo tạo ra công nghệ giúp ích cho con người, đồng thời giải quyết các vấn đề về niềm tin và độ tin cậy.
Một báo cáo gần đây từ Columbia Journalism Review phát hiện chatbot thường không từ chối trả lời các câu hỏi mà chúng không thể trả lời chính xác, tự tin về thông tin sai lệch và thậm chí bịa đặt các nguồn (cùng với liên kết giả) để hỗ trợ cho những khẳng định sai lầm.
Các nhà nghiên cứu đã chỉ ra 3 cách chính để tăng độ chính xác của hệ thống AI: tinh chỉnh (fine-tuning), tạo sinh được tăng cường bởi truy xuất dữ liệu ngoài (RAG), và chuỗi suy nghĩ (chain-of-thought).
Khoảng 60% người được khảo sát bày tỏ nghi ngờ rằng các vấn đề về tính xác thực hoặc độ tin cậy sẽ sớm được giải quyết.
John Thickstun, giáo sư khoa học máy tính tại Đại học Cornell, cho biết: "Tôi nghĩ hy vọng đó luôn hơi quá lạc quan. Trong vài năm qua, tôi chưa thấy bằng chứng nào cho thấy các mô hình ngôn ngữ chính xác, có tính thực tế cao sắp xuất hiện."
Lời khuyên của Thickstun cho người dùng các mô hình như ChatGPT và Google's Gemini rất đơn giản: "Bạn phải kiểm tra kết quả."
Hơn 76% người được hỏi cho rằng việc mở rộng các kỹ thuật AI hiện tại như mô hình ngôn ngữ lớn khó có thể tạo ra trí tuệ nhân tạo tổng quát (AGI).
Đa số lớn (82%) tin rằng các hệ thống có khả năng AGI nên thuộc sở hữu công cộng nếu chúng được phát triển bởi các tổ chức tư nhân.
Mặc dù các nhà nghiên cứu hoài nghi rằng AGI sắp xuất hiện, Conitzer cảnh báo rằng các nhà nghiên cứu AI không nhất thiết phải dự đoán được sự cải tiến công nghệ đáng kể mà tất cả chúng ta đã thấy trong vài năm qua.
Các chuyên gia AI không lạc quan về việc sớm giải quyết vấn đề ảo giác trong AI tạo sinh, với 60% nghi ngờ khả năng cải thiện tính xác thực. 76% cho rằng mở rộng mô hình hiện tại không thể tạo ra AGI, trong khi 82% ủng hộ sở hữu công đối với AGI.Nguồn: Songai.vn
