Hiện tượng "Ảo giác" AI mà CEO Nguyễn Tử Quảng đề cập là gì?

[Ngọc Yến]

Ai cũng biết "ảo giác" là hiện tượng gắn liền với người sử dụng ma túy, có nghĩa là rất tiêu cực. Lần này, cụm từ "ảo giác" lại CEO Nguyễn Tử Quảng được gắn liền với trí tuệ nhân tạo, cụ thể ở đây là chatbot ChatGPT. Tại sao CEO Bkav lại ra khuyến cáo mạnh đến vậy?

Dưới đây là chia sẻ của CEO Bkav trên trang Facebook cá nhân hôm nay:

Không phủ nhận khả năng ứng dụng cao của ChatGPT, nhưng gần đây mọi người cảm nhận được nhiều hơn hiện tượng bạn này NÓI SAI nhưng CỨ NHƯ ĐÚNG, với sự TỰ TIN cao.

Hiện tượng này được gọi là "Ảo giác" AI. Nó phổ biến chứ không lạ với các mô hình AI.

Cụ thể với ChatGPT, ở bài trước tôi đã giải thích nguyên lý sinh ra câu trả lời ĐƠN THUẦN dựa vào xác suất thống kê. Do đó, nếu dữ liệu đủ lớn thì câu trả lời sẽ RẤT ĐÚNG, nhưng dữ liệu không đủ thì câu trả lời sẽ RẤT SAI.

Dù nội dung RẤT SAI, nhưng các câu nói được ChatGPT sinh ra vẫn dựa trên một trích dẫn cụ thể do con người tạo ra (lấy trong kho dữ liệu trên mạng), vì vậy mà nghe vẫn hết sức CÓ VẺ đáng tin. ẢO GIÁC là như vậy.

Chúc các bạn tuần mới làm việc hiệu quả !

Tôi hiểu một cách ngắn gọn đây là lời cảnh báo của CEO Nguyễn Tử Quảng về mặt trái của ChatGPT, câu trả lời của nó có thể rất sai, nhưng lại rất tự tin như là đúng thật. Nếu chúng ta không trau dồi kiến thức, có kỹ năng kiểm chứng thông tin thì dễ bị lừa bởi những câu trả lời sai này, lâu dần sẽ thành nhận thức sai lệch.
Tóm lại, công nghệ chỉ là công cụ để giúp cho con người làm việc hiệu quả hơn thôi, đừng để nó suy nghĩ hộ cho mình, nếu không thì như tỉ phú Elon Musk đã lo ngại về sự nguy hiểm của AI, rằng một ngày nó sẽ xâm chiếm loài người bởi những thông tin sai, rất sai.
Bạn nghĩ thế nào?

>> Tỉ phú công nghệ duy nhất lo ngại sự bành trướng của ChatGPT và trí tuệ nhân tạo​