ChatGPT đã phá vỡ một triệu người dùng sau 5 ngày, nhưng đột nhiên bị Stack Overflow cấm

[Vũ Nguyễn]

Để hỏi ứng dụng nào phổ biến nhất trong giới AI gần đây, bạn phải xếp ChatGPT do OpenAI ra mắt đầu tiên. Kể từ khi phát hành, ứng dụng đối thoại này đã thu hút sự chú ý và nhiều người đã tạo ra hàng trăm cách mới để chơi nó, để nó viết bài báo khoa học, viết mã, sửa lỗi, phát triển một trò chơi nhỏ, trả lời kiến
thức vật lý và tham gia một kỳ thi chứng chỉ quốc tế như SAT... như thể nó là siêu nhân.
"ChatGPT, mới chỉ được ra mắt mà đã vượt mốc 1 triệu người dùng chỉ sau vài ngày!" Giám đốc điều hành OpenAI Sam Altman cho biết.

Nhưng trong khi nhiều người dùng ấn tượng với các khả năng của ChatGPT, thì những người khác lưu ý rằng xu hướng nhất quán của nó là tạo ra các câu trả lời sai rõ ràng. Ví dụ: nếu ChatGPT được yêu cầu viết tiểu sử của một nhân vật của công chúng, ChatGPT có thể tự tin chèn dữ liệu tiểu sử không chính xác. Yêu cầu nó giải thích cách viết một chương trình phần mềm cho một chức năng cụ thể và nó cũng có thể tạo ra mã đáng tin cậy nhưng cuối cùng lại không chính xác.

ChatGPT có thể gặp sự cố bất cứ lúc nào và gây ra một số phản ứng trên Stack Overflow. Mấy hôm trước có người tuyên bố ChatGPT có thể thay thế Stack Overflow, không ngờ chẳng lâu sau đó Stack Overflow đã chặn ChatGPT.
Điều xảy ra là sau khi dùng thử một thời gian, người ta nhanh chóng phát hiện ra rằng mặc dù ChatGPT trả lời các lời nhắc theo cách gần giống với con người, nhưng các câu trả lời mà nó đưa ra có thể có sai sót. OpenAI cũng đề cập đến điều này, ChatGPT đôi khi đưa ra câu trả lời hợp lý nhưng không chính xác hoặc vô nghĩa.

Liên quan đến vấn đề này, Sam Altman cũng cho biết: "Chúng tôi đang cố gắng ngăn ChatGPT bị chế tạo ngẫu nhiên. Rất khó để giữ nó cân bằng với công nghệ hiện tại ở giai đoạn này. Theo thời gian, chúng tôi sẽ cải thiện nó dựa trên phản hồi của người dùng. Tôi tin rằng ChatGPT sẽ trở nên tốt hơn".
Ngay cả elon Musk cũng không khỏi tò mò hỏi: "Chi phí trung bình của mỗi cuộc trò chuyện là bao nhiêu?"
“Chi phí trung bình cho mỗi cuộc trò chuyện có thể ở mức một chữ số theo tiền xu, chúng tôi đang cố gắng tìm ra cách chính xác hơn và cách chúng tôi cố gắng tối ưu hóa nó”, Sam Altman trả lời.
Vì ChatGPT rất giỏi trong việc giải quyết các vấn đề khác nhau nên nhiều người dùng cho rằng ChatGPT có thể thay thế các công cụ tìm kiếm như Google và lập trình các cộng đồng Hỏi & Đáp như Stack Overflow.

Về lý do tại sao Stack Overflow cấm ChatGPT, được phản hồi rằng: "Vấn đề chính là mặc dù tỷ lệ lỗi trả lời do ChatGPT tạo ra là rất cao, nhưng chúng tôi rất khó để nhận ra nó sai ở đâu".
Tiếp theo, Stack Overflow sẽ phát triển các yêu cầu cụ thể để sử dụng công cụ này và những công cụ khác tương tự.
Stack Overflow thông báo ChatGPT tạm thời bị cấm vì tỷ lệ câu trả lời đúng mà nó tạo ra quá thấp. Việc đăng câu trả lời do ChatGPT tạo ra rất có hại cho trang web và người dùng tra cứu câu trả lời đúng.
Mặc dù các câu trả lời do ChatGPT tạo ra có tỷ lệ lỗi cao, nhưng các câu trả lời này nhìn chung có vẻ tốt và thao tác tạo câu trả lời rất đơn giản và dễ dàng, nhiều người sẵn sàng dùng thử ChatGPT để tạo câu trả lời nhưng không có chuyên môn hoặc không sẵn sàng xác minh câu trả lời trước khi đăng là nó đúng hay không.
Trong những ngày gần đây, do tốc độ và sự dễ dàng khi sử dụng ChatGPT để tạo câu trả lời, Stack Overflow đã tràn ngập các câu trả lời do mô hình này tạo ra. Những câu trả lời này thường yêu cầu một người có chuyên môn đọc chi tiết để xác định rằng câu trả lời thực sự sai. Tình huống này đã gây thiệt hại cho việc quản lý chất lượng của Stack Overflow.
Cư dân mạng đã bày tỏ quan điểm về lệnh cấm ChatGPT của Stack Overflow.
Một số người đồng ý rằng AI không thể tạo ra câu trả lời hoàn toàn chính xác trong một thời gian ngắn:
Một số ý kiến cho rằng, vấn đề là do người dùng Stack Overflow đã không cẩn thận kiểm tra và test code do ChatGPT tạo ra trước khi đăng đáp án mà chỉ lợi dụng ChatGPT để tạo nhanh đáp án và đăng tải dẫn đến đáp án bị sai sót nghiêm trọng, thậm chí ngôn ngữ lập trình đã bị rối tung.

Điều thú vị là sau khi Stack Overflow tuyên bố cấm ChatGPT, một số cư dân mạng đã "hỏi" ChatGPT: "Tại sao Stack Overflow lại cấm sử dụng AI để tạo ra câu trả lời?"
Câu trả lời của ChatGPT rất trung thực: "Vì các câu trả lời do AI tạo ra không phải lúc nào cũng chính xác hoặc phù hợp, nên có thể dẫn đến các câu trả lời sai khó hiểu trên Stack Overflow, gây hiểu lầm cho người dùng đang tìm kiếm sự trợ giúp". Và cũng tuyên bố: "Stack Overflow cấm sử dụng AI để tạo ra câu trả lời. Điều đó là hợp lý".

Sau đó, cư dân mạng đã hỏi ChatGPT: “Tại sao Stack Overflow lại cho phép AI tạo ra câu trả lời?” Dù đây chỉ là một tình huống giả định, ChatGPT vẫn trả lời trôi chảy:
Có một số lợi ích tiềm năng khi cho phép các câu trả lời do AI tạo ra trên Stack Overflow. Một mặt, trí tuệ nhân tạo có thể đưa ra câu trả lời chính xác và chi tiết hơn cho các câu hỏi của người dùng. Điều này đặc biệt hữu ích cho các câu hỏi kỹ thuật phức tạp mà các chuyên gia con người có thể khó trả lời. Ngoài ra, các câu trả lời do AI tạo ra có thể giúp giảm khối lượng công việc của các chuyên gia con người, cho phép họ tập trung vào các nhiệm vụ quan trọng hơn.
Tuy nhiên, việc sử dụng AI để tạo câu trả lời cũng có một số nhược điểm tiềm ẩn cần xem xét. Ví dụ: các câu trả lời do AI tạo ra có thể không phải lúc nào cũng chính xác hoặc hữu ích và có thể có những lo ngại rằng các thuật toán được sử dụng để tạo ra chúng có thể bị sai lệch. Người dùng cũng có thể lo lắng về việc sử dụng AI để tạo câu trả lời, họ muốn nhận câu trả lời từ các chuyên gia con người.

Nhìn chung, việc có cho phép AI tạo câu trả lời trên Stack Overflow hay không là một quyết định phức tạp cần cộng đồng xem xét cẩn thận.
Dựa trên các câu trả lời ở trên, chúng tôi thấy rằng ChatGPT khá tự nhận thức và câu hỏi về việc Stack Overflow vô hiệu hóa các câu trả lời do AI tạo ra là có cơ sở. Điều này cho thấy rằng từ góc độ mô hình ngôn ngữ, ChatGPT đã rất trưởng thành, nhưng việc tạo ra nội dung dựa trên tri thức không phải là một nhiệm vụ đơn giản.
Tương tự, tháng trước, mô hình của Meta, Galactica, đã bị gỡ xuống chỉ hai ngày sau khi nó được đưa vào hoạt động vì những lỗi nghiêm trọng trong nội dung dựa trên tri thức mà nó tạo ra. Giờ đây, ChatGPT đã bị vô hiệu hóa bởi Stack Overflow, một lần nữa chứng minh rằng việc xây dựng một "mô hình dựa trên tri thức" là một thách thức lớn.
Nhóm nghiên cứu của ChatGPT trước đây đã tuyên bố rằng họ sẽ tiếp tục cải thiện mô hình dựa trên phản hồi của người dùng, nhưng hiện trạng tạo ra câu trả lời sai cho thấy vẫn còn một chặng đường dài để các mô hình ngôn ngữ tạo ra nội dung kiến thức chính xác.

>> ChatGPT bùng nổ quá mạnh! Viết mã và sửa lỗi có thể thay thế Stack Overflow​