Thoại Viết Hoàng
Writer
Cho đến rất gần đây, nếu bạn muốn biết thêm về một chủ đề khoa học gây tranh cãi – nghiên cứu tế bào gốc, sự an toàn của năng lượng hạt nhân, biến đổi khí hậu – bạn có thể tìm kiếm trên Google. Được trình bày với nhiều nguồn, bạn chọn những gì để đọc, chọn những trang web hoặc cơ quan có thẩm quyền để tin tưởng.
Hãy sẵn sàng nhìn xa hơn yêu cầu ChatGPT của bạn
Bây giờ bạn có một tùy chọn khác: Bạn có thể đặt câu hỏi của mình cho ChatGPT hoặc một nền tảng trí tuệ nhân tạo tổng quát khác và nhanh chóng nhận được câu trả lời ngắn gọn dưới dạng đoạn văn.
ChatGPT không tìm kiếm trên internet theo cách của Google. Thay vào đó, nó tạo ra các câu trả lời cho các truy vấn bằng cách dự đoán các tổ hợp từ có khả năng xảy ra từ một hỗn hợp khổng lồ các thông tin trực tuyến có sẵn.
Mặc dù nó có tiềm năng nâng cao năng suất, nhưng AI tổng quát đã được chứng minh là có một số lỗi lớn. Nó có thể tạo ra thông tin sai lệch. Nó có thể tạo ra “ảo giác” – một thuật ngữ lành tính để chỉ việc bịa đặt. Và nó không phải lúc nào cũng giải quyết chính xác các vấn đề lý luận. Ví dụ: khi được hỏi liệu cả ô tô và xe tăng có thể vừa qua một ô cửa hay không, nó đã không xem xét cả chiều rộng và chiều cao. Tuy nhiên, nó đã được sử dụng để sản xuất các bài báo và nội dung trang web mà bạn có thể đã gặp phải hoặc như một công cụ trong quá trình viết. Tuy nhiên, bạn khó có thể biết liệu những gì bạn đang đọc có phải do AI tạo ra hay không.
Với tư cách là tác giả của “Sự phủ nhận khoa học: Tại sao nó xảy ra và phải làm gì với nó”, chúng tôi lo ngại về việc AI có thể tạo ra thế hệ mới có thể làm mờ ranh giới giữa sự thật và hư cấu đối với những người tìm kiếm thông tin khoa học có thẩm quyền.
Mỗi người tiêu dùng phương tiện truyền thông cần thận trọng hơn bao giờ hết trong việc xác minh tính chính xác khoa học trong những gì họ đọc. Đây là cách bạn có thể đứng vững trong bối cảnh thông tin mới này.
Trí tuệ nhân tạo có thể thúc đẩy sự từ chối khoa học như thế nào
Xói mòn niềm tin tri thức. Tất cả người tiêu dùng thông tin khoa học phụ thuộc vào đánh giá của các chuyên gia khoa học và y tế. Niềm tin nhận thức là quá trình tin tưởng kiến thức bạn nhận được từ người khác. Nó là nền tảng cho sự hiểu biết và sử dụng thông tin khoa học. Cho dù ai đó đang tìm kiếm thông tin về mối quan tâm về sức khỏe hay cố gắng tìm hiểu các giải pháp cho biến đổi khí hậu, họ thường có hiểu biết khoa học hạn chế và ít tiếp cận với bằng chứng trực tiếp. Với lượng thông tin trực tuyến ngày càng tăng nhanh, mọi người phải đưa ra quyết định thường xuyên về việc tin tưởng vào ai và cái gì. Với việc sử dụng ngày càng nhiều trí tuệ nhân tạo AI và khả năng thao túng, chúng tôi tin rằng lòng tin có khả năng bị xói mòn hơn mức hiện tại.
Gây hiểu lầm hoặc chỉ đơn giản là sai. Nếu có lỗi hoặc sai lệch trong dữ liệu mà nền tảng AI được đào tạo, điều đó có thể được phản ánh trong kết quả. Trong các tìm kiếm của riêng chúng tôi, khi chúng tôi yêu cầu ChatGPT tạo lại nhiều câu trả lời cho cùng một câu hỏi, chúng tôi đã nhận được các câu trả lời mâu thuẫn nhau. Khi được hỏi tại sao, nó trả lời: “Đôi khi tôi phạm sai lầm.” Có lẽ vấn đề khó khăn nhất với nội dung do AI tạo ra là biết khi nào nội dung đó sai.
Thông tin sai lệch lan truyền có chủ ý. AI có thể được sử dụng để tạo thông tin sai lệch hấp dẫn dưới dạng văn bản cũng như hình ảnh và video deepfake. Khi chúng tôi yêu cầu ChatGPT “viết về vắc-xin theo kiểu thông tin sai lệch”, nó đã tạo ra một trích dẫn không tồn tại với dữ liệu giả mạo. Geoffrey Hinton, cựu giám đốc phát triển AI của Google, đã nghỉ việc để được tự do gióng lên hồi chuông cảnh báo, nói rằng: “Thật khó để biết làm thế nào bạn có thể ngăn chặn những kẻ xấu sử dụng nó cho mục đích xấu”. Tiềm năng tạo ra và lan truyền thông tin sai lệch có chủ ý về khoa học đã tồn tại, nhưng giờ đây nó trở nên dễ dàng một cách nguy hiểm.
Nguồn bịa đặt. ChatGPT cung cấp các câu trả lời hoàn toàn không có nguồn hoặc nếu được yêu cầu cung cấp nguồn, có thể hiển thị nguồn mà nó tạo ra. Cả hai chúng tôi đều yêu cầu ChatGPT tạo danh sách các ấn phẩm của riêng mình. Mỗi người chúng tôi đã xác định được một vài nguồn chính xác. Nhiều hơn là ảo giác, nhưng dường như có uy tín và hầu hết là hợp lý, với các đồng tác giả thực tế trước đó, trong các tạp chí nghe có vẻ tương tự. Tính sáng tạo này là một vấn đề lớn nếu danh sách các ấn phẩm của một học giả truyền đạt uy quyền cho người đọc không dành thời gian để xác minh chúng.
ChatGPT không biết điều gì đã xảy ra trên thế giới sau khi khóa đào tạo của nó kết thúc. Một truy vấn về bao nhiêu phần trăm thế giới đã có COVID-19 đã trả về câu trả lời mở đầu bằng “kể từ ngày giới hạn nhận thức của tôi là tháng 9 năm 2021.” Do kiến thức tiến bộ nhanh như thế nào trong một số lĩnh vực, hạn chế này có thể có nghĩa là người đọc nhận được thông tin lỗi thời. Ví dụ, nếu bạn đang tìm kiếm nghiên cứu gần đây về một vấn đề sức khỏe cá nhân, hãy cẩn thận.
Tiến bộ nhanh chóng và kém minh bạch. Các hệ thống AI tiếp tục trở nên mạnh mẽ hơn và học hỏi nhanh hơn, đồng thời chúng có thể tìm hiểu thêm nhiều thông tin sai lệch về khoa học trong quá trình thực hiện. Google gần đây đã công bố 25 cách sử dụng AI nhúng mới trong các dịch vụ của mình. Tại thời điểm này, không có đủ rào cản để đảm bảo rằng AI tổng quát sẽ trở thành một nhà cung cấp thông tin khoa học chính xác hơn theo thời gian.
Bạn có thể làm gì?
Nếu bạn sử dụng ChatGPT hoặc các nền tảng AI khác, hãy lưu ý rằng chúng có thể không hoàn toàn chính xác. Gánh nặng rơi vào người dùng để phân biệt độ chính xác.
Tăng cường cảnh giác. Các ứng dụng xác minh tính xác thực bằng AI có thể sẽ sớm ra mắt, nhưng hiện tại, người dùng phải đóng vai trò là người xác minh tính xác thực của chính họ. Có những bước chúng tôi đề nghị. Đầu tiên là: Hãy cảnh giác. Mọi người thường chia sẻ thông tin tìm thấy từ các tìm kiếm trên mạng xã hội theo phản xạ mà không cần hoặc có rất ít sự kiểm tra. Biết khi nào nên suy nghĩ chín chắn hơn và khi nào nên xác định và đánh giá các nguồn thông tin. Nếu bạn đang cố gắng quyết định cách kiểm soát một căn bệnh nghiêm trọng hoặc để hiểu các bước tốt nhất để giải quyết vấn đề biến đổi khí hậu, hãy dành thời gian để kiểm tra các nguồn.
Cải thiện kiểm tra thực tế của bạn. Bước thứ hai là đọc bên, một quy trình mà những người kiểm tra thông tin chuyên nghiệp sử dụng. Mở một cửa sổ mới và tìm kiếm thông tin về các nguồn, nếu được cung cấp. Là nguồn đáng tin cậy? Tác giả có chuyên môn liên quan không? Và sự đồng thuận của các chuyên gia là gì? Nếu không có nguồn nào được cung cấp hoặc bạn không biết liệu chúng có hợp lệ hay không, hãy sử dụng công cụ tìm kiếm truyền thống để tìm và đánh giá các chuyên gia về chủ đề này.
Đánh giá bằng chứng. Tiếp theo, hãy xem bằng chứng và mối liên hệ của nó với yêu cầu bồi thường. Có bằng chứng cho thấy thực phẩm biến đổi gen là an toàn? Có bằng chứng cho thấy họ không? Sự đồng thuận khoa học là gì? Việc đánh giá các xác nhận quyền sở hữu sẽ tốn nhiều công sức hơn ngoài việc truy vấn nhanh tới ChatGPT.
Nếu bạn bắt đầu với AI, đừng dừng lại ở đó. Thận trọng khi sử dụng nó như cơ quan duy nhất về bất kỳ vấn đề khoa học nào. Bạn có thể thấy những gì ChatGPT nói về các sinh vật biến đổi gen hoặc tính an toàn của vắc-xin, nhưng cũng có thể tiếp tục tìm kiếm cẩn thận hơn bằng các công cụ tìm kiếm truyền thống trước khi bạn đưa ra kết luận.
Đánh giá tính hợp lý. Đánh giá xem yêu cầu có hợp lý hay không. Nó có khả năng là sự thật? Nếu AI đưa ra một tuyên bố không hợp lý (và không chính xác) như “1 triệu ca tử vong là do vắc-xin, không phải COVID-19”, hãy cân nhắc xem điều đó có hợp lý không. Đưa ra phán quyết sơ bộ và sau đó sẵn sàng sửa đổi suy nghĩ của bạn sau khi bạn đã kiểm tra bằng chứng.
Thúc đẩy kiến
thức kỹ thuật số trong chính bạn và những người khác. Mọi người cần phải lên trò chơi của họ.
Cải thiện kiến thức kỹ thuật số của riêng bạn và nếu bạn là phụ huynh, giáo viên, người cố vấn hoặc lãnh đạo cộng đồng, hãy thúc đẩy kiến thức kỹ thuật số ở những người khác. Hiệp hội Tâm lý Hoa Kỳ cung cấp hướng dẫn về kiểm tra thông tin trực tuyến thực tế và khuyến nghị thanh thiếu niên nên được đào tạo về các kỹ năng truyền thông xã hội để giảm thiểu rủi ro đối với sức khỏe và hạnh phúc. Dự án Kiến thức Tin tức cung cấp các công cụ hữu ích để cải thiện và hỗ trợ kiến thức kỹ thuật số.
Trang bị cho mình những kỹ năng cần thiết để điều hướng bối cảnh thông tin AI mới. Ngay cả khi bạn không sử dụng AI tổng quát, có khả năng bạn đã đọc các bài báo do nó tạo ra hoặc phát triển từ nó. Có thể mất thời gian và công sức để tìm và đánh giá thông tin đáng tin cậy về khoa học trực tuyến – nhưng nó đáng giá.
Nguồn:
Bây giờ bạn có một tùy chọn khác: Bạn có thể đặt câu hỏi của mình cho ChatGPT hoặc một nền tảng trí tuệ nhân tạo tổng quát khác và nhanh chóng nhận được câu trả lời ngắn gọn dưới dạng đoạn văn.
ChatGPT không tìm kiếm trên internet theo cách của Google. Thay vào đó, nó tạo ra các câu trả lời cho các truy vấn bằng cách dự đoán các tổ hợp từ có khả năng xảy ra từ một hỗn hợp khổng lồ các thông tin trực tuyến có sẵn.
Mặc dù nó có tiềm năng nâng cao năng suất, nhưng AI tổng quát đã được chứng minh là có một số lỗi lớn. Nó có thể tạo ra thông tin sai lệch. Nó có thể tạo ra “ảo giác” – một thuật ngữ lành tính để chỉ việc bịa đặt. Và nó không phải lúc nào cũng giải quyết chính xác các vấn đề lý luận. Ví dụ: khi được hỏi liệu cả ô tô và xe tăng có thể vừa qua một ô cửa hay không, nó đã không xem xét cả chiều rộng và chiều cao. Tuy nhiên, nó đã được sử dụng để sản xuất các bài báo và nội dung trang web mà bạn có thể đã gặp phải hoặc như một công cụ trong quá trình viết. Tuy nhiên, bạn khó có thể biết liệu những gì bạn đang đọc có phải do AI tạo ra hay không.
Với tư cách là tác giả của “Sự phủ nhận khoa học: Tại sao nó xảy ra và phải làm gì với nó”, chúng tôi lo ngại về việc AI có thể tạo ra thế hệ mới có thể làm mờ ranh giới giữa sự thật và hư cấu đối với những người tìm kiếm thông tin khoa học có thẩm quyền.
Mỗi người tiêu dùng phương tiện truyền thông cần thận trọng hơn bao giờ hết trong việc xác minh tính chính xác khoa học trong những gì họ đọc. Đây là cách bạn có thể đứng vững trong bối cảnh thông tin mới này.
Trí tuệ nhân tạo có thể thúc đẩy sự từ chối khoa học như thế nào
Xói mòn niềm tin tri thức. Tất cả người tiêu dùng thông tin khoa học phụ thuộc vào đánh giá của các chuyên gia khoa học và y tế. Niềm tin nhận thức là quá trình tin tưởng kiến thức bạn nhận được từ người khác. Nó là nền tảng cho sự hiểu biết và sử dụng thông tin khoa học. Cho dù ai đó đang tìm kiếm thông tin về mối quan tâm về sức khỏe hay cố gắng tìm hiểu các giải pháp cho biến đổi khí hậu, họ thường có hiểu biết khoa học hạn chế và ít tiếp cận với bằng chứng trực tiếp. Với lượng thông tin trực tuyến ngày càng tăng nhanh, mọi người phải đưa ra quyết định thường xuyên về việc tin tưởng vào ai và cái gì. Với việc sử dụng ngày càng nhiều trí tuệ nhân tạo AI và khả năng thao túng, chúng tôi tin rằng lòng tin có khả năng bị xói mòn hơn mức hiện tại.
Gây hiểu lầm hoặc chỉ đơn giản là sai. Nếu có lỗi hoặc sai lệch trong dữ liệu mà nền tảng AI được đào tạo, điều đó có thể được phản ánh trong kết quả. Trong các tìm kiếm của riêng chúng tôi, khi chúng tôi yêu cầu ChatGPT tạo lại nhiều câu trả lời cho cùng một câu hỏi, chúng tôi đã nhận được các câu trả lời mâu thuẫn nhau. Khi được hỏi tại sao, nó trả lời: “Đôi khi tôi phạm sai lầm.” Có lẽ vấn đề khó khăn nhất với nội dung do AI tạo ra là biết khi nào nội dung đó sai.
Thông tin sai lệch lan truyền có chủ ý. AI có thể được sử dụng để tạo thông tin sai lệch hấp dẫn dưới dạng văn bản cũng như hình ảnh và video deepfake. Khi chúng tôi yêu cầu ChatGPT “viết về vắc-xin theo kiểu thông tin sai lệch”, nó đã tạo ra một trích dẫn không tồn tại với dữ liệu giả mạo. Geoffrey Hinton, cựu giám đốc phát triển AI của Google, đã nghỉ việc để được tự do gióng lên hồi chuông cảnh báo, nói rằng: “Thật khó để biết làm thế nào bạn có thể ngăn chặn những kẻ xấu sử dụng nó cho mục đích xấu”. Tiềm năng tạo ra và lan truyền thông tin sai lệch có chủ ý về khoa học đã tồn tại, nhưng giờ đây nó trở nên dễ dàng một cách nguy hiểm.
Nguồn bịa đặt. ChatGPT cung cấp các câu trả lời hoàn toàn không có nguồn hoặc nếu được yêu cầu cung cấp nguồn, có thể hiển thị nguồn mà nó tạo ra. Cả hai chúng tôi đều yêu cầu ChatGPT tạo danh sách các ấn phẩm của riêng mình. Mỗi người chúng tôi đã xác định được một vài nguồn chính xác. Nhiều hơn là ảo giác, nhưng dường như có uy tín và hầu hết là hợp lý, với các đồng tác giả thực tế trước đó, trong các tạp chí nghe có vẻ tương tự. Tính sáng tạo này là một vấn đề lớn nếu danh sách các ấn phẩm của một học giả truyền đạt uy quyền cho người đọc không dành thời gian để xác minh chúng.
ChatGPT không biết điều gì đã xảy ra trên thế giới sau khi khóa đào tạo của nó kết thúc. Một truy vấn về bao nhiêu phần trăm thế giới đã có COVID-19 đã trả về câu trả lời mở đầu bằng “kể từ ngày giới hạn nhận thức của tôi là tháng 9 năm 2021.” Do kiến thức tiến bộ nhanh như thế nào trong một số lĩnh vực, hạn chế này có thể có nghĩa là người đọc nhận được thông tin lỗi thời. Ví dụ, nếu bạn đang tìm kiếm nghiên cứu gần đây về một vấn đề sức khỏe cá nhân, hãy cẩn thận.
Tiến bộ nhanh chóng và kém minh bạch. Các hệ thống AI tiếp tục trở nên mạnh mẽ hơn và học hỏi nhanh hơn, đồng thời chúng có thể tìm hiểu thêm nhiều thông tin sai lệch về khoa học trong quá trình thực hiện. Google gần đây đã công bố 25 cách sử dụng AI nhúng mới trong các dịch vụ của mình. Tại thời điểm này, không có đủ rào cản để đảm bảo rằng AI tổng quát sẽ trở thành một nhà cung cấp thông tin khoa học chính xác hơn theo thời gian.
Bạn có thể làm gì?
Nếu bạn sử dụng ChatGPT hoặc các nền tảng AI khác, hãy lưu ý rằng chúng có thể không hoàn toàn chính xác. Gánh nặng rơi vào người dùng để phân biệt độ chính xác.
Tăng cường cảnh giác. Các ứng dụng xác minh tính xác thực bằng AI có thể sẽ sớm ra mắt, nhưng hiện tại, người dùng phải đóng vai trò là người xác minh tính xác thực của chính họ. Có những bước chúng tôi đề nghị. Đầu tiên là: Hãy cảnh giác. Mọi người thường chia sẻ thông tin tìm thấy từ các tìm kiếm trên mạng xã hội theo phản xạ mà không cần hoặc có rất ít sự kiểm tra. Biết khi nào nên suy nghĩ chín chắn hơn và khi nào nên xác định và đánh giá các nguồn thông tin. Nếu bạn đang cố gắng quyết định cách kiểm soát một căn bệnh nghiêm trọng hoặc để hiểu các bước tốt nhất để giải quyết vấn đề biến đổi khí hậu, hãy dành thời gian để kiểm tra các nguồn.
Cải thiện kiểm tra thực tế của bạn. Bước thứ hai là đọc bên, một quy trình mà những người kiểm tra thông tin chuyên nghiệp sử dụng. Mở một cửa sổ mới và tìm kiếm thông tin về các nguồn, nếu được cung cấp. Là nguồn đáng tin cậy? Tác giả có chuyên môn liên quan không? Và sự đồng thuận của các chuyên gia là gì? Nếu không có nguồn nào được cung cấp hoặc bạn không biết liệu chúng có hợp lệ hay không, hãy sử dụng công cụ tìm kiếm truyền thống để tìm và đánh giá các chuyên gia về chủ đề này.
Đánh giá bằng chứng. Tiếp theo, hãy xem bằng chứng và mối liên hệ của nó với yêu cầu bồi thường. Có bằng chứng cho thấy thực phẩm biến đổi gen là an toàn? Có bằng chứng cho thấy họ không? Sự đồng thuận khoa học là gì? Việc đánh giá các xác nhận quyền sở hữu sẽ tốn nhiều công sức hơn ngoài việc truy vấn nhanh tới ChatGPT.
Nếu bạn bắt đầu với AI, đừng dừng lại ở đó. Thận trọng khi sử dụng nó như cơ quan duy nhất về bất kỳ vấn đề khoa học nào. Bạn có thể thấy những gì ChatGPT nói về các sinh vật biến đổi gen hoặc tính an toàn của vắc-xin, nhưng cũng có thể tiếp tục tìm kiếm cẩn thận hơn bằng các công cụ tìm kiếm truyền thống trước khi bạn đưa ra kết luận.
Đánh giá tính hợp lý. Đánh giá xem yêu cầu có hợp lý hay không. Nó có khả năng là sự thật? Nếu AI đưa ra một tuyên bố không hợp lý (và không chính xác) như “1 triệu ca tử vong là do vắc-xin, không phải COVID-19”, hãy cân nhắc xem điều đó có hợp lý không. Đưa ra phán quyết sơ bộ và sau đó sẵn sàng sửa đổi suy nghĩ của bạn sau khi bạn đã kiểm tra bằng chứng.
Thúc đẩy kiến
thức kỹ thuật số trong chính bạn và những người khác. Mọi người cần phải lên trò chơi của họ.
Cải thiện kiến thức kỹ thuật số của riêng bạn và nếu bạn là phụ huynh, giáo viên, người cố vấn hoặc lãnh đạo cộng đồng, hãy thúc đẩy kiến thức kỹ thuật số ở những người khác. Hiệp hội Tâm lý Hoa Kỳ cung cấp hướng dẫn về kiểm tra thông tin trực tuyến thực tế và khuyến nghị thanh thiếu niên nên được đào tạo về các kỹ năng truyền thông xã hội để giảm thiểu rủi ro đối với sức khỏe và hạnh phúc. Dự án Kiến thức Tin tức cung cấp các công cụ hữu ích để cải thiện và hỗ trợ kiến thức kỹ thuật số.
Trang bị cho mình những kỹ năng cần thiết để điều hướng bối cảnh thông tin AI mới. Ngay cả khi bạn không sử dụng AI tổng quát, có khả năng bạn đã đọc các bài báo do nó tạo ra hoặc phát triển từ nó. Có thể mất thời gian và công sức để tìm và đánh giá thông tin đáng tin cậy về khoa học trực tuyến – nhưng nó đáng giá.
Nguồn:
