Sóng AI
Writer
Công nghệ AI ngày càng phổ biến và khó tránh khỏi, điển hình như Google đã tích hợp phản hồi AI vào kết quả tìm kiếm, làm cho vấn đề an toàn AI trở nên quan trọng hơn bao giờ hết.
Giáo sư Maarten Sap và Sherry Tongshuang Wu từ Trường Khoa học Máy tính Carnegie Mellon đã chia sẻ tại SXSW về những hạn chế của mô hình ngôn ngữ lớn (LLM) như ChatGPT và cách tối ưu hóa việc sử dụng chúng.
Cách thứ nhất: đưa ra hướng dẫn tốt hơn cho AI. Nghiên cứu cho thấy LLM hiện đại gặp khó khăn trong việc hiểu các tham chiếu phi nghĩa đen hơn 50% thời gian. Thay vì sử dụng câu ngắn, hãy viết yêu cầu chi tiết và rõ ràng.
Cách thứ hai: kiểm tra kỹ phản hồi. AI có thể tạo ra ảo giác (thông tin sai) từ 1% đến 25% thời gian cho các trường hợp thông thường, và trên 50% trong các lĩnh vực chuyên biệt như luật và y học. Việc kiểm tra chéo với các nguồn bên ngoài là cần thiết.
Cách thứ ba: giữ bí mật dữ liệu quan trọng. Các công cụ AI tạo sinh thường sử dụng dữ liệu đầu vào để tiếp tục học tập, có thể dẫn đến việc lộ thông tin cá nhân. Người dùng nên tránh chia sẻ thông tin nhạy cảm và tùy chọn từ chối thu thập dữ liệu.
Cách thứ tư: cẩn thận khi nói về LLM. Thay vì gán đặc điểm con người cho AI, nên mô tả chúng một cách khách quan, ví dụ "mô hình được thiết kế để tạo ra phản hồi cân bằng dựa trên dữ liệu đào tạo".
Cách thứ năm: cân nhắc kỹ khi nào nên sử dụng LLM. Các mô hình AI có thể không phù hợp với mọi tác vụ và đôi khi có thể đưa ra quyết định thiên vị. Người dùng nên đánh giá tác động và lựa chọn mô hình phù hợp nhất cho nhu cầu cụ thể.
Để sử dụng AI hiệu quả và an toàn, cần đưa ra hướng dẫn rõ ràng, kiểm tra kỹ phản hồi, bảo vệ thông tin cá nhân, tránh nhân cách hóa AI và chọn lựa tình huống sử dụng phù hợp. Đặc biệt cảnh giác với ảo giác AI có thể xảy ra từ 1% đến 50% tùy lĩnh vực.Nguồn: Songai.vn
