Tôi đã viết trên Internet hơn hai mươi năm. Khi còn là một thiếu niên, tôi đã viết rất nhiều bài trên blog, vừa sến vừa đáng xấu hổ. Bây giờ, khi ChatGPT nói với tôi rằng những bài đăng này sẽ là nguồn cung cấp thông tin cho nó, tôi muốn nhanh chóng xóa dữ liệu về tôi khỏi bộ nhớ của nó. Tuy nhiên, tôi sớm phát hiện ra rằng không có nút xóa.
Thật may, theo bài báo mới đăng trên New Scientist hiện nay nhiều nhà khoa học đang cố gắng dạy trí tuệ nhân tạo cách quên đi.
Phần lớn dữ liệu học tập cho thế hệ chatbot AI mới này được lấy từ Internet - từ các bài đăng trên mạng xã hội đến khoảng 250.000 cuốn sách và hầu như mọi thông tin có sẵn công khai. Họ có thể dự đoán từ tiếp theo có khả năng xảy ra nhất trong câu và đưa ra câu trả lời trôi chảy cho mọi câu hỏi mà chúng tôi đặt ra. Vấn đề là cách hoạt động của chatbot AI có nghĩa là khi chúng học được điều gì đó, chúng không thể quên được điều đó.
David Zhang, nhà nghiên cứu tại Tổ chức Nghiên cứu Khoa học và Công nghiệp Khối thịnh vượng chung Australia, cho biết các mô hình ngôn ngữ như vậy tạo ra câu trả lời dựa trên dữ liệu tổng hợp nên không dễ để quên hay “xóa” thông tin cụ thể, thậm chí cá nhân cũng không thể theo dõi chính xác AI là gì.
chương trình biết về họ. Ông nhấn mạnh rằng điều này sẽ tạo ra một vấn đề lớn về quyền riêng tư và sẽ rất khó để các công ty AI tuân thủ “quyền được lãng quên”. EU đề xuất “quyền được lãng quên” vào năm 2014 Theo Quy định chung về bảo vệ dữ liệu của EU, mọi người có quyền yêu cầu xóa thông tin cá nhân của họ khỏi hồ sơ trực tuyến, chẳng hạn như rút thông tin, xóa bài đăng hoặc yêu cầu các công ty trực tuyến xóa dữ liệu về họ. Nhưng Zhang cho biết những giải pháp này không tương thích với chatbot AI và “không cung cấp cách xóa hoặc quên dữ liệu khỏi bộ nhớ của mô hình”.
Trammell, nhà khoa học máy tính tại ETH Zurich, cho biết các công ty trí tuệ nhân tạo phải tìm cách giải quyết vấn đề này, đặc biệt khi các mô hình ngôn ngữ lớn bắt đầu được đào tạo về thông tin cá nhân nhạy cảm hơn, chẳng hạn như dữ liệu y tế và email. Trí tuệ nhân tạo cũng có thể được tin tặc cấy mã để yêu cầu mật khẩu tài khoản người dùng và các thông tin khác. GCHQ đã kêu gọi sự chú ý đến vấn đề này.
Các công ty AI hiện đang dựa vào các phương pháp như "làm im lặng máy" để chặn quyền truy cập vào một số thông tin nhất định và từ chối phản hồi. Ví dụ: khi tôi yêu cầu AI xây dựng hồ sơ của mình, nó sẽ nói: "Xin lỗi, tôi không thể hỗ trợ yêu cầu này." Floridi, giám đốc Trung tâm Đạo đức Kỹ thuật số Yale, cho biết cách tiếp cận này sẽ hiệu quả với một số đối tượng nhất định. ở mức độ nào đó, nhưng Dữ liệu mục tiêu vẫn tồn tại và trong trường hợp xảy ra trục trặc hoặc can thiệp cố ý, dữ liệu đó có thể hiển thị trong phản hồi.
Ari Boyle, một nhà nghiên cứu trí tuệ nhân tạo tại Trường Kinh tế và Khoa học Chính trị London, cho biết xu hướng quên của con người thường được coi là một trục trặc về nhận thức, nhưng đôi khi nó có thể có ích vì chúng ta không cần phải nhớ mọi thông tin mà mình có. Bằng cách quên đi điều gì đó, chúng ta làm cho quá trình lấy lại những ký ức hữu ích trở nên hiệu quả hơn. Điều tương tự có thể đúng với các hệ thống trí tuệ nhân tạo. Boyle tin rằng nguyên tắc này đã được chứng minh vào năm 2017, khi phòng thí nghiệm AI của Google phát triển trí tuệ nhân tạo có thể chơi nhiều trò chơi điện tử. Nó lưu trữ những ký ức về cách chơi để sau này nhớ lại và học hỏi. Sau đó, các nhà nghiên cứu đã sửa đổi mô hình để ưu tiên lưu trữ và ghi nhớ các lượt chơi "đáng ngạc nhiên" và quên đi phần còn lại của dữ liệu, đồng thời nhận thấy rằng hiệu suất của hệ thống đã được cải thiện. Nếu mục tiêu cuối cùng của các nhà nghiên cứu AI là xây dựng các hệ thống học hỏi và suy nghĩ giống con người, thì chúng ta cần thiết kế chúng để quên đi một cách có chọn lọc. Boyle cho biết việc quên không phải là lỗi thiết kế mà là đặc điểm của một hệ thống trí nhớ hoạt động tốt và hiệu quả.
Thật may, theo bài báo mới đăng trên New Scientist hiện nay nhiều nhà khoa học đang cố gắng dạy trí tuệ nhân tạo cách quên đi.
David Zhang, nhà nghiên cứu tại Tổ chức Nghiên cứu Khoa học và Công nghiệp Khối thịnh vượng chung Australia, cho biết các mô hình ngôn ngữ như vậy tạo ra câu trả lời dựa trên dữ liệu tổng hợp nên không dễ để quên hay “xóa” thông tin cụ thể, thậm chí cá nhân cũng không thể theo dõi chính xác AI là gì.
chương trình biết về họ. Ông nhấn mạnh rằng điều này sẽ tạo ra một vấn đề lớn về quyền riêng tư và sẽ rất khó để các công ty AI tuân thủ “quyền được lãng quên”. EU đề xuất “quyền được lãng quên” vào năm 2014 Theo Quy định chung về bảo vệ dữ liệu của EU, mọi người có quyền yêu cầu xóa thông tin cá nhân của họ khỏi hồ sơ trực tuyến, chẳng hạn như rút thông tin, xóa bài đăng hoặc yêu cầu các công ty trực tuyến xóa dữ liệu về họ. Nhưng Zhang cho biết những giải pháp này không tương thích với chatbot AI và “không cung cấp cách xóa hoặc quên dữ liệu khỏi bộ nhớ của mô hình”.
Trammell, nhà khoa học máy tính tại ETH Zurich, cho biết các công ty trí tuệ nhân tạo phải tìm cách giải quyết vấn đề này, đặc biệt khi các mô hình ngôn ngữ lớn bắt đầu được đào tạo về thông tin cá nhân nhạy cảm hơn, chẳng hạn như dữ liệu y tế và email. Trí tuệ nhân tạo cũng có thể được tin tặc cấy mã để yêu cầu mật khẩu tài khoản người dùng và các thông tin khác. GCHQ đã kêu gọi sự chú ý đến vấn đề này.
Các công ty AI hiện đang dựa vào các phương pháp như "làm im lặng máy" để chặn quyền truy cập vào một số thông tin nhất định và từ chối phản hồi. Ví dụ: khi tôi yêu cầu AI xây dựng hồ sơ của mình, nó sẽ nói: "Xin lỗi, tôi không thể hỗ trợ yêu cầu này." Floridi, giám đốc Trung tâm Đạo đức Kỹ thuật số Yale, cho biết cách tiếp cận này sẽ hiệu quả với một số đối tượng nhất định. ở mức độ nào đó, nhưng Dữ liệu mục tiêu vẫn tồn tại và trong trường hợp xảy ra trục trặc hoặc can thiệp cố ý, dữ liệu đó có thể hiển thị trong phản hồi.
Ari Boyle, một nhà nghiên cứu trí tuệ nhân tạo tại Trường Kinh tế và Khoa học Chính trị London, cho biết xu hướng quên của con người thường được coi là một trục trặc về nhận thức, nhưng đôi khi nó có thể có ích vì chúng ta không cần phải nhớ mọi thông tin mà mình có. Bằng cách quên đi điều gì đó, chúng ta làm cho quá trình lấy lại những ký ức hữu ích trở nên hiệu quả hơn. Điều tương tự có thể đúng với các hệ thống trí tuệ nhân tạo. Boyle tin rằng nguyên tắc này đã được chứng minh vào năm 2017, khi phòng thí nghiệm AI của Google phát triển trí tuệ nhân tạo có thể chơi nhiều trò chơi điện tử. Nó lưu trữ những ký ức về cách chơi để sau này nhớ lại và học hỏi. Sau đó, các nhà nghiên cứu đã sửa đổi mô hình để ưu tiên lưu trữ và ghi nhớ các lượt chơi "đáng ngạc nhiên" và quên đi phần còn lại của dữ liệu, đồng thời nhận thấy rằng hiệu suất của hệ thống đã được cải thiện. Nếu mục tiêu cuối cùng của các nhà nghiên cứu AI là xây dựng các hệ thống học hỏi và suy nghĩ giống con người, thì chúng ta cần thiết kế chúng để quên đi một cách có chọn lọc. Boyle cho biết việc quên không phải là lỗi thiết kế mà là đặc điểm của một hệ thống trí nhớ hoạt động tốt và hiệu quả.
