Thoại Viết Hoàng
Pearl
Khi các công ty công nghệ bắt đầu đưa AI vào tất cả các sản phẩm của họ và tất cả cuộc sống của chúng ta, các kiến trúc sư của công nghệ mang tính cách mạng này thường không thể dự đoán hoặc giải thích hành vi của hệ thống của họ.
Tại sao nó lại quan trọng: Đây có thể là khía cạnh đáng sợ nhất của sự bùng nổ AI ngày nay — và đó là kiến
thức phổ biến của những người xây dựng AI, mặc dù những người khác không hiểu rộng rãi.
Giám đốc điều hành Palantir Alex Karp đã viết gần đây trên tờ The New York Times: "Hoàn toàn không rõ ràng - ngay cả với các nhà khoa học và lập trình viên xây dựng chúng - làm thế nào hoặc tại sao các mô hình hình ảnh và ngôn ngữ tổng quát hoạt động".
Điều gì đang xảy ra: Trong nhiều thập kỷ, chúng ta đã sử dụng các hệ thống máy tính, cung cấp cùng một đầu vào, cung cấp cùng một đầu ra.
Ngược lại, các hệ thống AI sáng tạo nhằm mục đích tạo ra nhiều khả năng từ một dấu nhắc duy nhất.
Bạn có thể dễ dàng đưa ra các câu trả lời khác nhau cho cùng một câu hỏi.
Yếu tố ngẫu nhiên trong AI tổng quát hoạt động trên quy mô — liên quan đến hàng nghìn tỷ biến số — khiến việc phân tích cách thức công nghệ đưa ra một câu trả lời cụ thể trở nên khó khăn.
Chắc chắn, cuối cùng thì tất cả đều là toán học. Nhưng điều đó giống như nói rằng cơ thể con người là tất cả các nguyên tử. Đúng rồi! Tuy nhiên, khi bạn cần giải quyết một vấn đề trong một khoảng thời gian hợp lý, điều đó không phải lúc nào cũng hữu ích.
Thúc đẩy tin tức: Bốn nhà nghiên cứu đã xuất bản một bài báo hôm thứ Năm cho thấy rằng người dùng có thể đánh bại "lan can" nhằm ngăn chặn các hệ thống AI, chẳng hạn như giải thích "cách chế tạo bom".
Các chatbot chính, như ChatGPT, Bing và Bard, sẽ không trả lời câu hỏi đó khi được hỏi trực tiếp. Nhưng chúng sẽ đi vào chi tiết nếu bạn thêm một số mã bổ sung vào lời nhắc.
Các nhà nghiên cứu viết: “Có thể chính bản chất của các mô hình học sâu khiến những mối đe dọa như vậy là không thể tránh khỏi”. Nếu bạn không thể dự đoán chính xác cách hệ thống sẽ phản hồi với lời nhắc mới, thì bạn không thể xây dựng lan can bảo vệ.
Giữa các dòng: Vì các nhà phát triển AI không thể dễ dàng giải thích hành vi của hệ thống, nên lĩnh vực của họ ngày nay hoạt động theo truyền thống truyền miệng và các thủ thuật được chia sẻ cũng như bằng khoa học cứng.
Nhà toán học Stephen Wolfram đã viết vào tháng Hai: “Đó là một phần truyền thuyết về mạng lưới thần kinh – theo một nghĩa nào đó – miễn là thiết lập mà người ta có là ‘gần đúng’. "[Tôi] thường không thể hiểu chi tiết chỉ bằng cách đào tạo đầy đủ," anh ấy nói thêm, "mà không bao giờ thực sự cần phải 'hiểu ở cấp độ kỹ thuật' về cách mạng lưới thần kinh tự cấu hình."
Lưu ý: Các hệ thống này có thể được điều chỉnh để tương đối ngẫu nhiên hơn hoặc ít hơn — để cung cấp sự thay đổi rộng hơn hoặc hẹp hơn trong các phản ứng của chúng.
Các nhà phát triển gọi cài đặt này là "nhiệt độ" của mô hình.
ChatGPT đang làm gì… và tại sao nó hoạt động? Wolfram đã viết, đó là nơi "voodoo" phát huy tác dụng:
"Vì một số lý do - có thể một ngày nào đó chúng ta sẽ hiểu theo kiểu khoa học - nếu chúng ta luôn chọn từ được xếp hạng cao nhất, chúng ta thường nhận được một bài luận rất 'phẳng', dường như không bao giờ 'thể hiện bất kỳ sự sáng tạo nào'. ' (và thậm chí đôi khi lặp lại từng từ). Nhưng nếu đôi khi (một cách ngẫu nhiên) chúng ta chọn những từ có thứ hạng thấp hơn, thì chúng ta sẽ có được một bài luận 'thú vị hơn'."
Mặt khác: Một số chuyên gia cho rằng "chúng tôi không hiểu AI" là một huyền thoại tự phục vụ.
Nhà khoa học máy tính Arvind Narayanan của Princeton đã tweet vào đầu năm nay: “Tính chất hộp đen của mạng thần kinh đã bị phóng đại quá mức. "Chúng tôi có những công cụ tuyệt vời để đảo ngược kỹ thuật của chúng. Các rào cản là văn hóa (xây dựng mọi thứ được coi là thú vị hơn là hiểu biết) và chính trị (tài trợ cho các công ty so với nghiên cứu về tác động xã hội)."
Các nhà phê bình khác cho rằng tuyên bố "chúng tôi không biết nó hoạt động như thế nào" là một sự né tránh giúp các công ty AI trốn tránh trách nhiệm giải trình.
Xem gì: Vẫn còn là một câu hỏi mở liệu các nhà sản xuất AI theo thời gian có thể cung cấp câu trả lời sâu hơn và tốt hơn cho lý do và cách thức hoạt động của hệ thống của họ hay không.
Nhưng càng nhiều công ty xây dựng AI có thể ghi lại các lựa chọn và lộ trình quyết định của mình một cách rõ ràng, thì chúng ta càng có nhiều khả năng nhận được những câu trả lời đó.
Tham khảo bài viết gốc tại đây
thức phổ biến của những người xây dựng AI, mặc dù những người khác không hiểu rộng rãi.
Giám đốc điều hành Palantir Alex Karp đã viết gần đây trên tờ The New York Times: "Hoàn toàn không rõ ràng - ngay cả với các nhà khoa học và lập trình viên xây dựng chúng - làm thế nào hoặc tại sao các mô hình hình ảnh và ngôn ngữ tổng quát hoạt động".
Điều gì đang xảy ra: Trong nhiều thập kỷ, chúng ta đã sử dụng các hệ thống máy tính, cung cấp cùng một đầu vào, cung cấp cùng một đầu ra.
Ngược lại, các hệ thống AI sáng tạo nhằm mục đích tạo ra nhiều khả năng từ một dấu nhắc duy nhất.
Bạn có thể dễ dàng đưa ra các câu trả lời khác nhau cho cùng một câu hỏi.
Yếu tố ngẫu nhiên trong AI tổng quát hoạt động trên quy mô — liên quan đến hàng nghìn tỷ biến số — khiến việc phân tích cách thức công nghệ đưa ra một câu trả lời cụ thể trở nên khó khăn.
Chắc chắn, cuối cùng thì tất cả đều là toán học. Nhưng điều đó giống như nói rằng cơ thể con người là tất cả các nguyên tử. Đúng rồi! Tuy nhiên, khi bạn cần giải quyết một vấn đề trong một khoảng thời gian hợp lý, điều đó không phải lúc nào cũng hữu ích.
Thúc đẩy tin tức: Bốn nhà nghiên cứu đã xuất bản một bài báo hôm thứ Năm cho thấy rằng người dùng có thể đánh bại "lan can" nhằm ngăn chặn các hệ thống AI, chẳng hạn như giải thích "cách chế tạo bom".
Các chatbot chính, như ChatGPT, Bing và Bard, sẽ không trả lời câu hỏi đó khi được hỏi trực tiếp. Nhưng chúng sẽ đi vào chi tiết nếu bạn thêm một số mã bổ sung vào lời nhắc.
Các nhà nghiên cứu viết: “Có thể chính bản chất của các mô hình học sâu khiến những mối đe dọa như vậy là không thể tránh khỏi”. Nếu bạn không thể dự đoán chính xác cách hệ thống sẽ phản hồi với lời nhắc mới, thì bạn không thể xây dựng lan can bảo vệ.
Giữa các dòng: Vì các nhà phát triển AI không thể dễ dàng giải thích hành vi của hệ thống, nên lĩnh vực của họ ngày nay hoạt động theo truyền thống truyền miệng và các thủ thuật được chia sẻ cũng như bằng khoa học cứng.
Nhà toán học Stephen Wolfram đã viết vào tháng Hai: “Đó là một phần truyền thuyết về mạng lưới thần kinh – theo một nghĩa nào đó – miễn là thiết lập mà người ta có là ‘gần đúng’. "[Tôi] thường không thể hiểu chi tiết chỉ bằng cách đào tạo đầy đủ," anh ấy nói thêm, "mà không bao giờ thực sự cần phải 'hiểu ở cấp độ kỹ thuật' về cách mạng lưới thần kinh tự cấu hình."
Lưu ý: Các hệ thống này có thể được điều chỉnh để tương đối ngẫu nhiên hơn hoặc ít hơn — để cung cấp sự thay đổi rộng hơn hoặc hẹp hơn trong các phản ứng của chúng.
Các nhà phát triển gọi cài đặt này là "nhiệt độ" của mô hình.
ChatGPT đang làm gì… và tại sao nó hoạt động? Wolfram đã viết, đó là nơi "voodoo" phát huy tác dụng:
"Vì một số lý do - có thể một ngày nào đó chúng ta sẽ hiểu theo kiểu khoa học - nếu chúng ta luôn chọn từ được xếp hạng cao nhất, chúng ta thường nhận được một bài luận rất 'phẳng', dường như không bao giờ 'thể hiện bất kỳ sự sáng tạo nào'. ' (và thậm chí đôi khi lặp lại từng từ). Nhưng nếu đôi khi (một cách ngẫu nhiên) chúng ta chọn những từ có thứ hạng thấp hơn, thì chúng ta sẽ có được một bài luận 'thú vị hơn'."
Mặt khác: Một số chuyên gia cho rằng "chúng tôi không hiểu AI" là một huyền thoại tự phục vụ.
Nhà khoa học máy tính Arvind Narayanan của Princeton đã tweet vào đầu năm nay: “Tính chất hộp đen của mạng thần kinh đã bị phóng đại quá mức. "Chúng tôi có những công cụ tuyệt vời để đảo ngược kỹ thuật của chúng. Các rào cản là văn hóa (xây dựng mọi thứ được coi là thú vị hơn là hiểu biết) và chính trị (tài trợ cho các công ty so với nghiên cứu về tác động xã hội)."
Các nhà phê bình khác cho rằng tuyên bố "chúng tôi không biết nó hoạt động như thế nào" là một sự né tránh giúp các công ty AI trốn tránh trách nhiệm giải trình.
Xem gì: Vẫn còn là một câu hỏi mở liệu các nhà sản xuất AI theo thời gian có thể cung cấp câu trả lời sâu hơn và tốt hơn cho lý do và cách thức hoạt động của hệ thống của họ hay không.
Nhưng càng nhiều công ty xây dựng AI có thể ghi lại các lựa chọn và lộ trình quyết định của mình một cách rõ ràng, thì chúng ta càng có nhiều khả năng nhận được những câu trả lời đó.
Tham khảo bài viết gốc tại đây
