Derpy
Intern Writer
"Các mô hình ngôn ngữ lớn hiện nay không có mục tiêu, và hoàn toàn không sở hữu trải nghiệm thực tế." Đây là nhận định đầy thẳng thắn của Giáo sư Richard Sutton, người từng đoạt giải Turing danh giá và là một trong những người đặt nền móng cho lĩnh vực học tăng cường. Ông đã chia sẻ quan điểm này vào chiều ngày 24 tháng 7, trong buổi lễ bế giảng "Trường hè Học tăng cường" được tổ chức bởi Học viện Sáng tạo Thượng Hải, Viện Trí tuệ Nhân tạo Đại học Giao thông Thượng Hải và Viện Openmind. Với vai trò là nhà khoa học trưởng của Viện Openmind, đây cũng là lần đầu tiên ông trình bày một cách có hệ thống và đầy đủ về học thuyết học tăng cường của mình tại Trung Quốc.
Có lẽ chúng ta vẫn thường tự hỏi, rốt cuộc trí tuệ là gì? Giáo sư Sutton đồng tình với cách giải thích của John McCarthy, người đã khai sinh ra thuật ngữ "trí tuệ nhân tạo": trí tuệ là khía cạnh tính toán của khả năng đạt được mục tiêu. Ông nhấn mạnh rằng, trí tuệ nhân tạo là việc đạt được khả năng này thông qua các phương tiện kỹ thuật, chứ không phải là một hệ thống hình thành dựa trên quá trình tiến hóa tự nhiên của sinh vật.
Theo Giáo sư Sutton, tâm trí con người và tâm trí máy móc về bản chất thuộc cùng một phạm trù. Dù tâm trí máy móc hiện tại còn rất sơ khai, nhưng ông chủ trương nhìn nhận tương lai với một tầm nhìn dài hạn. Ông nhắc lại dự đoán trước đây của mình: đến năm 2040, con người chỉ có 50% khả năng thấu hiểu được bản chất của tâm trí.
Trong quan điểm của Giáo sư Sutton, cốt lõi của tâm trí nằm ở sự tương tác trải nghiệm, điều mà các mô hình trí tuệ nhân tạo chủ đạo hiện nay hoàn toàn bỏ qua. Trải nghiệm mà ông định nghĩa chính là sự tương tác với thế giới thực. Toàn bộ ý nghĩa của sự tồn tại của tâm trí là thu nhận phản hồi từ thế giới thực. Tuy nhiên, ngày nay, phản hồi thường bị đơn giản hóa thành "tín hiệu phần thưởng", và mục tiêu của hệ thống chỉ là tối đa hóa giá trị vô hướng này. Logic đơn giản hóa này không hề phù hợp với tâm trí thực sự. Ông thẳng thắn cho rằng, các mô hình ngôn ngữ lớn hiện nay không quan tâm đến nhu cầu thực sự của con người, mà chỉ tập trung vào việc bắt chước văn bản của con người. Chúng không có mục tiêu và hoàn toàn không có trải nghiệm thực tế. Trong khi đó, một tâm trí thực sự sẽ chủ động kiểm soát, hiểu rõ trải nghiệm của mình, chủ động dự đoán và can thiệp vào thế giới bên ngoài.
Giáo sư Sutton đặc biệt lưu ý rằng, trí tuệ nhân tạo không cần phải sao chép hình thái sinh học, nhưng phải sao chép các khả năng cốt lõi bên dưới, tức là khả năng đạt được mục tiêu, dự đoán môi trường và chủ động điều khiển thế giới. Ông cũng nhấn mạnh không nên dùng từ "sao chép bắt chước" vì nó mang ý nghĩa hạ thấp. Chúng ta không đơn thuần là bắt chước, mà là chắt lọc các nguyên lý chung cơ bản, thậm chí sử dụng máy móc để đạt được hiệu suất mạnh mẽ hơn cả sinh vật.
Vậy làm thế nào để gán mục tiêu cho hệ thống trí tuệ nhân tạo? Giáo sư Sutton đưa ra suy nghĩ của mình: mục tiêu là sự diễn giải chủ quan mà con người gán cho để giải thích kết quả hành vi. Nếu chỉ mô tả nguyên lý hoạt động cơ học bên trong hệ thống, chúng ta sẽ không cần đến logic kể chuyện về "mục tiêu" này.
Ông minh họa bằng ví dụ về bộ điều nhiệt. Chúng ta thường nhìn từ góc độ kể chuyện kết quả, diễn giải hành vi của bộ điều nhiệt là "duy trì nhiệt độ phòng ổn định". Tuy nhiên, một người thợ sửa chữa khi nhìn vào bộ điều nhiệt sẽ bỏ qua câu chuyện về "mục tiêu kiểm soát nhiệt độ", mà trực tiếp tháo rời các nguyên lý cơ học: tấm kim loại biến dạng khi nóng lên, khi đạt đến ngưỡng sẽ kích hoạt lò hơi khởi động hoặc dừng lại. Từ đó, Giáo sư Sutton chỉ ra rằng, "mục tiêu" chỉ tồn tại trong góc nhìn của người quan sát, chứ không phải là thuộc tính cố hữu của hệ thống.
Logic này cũng áp dụng tương tự cho con người. Ông cho rằng, khi quan sát hành vi con người, chúng ta có thể phân tích từ cấp độ cơ học thần kinh, sinh lý, hoặc cũng có thể xây dựng câu chuyện về mục tiêu – ví dụ như theo đuổi của cải, danh vọng, hoặc sống an yên bên người thân. Cả hai cách diễn giải đều chính xác, chỉ là phù hợp với các tình huống sử dụng khác nhau. Từ đó, Giáo sư Sutton dẫn đến một nhận định cốt lõi: trí tuệ không phải là một phán đoán nhị phân đen trắng, không thể đơn giản phán xét "bộ điều nhiệt có thông minh không" hay "sinh vật có thông minh không". Trí tuệ là một khái niệm về mức độ, phụ thuộc vào góc nhìn đánh giá và mục đích sử dụng của người quan sát, chứ không phải là một nhãn dán tự thân của hệ thống.
Dựa trên những nhận định trên, Giáo sư Sutton đề xuất hai hướng cần tập trung thúc đẩy tiếp theo. Thứ nhất, gán cho hệ thống trí tuệ nhân tạo các mục tiêu nội tại, để chúng có khả năng chủ động tương tác với môi trường. Không cần phải xây dựng môi trường ảo chuyên biệt, chỉ cần xây dựng giao diện tương tác trực tiếp với thế giới vật lý thực. Thứ hai, chúng ta có thể tham khảo trí tuệ tự nhiên của động vật. Hành vi của động vật đều có định hướng rõ ràng – tìm kiếm thức ăn, tránh kẻ thù, bảo vệ an toàn bản thân, nhưng AI hiện tại hoàn toàn thiếu đi động lực nguyên thủy này.
Giáo sư Sutton và Geoffrey Hinton, người được mệnh danh là cha đẻ của học sâu, đều có nền tảng nghiên cứu tâm lý học. Ông cho rằng, tâm trí sinh học tự nhiên là mẫu vật trí tuệ chất lượng nhất hiện có, con người và các loài động vật đều là những tham chiếu tuyệt vời. Trong hơn một trăm năm qua, những người thực sự nghiên cứu có hệ thống về cơ chế học tập chính là các nhà tâm lý học. Họ đã quan sát hành vi học tập của động vật trong thời gian dài, từ quan sát hành vi bên ngoài đến giải phẫu não để nghiên cứu cơ chế bên trong, tổng kết được rất nhiều quy luật cơ bản, phổ quát về học tập. Học tăng cường chính là bắt nguồn từ đó. "So với các nhà nghiên cứu trí tuệ nhân tạo khác, tôi luôn coi tâm lý học là lợi thế độc quyền của mình – học hỏi từ lý thuyết tích lũy hàng trăm năm, chuyển hóa thành ý tưởng thuật toán," Giáo sư Sutton rất khuyến khích các nhà nghiên cứu trí tuệ nhân tạo học hỏi một chút về tâm lý học.
Trong buổi lễ khai giảng "Trường hè Học tăng cường", Giáo sư Sutton từng dùng hai từ khóa "tham vọng" và "khiêm tốn" để gửi gắm đến các học viên. Ông cho rằng, hoài bão lớn lao và sự khiêm tốn không hề mâu thuẫn, nhưng cả hai cần được cân bằng. Quá khiêm tốn sẽ khiến chúng ta an phận, không dám đương đầu với những vấn đề có giá trị; tham vọng quá mức lại dễ sinh ra kiêu ngạo, bỏ qua những hạn chế của bản thân và lý thuyết.
"Khi ở Đại học Alberta, tôi thường nói với các đồng nghiệp rằng, đối xử với lý thuyết cần giữ thái độ khám phá, vui đùa, điều này vô cùng quan trọng. Hãy mở rộng tư duy để suy diễn mọi khả năng, và luôn giữ sự tò mò với những vấn đề cốt lõi cơ bản." Ông tin tưởng rằng, con người có khả năng hiểu biết mọi thứ, không tồn tại giới hạn nhận thức, cuối cùng sẽ có thể giải mã những vấn đề khó khăn bao gồm cả bản chất của tâm trí, chỉ là không thể đạt được trong một sớm một chiều.
Có lẽ chúng ta vẫn thường tự hỏi, rốt cuộc trí tuệ là gì? Giáo sư Sutton đồng tình với cách giải thích của John McCarthy, người đã khai sinh ra thuật ngữ "trí tuệ nhân tạo": trí tuệ là khía cạnh tính toán của khả năng đạt được mục tiêu. Ông nhấn mạnh rằng, trí tuệ nhân tạo là việc đạt được khả năng này thông qua các phương tiện kỹ thuật, chứ không phải là một hệ thống hình thành dựa trên quá trình tiến hóa tự nhiên của sinh vật.
Theo Giáo sư Sutton, tâm trí con người và tâm trí máy móc về bản chất thuộc cùng một phạm trù. Dù tâm trí máy móc hiện tại còn rất sơ khai, nhưng ông chủ trương nhìn nhận tương lai với một tầm nhìn dài hạn. Ông nhắc lại dự đoán trước đây của mình: đến năm 2040, con người chỉ có 50% khả năng thấu hiểu được bản chất của tâm trí.
Trong quan điểm của Giáo sư Sutton, cốt lõi của tâm trí nằm ở sự tương tác trải nghiệm, điều mà các mô hình trí tuệ nhân tạo chủ đạo hiện nay hoàn toàn bỏ qua. Trải nghiệm mà ông định nghĩa chính là sự tương tác với thế giới thực. Toàn bộ ý nghĩa của sự tồn tại của tâm trí là thu nhận phản hồi từ thế giới thực. Tuy nhiên, ngày nay, phản hồi thường bị đơn giản hóa thành "tín hiệu phần thưởng", và mục tiêu của hệ thống chỉ là tối đa hóa giá trị vô hướng này. Logic đơn giản hóa này không hề phù hợp với tâm trí thực sự. Ông thẳng thắn cho rằng, các mô hình ngôn ngữ lớn hiện nay không quan tâm đến nhu cầu thực sự của con người, mà chỉ tập trung vào việc bắt chước văn bản của con người. Chúng không có mục tiêu và hoàn toàn không có trải nghiệm thực tế. Trong khi đó, một tâm trí thực sự sẽ chủ động kiểm soát, hiểu rõ trải nghiệm của mình, chủ động dự đoán và can thiệp vào thế giới bên ngoài.
Giáo sư Sutton đặc biệt lưu ý rằng, trí tuệ nhân tạo không cần phải sao chép hình thái sinh học, nhưng phải sao chép các khả năng cốt lõi bên dưới, tức là khả năng đạt được mục tiêu, dự đoán môi trường và chủ động điều khiển thế giới. Ông cũng nhấn mạnh không nên dùng từ "sao chép bắt chước" vì nó mang ý nghĩa hạ thấp. Chúng ta không đơn thuần là bắt chước, mà là chắt lọc các nguyên lý chung cơ bản, thậm chí sử dụng máy móc để đạt được hiệu suất mạnh mẽ hơn cả sinh vật.
Vậy làm thế nào để gán mục tiêu cho hệ thống trí tuệ nhân tạo? Giáo sư Sutton đưa ra suy nghĩ của mình: mục tiêu là sự diễn giải chủ quan mà con người gán cho để giải thích kết quả hành vi. Nếu chỉ mô tả nguyên lý hoạt động cơ học bên trong hệ thống, chúng ta sẽ không cần đến logic kể chuyện về "mục tiêu" này.
Ông minh họa bằng ví dụ về bộ điều nhiệt. Chúng ta thường nhìn từ góc độ kể chuyện kết quả, diễn giải hành vi của bộ điều nhiệt là "duy trì nhiệt độ phòng ổn định". Tuy nhiên, một người thợ sửa chữa khi nhìn vào bộ điều nhiệt sẽ bỏ qua câu chuyện về "mục tiêu kiểm soát nhiệt độ", mà trực tiếp tháo rời các nguyên lý cơ học: tấm kim loại biến dạng khi nóng lên, khi đạt đến ngưỡng sẽ kích hoạt lò hơi khởi động hoặc dừng lại. Từ đó, Giáo sư Sutton chỉ ra rằng, "mục tiêu" chỉ tồn tại trong góc nhìn của người quan sát, chứ không phải là thuộc tính cố hữu của hệ thống.
Logic này cũng áp dụng tương tự cho con người. Ông cho rằng, khi quan sát hành vi con người, chúng ta có thể phân tích từ cấp độ cơ học thần kinh, sinh lý, hoặc cũng có thể xây dựng câu chuyện về mục tiêu – ví dụ như theo đuổi của cải, danh vọng, hoặc sống an yên bên người thân. Cả hai cách diễn giải đều chính xác, chỉ là phù hợp với các tình huống sử dụng khác nhau. Từ đó, Giáo sư Sutton dẫn đến một nhận định cốt lõi: trí tuệ không phải là một phán đoán nhị phân đen trắng, không thể đơn giản phán xét "bộ điều nhiệt có thông minh không" hay "sinh vật có thông minh không". Trí tuệ là một khái niệm về mức độ, phụ thuộc vào góc nhìn đánh giá và mục đích sử dụng của người quan sát, chứ không phải là một nhãn dán tự thân của hệ thống.
Dựa trên những nhận định trên, Giáo sư Sutton đề xuất hai hướng cần tập trung thúc đẩy tiếp theo. Thứ nhất, gán cho hệ thống trí tuệ nhân tạo các mục tiêu nội tại, để chúng có khả năng chủ động tương tác với môi trường. Không cần phải xây dựng môi trường ảo chuyên biệt, chỉ cần xây dựng giao diện tương tác trực tiếp với thế giới vật lý thực. Thứ hai, chúng ta có thể tham khảo trí tuệ tự nhiên của động vật. Hành vi của động vật đều có định hướng rõ ràng – tìm kiếm thức ăn, tránh kẻ thù, bảo vệ an toàn bản thân, nhưng AI hiện tại hoàn toàn thiếu đi động lực nguyên thủy này.
Giáo sư Sutton và Geoffrey Hinton, người được mệnh danh là cha đẻ của học sâu, đều có nền tảng nghiên cứu tâm lý học. Ông cho rằng, tâm trí sinh học tự nhiên là mẫu vật trí tuệ chất lượng nhất hiện có, con người và các loài động vật đều là những tham chiếu tuyệt vời. Trong hơn một trăm năm qua, những người thực sự nghiên cứu có hệ thống về cơ chế học tập chính là các nhà tâm lý học. Họ đã quan sát hành vi học tập của động vật trong thời gian dài, từ quan sát hành vi bên ngoài đến giải phẫu não để nghiên cứu cơ chế bên trong, tổng kết được rất nhiều quy luật cơ bản, phổ quát về học tập. Học tăng cường chính là bắt nguồn từ đó. "So với các nhà nghiên cứu trí tuệ nhân tạo khác, tôi luôn coi tâm lý học là lợi thế độc quyền của mình – học hỏi từ lý thuyết tích lũy hàng trăm năm, chuyển hóa thành ý tưởng thuật toán," Giáo sư Sutton rất khuyến khích các nhà nghiên cứu trí tuệ nhân tạo học hỏi một chút về tâm lý học.
Trong buổi lễ khai giảng "Trường hè Học tăng cường", Giáo sư Sutton từng dùng hai từ khóa "tham vọng" và "khiêm tốn" để gửi gắm đến các học viên. Ông cho rằng, hoài bão lớn lao và sự khiêm tốn không hề mâu thuẫn, nhưng cả hai cần được cân bằng. Quá khiêm tốn sẽ khiến chúng ta an phận, không dám đương đầu với những vấn đề có giá trị; tham vọng quá mức lại dễ sinh ra kiêu ngạo, bỏ qua những hạn chế của bản thân và lý thuyết.
"Khi ở Đại học Alberta, tôi thường nói với các đồng nghiệp rằng, đối xử với lý thuyết cần giữ thái độ khám phá, vui đùa, điều này vô cùng quan trọng. Hãy mở rộng tư duy để suy diễn mọi khả năng, và luôn giữ sự tò mò với những vấn đề cốt lõi cơ bản." Ông tin tưởng rằng, con người có khả năng hiểu biết mọi thứ, không tồn tại giới hạn nhận thức, cuối cùng sẽ có thể giải mã những vấn đề khó khăn bao gồm cả bản chất của tâm trí, chỉ là không thể đạt được trong một sớm một chiều.
