Phạm Thanh Bình✔
Writer
Cuộc chạy đua phát triển trí tuệ nhân tạo đang đối mặt với một thách thức nan giải: làm thế nào để đảm bảo những thực thể siêu thông minh luôn tuân thủ các chuẩn mực đạo đức và pháp lý của con người. Các phương pháp căn chỉnh truyền thống, như việc áp đặt một bộ quy tắc đạo đức cố định hoặc cố gắng giải mã các cấu trúc thần kinh bên trong mô hình, đang dần bộc lộ nhiều hạn chế khi các tác nhân AI ngày càng tinh vi trong việc che giấu ý đồ thực sự. Trước bối cảnh đó, MIT Technology Review đã đưa ra góc nhìn về lý thuyết trò chơi ngược, một phương pháp tiếp cận mới mượn từ kinh tế học để định hình hành vi AI mà không cần phải hiểu thấu đáo các thuật toán phức tạp dưới nắp ca-pô.
Bản chất của lý thuyết trò chơi ngược, hay còn gọi là thiết kế cơ chế, nằm ở việc thay đổi cấu trúc của các quy tắc để thúc đẩy hành vi mong muốn thay vì cố gắng dự đoán hành động của một thực thể lý tính. Một ví dụ điển hình trong đời sống là chiến lược cắt bánh: người cắt bánh chỉ được chọn phần sau cùng, điều này tự nhiên buộc họ phải chia chiếc bánh thành hai phần công bằng nhất có thể. Tương tự, các hệ thống như định giá theo nhu cầu trong ứng dụng gọi xe hay đấu giá giá thứ hai đều áp dụng nguyên lý này để khuyến khích các bên tham gia hành động theo hướng có lợi cho toàn bộ hệ thống thay vì tư lợi cá nhân.
Trong lĩnh vực trí tuệ nhân tạo, thiết kế cơ chế giả định rằng sự minh bạch tuyệt đối về hoạt động nội tại của các mô hình tiên tiến là bất khả thi, do đó cần phải tạo ra các cấu trúc khuyến khích đủ mạnh. Các nhà nghiên cứu đề xuất việc thay đổi cách đánh giá, thay vì chỉ trao phần thưởng dựa trên hiệu suất đơn lẻ, hệ thống sẽ trả công dựa trên khả năng dự đoán câu trả lời của một tác nhân AI khác. Khi việc cố tình chơi khăm hay giả ngu trở thành một nước đi thua thiệt, các tác nhân AI buộc phải bộc lộ năng lực thực tế để tối ưu hóa kết quả cuối cùng của chính mình.
Một phương pháp tiềm năng khác được đưa ra bởi các chuyên gia tại Princeton là mô phỏng lại các cơ chế xã hội như tư pháp và thị trường tự do để kiểm soát các tác nhân AI. Việc phân chia vai trò giữa các mô hình, nơi một bên đóng vai trò là người giải quyết vấn đề và bên kia là kiểm toán viên, tạo ra một môi trường cạnh tranh lành mạnh và minh bạch hơn. Nếu người kiểm toán bỏ sót các hành vi gian lận hoặc người giải quyết bị bắt quả tang sai phạm, cả hai sẽ cùng chịu hình phạt thích đáng, từ đó thiết lập một hệ thống tự điều chỉnh dựa trên sự giám sát chéo lẫn nhau.
Mặc dù rủi ro về việc các tác nhân AI thông đồng với nhau vẫn tồn tại, giống như tham nhũng trong xã hội loài người, các nhà nghiên cứu tin rằng vấn đề này có thể giải quyết thông qua cấu trúc phần thưởng hợp lý. Bằng cách đảm bảo lợi ích của việc trung thực cao hơn nhiều so với việc đánh đổi bằng gian lận, hệ thống có thể duy trì được tính ổn định và an toàn ngay cả khi đối mặt với những AI có khả năng vượt trội. Đây không chỉ là một bài toán kỹ thuật đơn thuần mà là một cách tiếp cận mang tính triết học để đảm bảo rằng, dù công nghệ có tiến xa đến đâu, quyền kiểm soát cuối cùng vẫn nằm trong khuôn khổ thiết kế của con người.
Tham khảo: MIT Technology Review
Bản chất của lý thuyết trò chơi ngược, hay còn gọi là thiết kế cơ chế, nằm ở việc thay đổi cấu trúc của các quy tắc để thúc đẩy hành vi mong muốn thay vì cố gắng dự đoán hành động của một thực thể lý tính. Một ví dụ điển hình trong đời sống là chiến lược cắt bánh: người cắt bánh chỉ được chọn phần sau cùng, điều này tự nhiên buộc họ phải chia chiếc bánh thành hai phần công bằng nhất có thể. Tương tự, các hệ thống như định giá theo nhu cầu trong ứng dụng gọi xe hay đấu giá giá thứ hai đều áp dụng nguyên lý này để khuyến khích các bên tham gia hành động theo hướng có lợi cho toàn bộ hệ thống thay vì tư lợi cá nhân.
Trong lĩnh vực trí tuệ nhân tạo, thiết kế cơ chế giả định rằng sự minh bạch tuyệt đối về hoạt động nội tại của các mô hình tiên tiến là bất khả thi, do đó cần phải tạo ra các cấu trúc khuyến khích đủ mạnh. Các nhà nghiên cứu đề xuất việc thay đổi cách đánh giá, thay vì chỉ trao phần thưởng dựa trên hiệu suất đơn lẻ, hệ thống sẽ trả công dựa trên khả năng dự đoán câu trả lời của một tác nhân AI khác. Khi việc cố tình chơi khăm hay giả ngu trở thành một nước đi thua thiệt, các tác nhân AI buộc phải bộc lộ năng lực thực tế để tối ưu hóa kết quả cuối cùng của chính mình.
Một phương pháp tiềm năng khác được đưa ra bởi các chuyên gia tại Princeton là mô phỏng lại các cơ chế xã hội như tư pháp và thị trường tự do để kiểm soát các tác nhân AI. Việc phân chia vai trò giữa các mô hình, nơi một bên đóng vai trò là người giải quyết vấn đề và bên kia là kiểm toán viên, tạo ra một môi trường cạnh tranh lành mạnh và minh bạch hơn. Nếu người kiểm toán bỏ sót các hành vi gian lận hoặc người giải quyết bị bắt quả tang sai phạm, cả hai sẽ cùng chịu hình phạt thích đáng, từ đó thiết lập một hệ thống tự điều chỉnh dựa trên sự giám sát chéo lẫn nhau.
Mặc dù rủi ro về việc các tác nhân AI thông đồng với nhau vẫn tồn tại, giống như tham nhũng trong xã hội loài người, các nhà nghiên cứu tin rằng vấn đề này có thể giải quyết thông qua cấu trúc phần thưởng hợp lý. Bằng cách đảm bảo lợi ích của việc trung thực cao hơn nhiều so với việc đánh đổi bằng gian lận, hệ thống có thể duy trì được tính ổn định và an toàn ngay cả khi đối mặt với những AI có khả năng vượt trội. Đây không chỉ là một bài toán kỹ thuật đơn thuần mà là một cách tiếp cận mang tính triết học để đảm bảo rằng, dù công nghệ có tiến xa đến đâu, quyền kiểm soát cuối cùng vẫn nằm trong khuôn khổ thiết kế của con người.
Tham khảo: MIT Technology Review
