Thoại Viết Hoàng
Writer
Có những tâm trí xa lạ trong số chúng ta. Không phải những người đàn ông nhỏ màu xanh lá cây trong khoa học viễn tưởng, mà là những bộ óc ngoài hành tinh cung cấp khả năng nhận dạng khuôn mặt trong điện thoại thông minh của bạn, xác định mức độ tín nhiệm của bạn và viết thơ cũng như mã máy tính. Những bộ óc ngoài hành tinh này chính là hệ thống trí tuệ nhân tạo, những bóng ma trong cỗ máy mà bạn gặp hàng ngày.
Nhưng các hệ thống AI có một hạn chế đáng kể: Nhiều hoạt động bên trong của chúng không thể xuyên thủng được, khiến chúng về cơ bản không thể giải thích được và không thể đoán trước được. Hơn nữa, việc xây dựng các hệ thống AI hoạt động theo cách mà mọi người mong đợi là một thách thức đáng kể.
Nếu về cơ bản bạn không hiểu thứ gì đó khó đoán như AI, làm sao bạn có thể tin tưởng vào nó?
Tại sao AI lại khó đoán?
Niềm tin dựa trên khả năng dự đoán. Nó phụ thuộc vào khả năng dự đoán hành vi của người khác. Nếu bạn tin tưởng ai đó và họ không làm những gì bạn mong đợi thì nhận thức của bạn về độ tin cậy của họ sẽ giảm đi.
Nhiều hệ thống AI được xây dựng trên mạng lưới thần kinh học sâu, theo một cách nào đó mô phỏng bộ não con người. Các mạng này chứa các “tế bào thần kinh” được kết nối với nhau với các biến số hoặc “tham số” ảnh hưởng đến cường độ kết nối giữa các tế bào thần kinh. Khi một mạng chưa được cung cấp dữ liệu huấn luyện, nó sẽ “học” cách phân loại dữ liệu bằng cách điều chỉnh các tham số này. Bằng cách này, hệ thống AI học cách phân loại dữ liệu mà nó chưa từng thấy trước đây. Nó không ghi nhớ từng điểm dữ liệu là gì mà thay vào đó dự đoán điểm dữ liệu có thể là gì.
Nhiều hệ thống AI mạnh mẽ nhất chứa hàng nghìn tỷ tham số. Vì điều này, lý do khiến các hệ thống AI đưa ra quyết định thường không rõ ràng. Đây là vấn đề về khả năng giải thích của AI – hộp đen không thể xuyên thủng trong quá trình ra quyết định của AI.
Hãy xem xét một biến thể của “Bài toán xe đẩy”. Hãy tưởng tượng bạn là hành khách trên một chiếc xe tự lái, được điều khiển bởi AI. Một đứa trẻ nhỏ chạy ra đường và AI bây giờ phải quyết định: cán qua đứa trẻ đó hay lao chệch hướng và đâm vào, có khả năng khiến hành khách bị thương. Con người sẽ khó thực hiện lựa chọn này, nhưng con người có lợi là có thể giải thích quyết định của mình. Sự hợp lý hóa của họ – được định hình bởi các chuẩn mực đạo đức, nhận thức của người khác và hành vi được mong đợi – hỗ trợ cho niềm tin.
Ngược lại, AI không thể hợp lý hóa việc ra quyết định của mình. Bạn không thể nhìn vào bên trong chiếc xe tự lái với hàng nghìn tỷ thông số của nó để giải thích lý do tại sao nó lại đưa ra quyết định như vậy. AI không đáp ứng được yêu cầu dự đoán về niềm tin.
Hành vi của AI và kỳ vọng của con người
Niềm tin không chỉ dựa vào khả năng dự đoán mà còn dựa trên động cơ mang tính chuẩn mực hoặc đạo đức. Bạn thường mong đợi mọi người hành động không chỉ như bạn cho rằng họ sẽ làm mà còn phải hành động như họ nên làm. Giá trị con người bị ảnh hưởng bởi kinh nghiệm chung và lý luận đạo đức là một quá trình năng động, được định hình bởi các tiêu chuẩn đạo đức và nhận thức của người khác.
Không giống con người, AI không điều chỉnh hành vi của mình dựa trên cách người khác nhìn nhận hoặc tuân thủ các chuẩn mực đạo đức. Sự thể hiện nội bộ của AI về thế giới phần lớn là tĩnh, được thiết lập bởi dữ liệu đào tạo của nó. Quá trình ra quyết định của nó dựa trên một mô hình không thay đổi của thế giới, không bị bối rối bởi các tương tác xã hội năng động, nhiều sắc thái liên tục ảnh hưởng đến hành vi của con người. Các nhà nghiên cứu đang nghiên cứu lập trình AI để đưa vào vấn đề đạo đức, nhưng điều đó đang tỏ ra đầy thách thức.
Kịch bản xe tự lái minh họa vấn đề này. Làm cách nào bạn có thể đảm bảo rằng AI của ô tô đưa ra quyết định phù hợp với mong đợi của con người? Ví dụ, chiếc ô tô có thể quyết định rằng việc tông vào đứa trẻ là hành động tối ưu, điều mà hầu hết người lái xe đều tránh theo bản năng. Vấn đề này là vấn đề liên kết AI và là một nguồn không chắc chắn khác tạo ra các rào cản đối với niềm tin. Chuyên gia AI Stuart Russell giải thích vấn đề liên kết AI.
Các hệ thống quan trọng và AI đáng tin cậy
Một cách để giảm bớt sự không chắc chắn và tăng cường niềm tin là đảm bảo mọi người tham gia vào các quyết định mà hệ thống AI đưa ra. Đây là cách tiếp cận được Bộ Quốc phòng Hoa Kỳ áp dụng, yêu cầu rằng đối với tất cả các quyết định của AI, con người phải ở trong vòng lặp hoặc ở trong vòng lặp. Trong vòng lặp có nghĩa là hệ thống AI đưa ra đề xuất nhưng cần có con người để bắt đầu hành động. Vòng lặp có nghĩa là trong khi hệ thống AI có thể tự thực hiện một hành động thì người giám sát có thể làm gián đoạn hoặc thay đổi hành động đó.
Mặc dù thu hút sự tham gia của con người là bước đầu tiên tuyệt vời nhưng tôi không tin rằng điều này sẽ bền vững lâu dài. Khi các công ty và chính phủ tiếp tục áp dụng AI, tương lai có thể sẽ bao gồm các hệ thống AI lồng nhau, nơi việc ra quyết định nhanh chóng sẽ hạn chế cơ hội can thiệp của mọi người. Điều quan trọng là phải giải quyết các vấn đề về khả năng giải thích và sự liên kết trước khi đạt đến điểm quan trọng mà sự can thiệp của con người trở nên bất khả thi. Khi đó, sẽ không còn lựa chọn nào khác ngoài việc tin tưởng vào AI.
Việc tránh ngưỡng đó đặc biệt quan trọng vì AI đang ngày càng được tích hợp vào các hệ thống quan trọng, bao gồm những thứ như lưới điện, internet và hệ thống quân sự. Trong các hệ thống quan trọng, niềm tin là điều tối quan trọng và hành vi không mong muốn có thể gây ra hậu quả chết người. Khi việc tích hợp AI trở nên phức tạp hơn, việc giải quyết các vấn đề hạn chế độ tin cậy càng trở nên quan trọng hơn.
Mọi người có thể tin tưởng vào AI không?
AI là thứ xa lạ – một hệ thống thông minh mà con người có rất ít hiểu biết sâu sắc. Con người phần lớn có thể dự đoán được đối với những người khác vì chúng ta có chung trải nghiệm của con người, nhưng điều này không mở rộng sang trí tuệ nhân tạo, mặc dù con người đã tạo ra nó.
Nếu độ tin cậy vốn có các yếu tố quy chuẩn và có thể dự đoán được thì về cơ bản, AI thiếu những phẩm chất khiến nó đáng được tin cậy. Nhiều nghiên cứu hơn trong lĩnh vực này hy vọng sẽ làm sáng tỏ vấn đề này, đảm bảo rằng các hệ thống AI trong tương lai xứng đáng với sự tin tưởng của chúng ta.
Tham khảo bài viết gốc tại đây:
Nhưng các hệ thống AI có một hạn chế đáng kể: Nhiều hoạt động bên trong của chúng không thể xuyên thủng được, khiến chúng về cơ bản không thể giải thích được và không thể đoán trước được. Hơn nữa, việc xây dựng các hệ thống AI hoạt động theo cách mà mọi người mong đợi là một thách thức đáng kể.
Nếu về cơ bản bạn không hiểu thứ gì đó khó đoán như AI, làm sao bạn có thể tin tưởng vào nó?
Tại sao AI lại khó đoán?
Niềm tin dựa trên khả năng dự đoán. Nó phụ thuộc vào khả năng dự đoán hành vi của người khác. Nếu bạn tin tưởng ai đó và họ không làm những gì bạn mong đợi thì nhận thức của bạn về độ tin cậy của họ sẽ giảm đi.
Nhiều hệ thống AI được xây dựng trên mạng lưới thần kinh học sâu, theo một cách nào đó mô phỏng bộ não con người. Các mạng này chứa các “tế bào thần kinh” được kết nối với nhau với các biến số hoặc “tham số” ảnh hưởng đến cường độ kết nối giữa các tế bào thần kinh. Khi một mạng chưa được cung cấp dữ liệu huấn luyện, nó sẽ “học” cách phân loại dữ liệu bằng cách điều chỉnh các tham số này. Bằng cách này, hệ thống AI học cách phân loại dữ liệu mà nó chưa từng thấy trước đây. Nó không ghi nhớ từng điểm dữ liệu là gì mà thay vào đó dự đoán điểm dữ liệu có thể là gì.
Nhiều hệ thống AI mạnh mẽ nhất chứa hàng nghìn tỷ tham số. Vì điều này, lý do khiến các hệ thống AI đưa ra quyết định thường không rõ ràng. Đây là vấn đề về khả năng giải thích của AI – hộp đen không thể xuyên thủng trong quá trình ra quyết định của AI.
Hãy xem xét một biến thể của “Bài toán xe đẩy”. Hãy tưởng tượng bạn là hành khách trên một chiếc xe tự lái, được điều khiển bởi AI. Một đứa trẻ nhỏ chạy ra đường và AI bây giờ phải quyết định: cán qua đứa trẻ đó hay lao chệch hướng và đâm vào, có khả năng khiến hành khách bị thương. Con người sẽ khó thực hiện lựa chọn này, nhưng con người có lợi là có thể giải thích quyết định của mình. Sự hợp lý hóa của họ – được định hình bởi các chuẩn mực đạo đức, nhận thức của người khác và hành vi được mong đợi – hỗ trợ cho niềm tin.
Ngược lại, AI không thể hợp lý hóa việc ra quyết định của mình. Bạn không thể nhìn vào bên trong chiếc xe tự lái với hàng nghìn tỷ thông số của nó để giải thích lý do tại sao nó lại đưa ra quyết định như vậy. AI không đáp ứng được yêu cầu dự đoán về niềm tin.
Hành vi của AI và kỳ vọng của con người
Niềm tin không chỉ dựa vào khả năng dự đoán mà còn dựa trên động cơ mang tính chuẩn mực hoặc đạo đức. Bạn thường mong đợi mọi người hành động không chỉ như bạn cho rằng họ sẽ làm mà còn phải hành động như họ nên làm. Giá trị con người bị ảnh hưởng bởi kinh nghiệm chung và lý luận đạo đức là một quá trình năng động, được định hình bởi các tiêu chuẩn đạo đức và nhận thức của người khác.
Không giống con người, AI không điều chỉnh hành vi của mình dựa trên cách người khác nhìn nhận hoặc tuân thủ các chuẩn mực đạo đức. Sự thể hiện nội bộ của AI về thế giới phần lớn là tĩnh, được thiết lập bởi dữ liệu đào tạo của nó. Quá trình ra quyết định của nó dựa trên một mô hình không thay đổi của thế giới, không bị bối rối bởi các tương tác xã hội năng động, nhiều sắc thái liên tục ảnh hưởng đến hành vi của con người. Các nhà nghiên cứu đang nghiên cứu lập trình AI để đưa vào vấn đề đạo đức, nhưng điều đó đang tỏ ra đầy thách thức.
Kịch bản xe tự lái minh họa vấn đề này. Làm cách nào bạn có thể đảm bảo rằng AI của ô tô đưa ra quyết định phù hợp với mong đợi của con người? Ví dụ, chiếc ô tô có thể quyết định rằng việc tông vào đứa trẻ là hành động tối ưu, điều mà hầu hết người lái xe đều tránh theo bản năng. Vấn đề này là vấn đề liên kết AI và là một nguồn không chắc chắn khác tạo ra các rào cản đối với niềm tin. Chuyên gia AI Stuart Russell giải thích vấn đề liên kết AI.
Các hệ thống quan trọng và AI đáng tin cậy
Một cách để giảm bớt sự không chắc chắn và tăng cường niềm tin là đảm bảo mọi người tham gia vào các quyết định mà hệ thống AI đưa ra. Đây là cách tiếp cận được Bộ Quốc phòng Hoa Kỳ áp dụng, yêu cầu rằng đối với tất cả các quyết định của AI, con người phải ở trong vòng lặp hoặc ở trong vòng lặp. Trong vòng lặp có nghĩa là hệ thống AI đưa ra đề xuất nhưng cần có con người để bắt đầu hành động. Vòng lặp có nghĩa là trong khi hệ thống AI có thể tự thực hiện một hành động thì người giám sát có thể làm gián đoạn hoặc thay đổi hành động đó.
Mặc dù thu hút sự tham gia của con người là bước đầu tiên tuyệt vời nhưng tôi không tin rằng điều này sẽ bền vững lâu dài. Khi các công ty và chính phủ tiếp tục áp dụng AI, tương lai có thể sẽ bao gồm các hệ thống AI lồng nhau, nơi việc ra quyết định nhanh chóng sẽ hạn chế cơ hội can thiệp của mọi người. Điều quan trọng là phải giải quyết các vấn đề về khả năng giải thích và sự liên kết trước khi đạt đến điểm quan trọng mà sự can thiệp của con người trở nên bất khả thi. Khi đó, sẽ không còn lựa chọn nào khác ngoài việc tin tưởng vào AI.
Việc tránh ngưỡng đó đặc biệt quan trọng vì AI đang ngày càng được tích hợp vào các hệ thống quan trọng, bao gồm những thứ như lưới điện, internet và hệ thống quân sự. Trong các hệ thống quan trọng, niềm tin là điều tối quan trọng và hành vi không mong muốn có thể gây ra hậu quả chết người. Khi việc tích hợp AI trở nên phức tạp hơn, việc giải quyết các vấn đề hạn chế độ tin cậy càng trở nên quan trọng hơn.
Mọi người có thể tin tưởng vào AI không?
AI là thứ xa lạ – một hệ thống thông minh mà con người có rất ít hiểu biết sâu sắc. Con người phần lớn có thể dự đoán được đối với những người khác vì chúng ta có chung trải nghiệm của con người, nhưng điều này không mở rộng sang trí tuệ nhân tạo, mặc dù con người đã tạo ra nó.
Nếu độ tin cậy vốn có các yếu tố quy chuẩn và có thể dự đoán được thì về cơ bản, AI thiếu những phẩm chất khiến nó đáng được tin cậy. Nhiều nghiên cứu hơn trong lĩnh vực này hy vọng sẽ làm sáng tỏ vấn đề này, đảm bảo rằng các hệ thống AI trong tương lai xứng đáng với sự tin tưởng của chúng ta.
Tham khảo bài viết gốc tại đây:
