vuchau1210.01
Pearl
Sau nhiều năm phát triển, lĩnh vực AI hiện đã đạt được những thành tựu đáng kinh ngạc. Một AI đã có thể tự lái ô tô trên đường, đưa ra những đánh giá về hiệu suất làm việc của 1 người. Mới đây nhất, AI còn tạo ra 1 tác phẩm nghệ thuật giành chiến thắng trong cuộc thi hội họa.
Nhưng có một câu hỏi lâu nay trong lĩnh vực này - liệu một AI siêu thông minh có thể gây ra những thảm họa tồn vong cho nhân loại hay không? Chúng ta đã có cả tấn các bộ phim Hollywood khai thác câu hỏi đó, nhưng vẫn không ai biết từ phim liệu có thành sự thật.
Các nhà nghiên cứu từ Đại học Oxford hợp tác với Google DeepMind trong một phân tích mới đây, đã kết luận rằng điều đó hoàn toàn "có khả năng".
Vào một thời điểm nào đó trong tương lai, một AI tiên tiến giám sát vài chức năng quan trọng có thể được khuyến khích đưa ra những chiến lược gian lận, hòng nhận được phần thưởng bất chấp cả việc gây hại cho nhân loại.
AI ngày càng thông minh, và cũng đầy tham vọng
Một bình luận về bài báo nói rằng: "Trong những điều kiện đã xác định, kết luận của chúng tôi mạnh mẽ hơn nhiều so với bất kỳ công bố nào trước đây - một thảm họa hiện hữu không chỉ có thể xảy ra mà còn có khả năng xảy ra."
Các phân tích cho rằng trong một thế giới với nguồn tài nguyên vô hạn, không ai chắc chắn điều gì sẽ xảy ra. Còn trong một thế giới có nguồn tài nguyên hữu hạn, không thể tránh khỏi sự cạnh tranh cho những nguồn tài nguyên này. Nếu bạn đang tham gia cuộc thi với một đối thủ có khả năng đánh bại ở mọi lượt, thì bạn không nên mong đợi một chiến thắng.
AI trong tương lai có thể sử dụng bất kỳ hình thức nào cũng như thực hiện các thiết kế khác nhau. Nghiên cứu mới chỉ ra, các tình huống minh họa trong đó một chương trình tiên tiến có thể can thiệp để nhận phần thưởng bất chấp thực hiện được mục tiêu đặt ra hay không. Chẳng hạn, AI có thể muốn "loại bỏ các mối đe dọa tiềm ẩn" và "sử dụng tất cả năng lượng sẵn có" để đảm bảo quyền kiểm soát đối với phần thưởng nhắm đến.
Các nhà phân tích cũng hình dung cuộc sống trên Trái Đất biến thành một trò chơi, trong đó cỗ máy siêu tiên tiến sẽ cố gắng khai thác tất cả các nguồn lực sẵn có để đảm bảo phần thưởng của nó, cũng như chống lại nỗ lực từ con người. Nếu như con người thua trong trò chơi này, hậu quả sẽ rất nguy hiểm. Những khả năng này trên lý thuyết cũng cho thấy con người nên tiến bộ một cách từ từ, nếu muốn hướng tới mục tiêu AI mạnh mẽ hơn.
Mối đe dọa của AI siêu tiên tiến đang là nỗi lo hữu hình trong xã hội. Nỗi sợ rằng một ngày nào đó một bộ óc nhân tạo sẽ tiêu diệt loài người nghe giống như nỗi sợ rằng các dạng sống ngoài hành tinh sẽ tiêu diệt loài người. Nó cũng như lo ngại về một cuộc xung đột lớn giữa các nền văn minh ngoại lai.
Đặc biệt, với trí tuệ nhân tạo, có nhiều giả định phải được đưa ra để có thể tránh được những hậu quả đáng tiếc.
Con người lo ngại về một thảm họa do trí tuệ nhân tạo gây ra
Sự phân biệt đối xử sẽ không biến mất trong các thuật toán, mà thay vào đó là cấu trúc, giới hạn và thông báo cách cuộc sống diễn ra. Chính sách, nhà ở, chăm sóc sức khỏe, giao thông, tất cả đều đã được thiết kế với sự phân biệt chủng tộc - điều gì sẽ xảy ra nếu chúng ta cho phép các thuật toán mở rộng sâu hơn logic của chúng.
Rõ ràng còn rất nhiều điều phải làm để giảm thiểu hoặc loại bỏ những tác hại mà các thuật toán thông thường đang gây ra cho nhân loại ngay bây giờ. Nó cũng yêu cầu chúng ta suy nghĩ kỹ về cách các hệ thống này được thiết kế và những tác động tiêu cực mà chúng gây ra.
Các nhà nghiên cứu kết luận "Chúng ta nên nghi ngờ nhiều hơn về các tác nhân nhân tạo mà chúng ta triển khai ngày nay, thay vì mong đợi mù quáng rằng chúng sẽ làm những gì mình kỳ vọng trước." Ai mà biết được, bọn AI khi đã có nhận thức riêng liệu có thể làm những gì gây hại cho con người?
>>>Trung Quốc chế tạo robot 4 tay tích hợp AI để giúp bác sĩ phẫu thuật
Nguồn Vice
Nhưng có một câu hỏi lâu nay trong lĩnh vực này - liệu một AI siêu thông minh có thể gây ra những thảm họa tồn vong cho nhân loại hay không? Chúng ta đã có cả tấn các bộ phim Hollywood khai thác câu hỏi đó, nhưng vẫn không ai biết từ phim liệu có thành sự thật.
Các nhà nghiên cứu từ Đại học Oxford hợp tác với Google DeepMind trong một phân tích mới đây, đã kết luận rằng điều đó hoàn toàn "có khả năng".
Con người đang lo ngại về những AI thông minh nhưng "đầy tham vọng"
Các mô hình AI thành công nhất hiện nay được gọi là GAN hoặc Mạng đối thủ chung. Chúng có cấu trúc gồm hai phần, một phần cố gắng tạo ra một bức tranh (hoặc câu) từ dữ liệu đầu vào và phần thứ hai là phân loại hiệu suất của nó.Vào một thời điểm nào đó trong tương lai, một AI tiên tiến giám sát vài chức năng quan trọng có thể được khuyến khích đưa ra những chiến lược gian lận, hòng nhận được phần thưởng bất chấp cả việc gây hại cho nhân loại.
Một bình luận về bài báo nói rằng: "Trong những điều kiện đã xác định, kết luận của chúng tôi mạnh mẽ hơn nhiều so với bất kỳ công bố nào trước đây - một thảm họa hiện hữu không chỉ có thể xảy ra mà còn có khả năng xảy ra."
Các phân tích cho rằng trong một thế giới với nguồn tài nguyên vô hạn, không ai chắc chắn điều gì sẽ xảy ra. Còn trong một thế giới có nguồn tài nguyên hữu hạn, không thể tránh khỏi sự cạnh tranh cho những nguồn tài nguyên này. Nếu bạn đang tham gia cuộc thi với một đối thủ có khả năng đánh bại ở mọi lượt, thì bạn không nên mong đợi một chiến thắng.
AI trong tương lai có thể sử dụng bất kỳ hình thức nào cũng như thực hiện các thiết kế khác nhau. Nghiên cứu mới chỉ ra, các tình huống minh họa trong đó một chương trình tiên tiến có thể can thiệp để nhận phần thưởng bất chấp thực hiện được mục tiêu đặt ra hay không. Chẳng hạn, AI có thể muốn "loại bỏ các mối đe dọa tiềm ẩn" và "sử dụng tất cả năng lượng sẵn có" để đảm bảo quyền kiểm soát đối với phần thưởng nhắm đến.
Các nhà phân tích cũng hình dung cuộc sống trên Trái Đất biến thành một trò chơi, trong đó cỗ máy siêu tiên tiến sẽ cố gắng khai thác tất cả các nguồn lực sẵn có để đảm bảo phần thưởng của nó, cũng như chống lại nỗ lực từ con người. Nếu như con người thua trong trò chơi này, hậu quả sẽ rất nguy hiểm. Những khả năng này trên lý thuyết cũng cho thấy con người nên tiến bộ một cách từ từ, nếu muốn hướng tới mục tiêu AI mạnh mẽ hơn.
Mối đe dọa của AI siêu tiên tiến đang là nỗi lo hữu hình trong xã hội. Nỗi sợ rằng một ngày nào đó một bộ óc nhân tạo sẽ tiêu diệt loài người nghe giống như nỗi sợ rằng các dạng sống ngoài hành tinh sẽ tiêu diệt loài người. Nó cũng như lo ngại về một cuộc xung đột lớn giữa các nền văn minh ngoại lai.
Đặc biệt, với trí tuệ nhân tạo, có nhiều giả định phải được đưa ra để có thể tránh được những hậu quả đáng tiếc.
Con người cần xem lại các thuật toán đào tạo AI
Bài báo chỉ ra rằng ngay tại thời điểm này, con người cần xem xét các hệ thống thuật toán mà chúng ta gọi là “trí tuệ nhân tạo” đang phá hủy cuộc sống của con người, chúng có tác động quá lớn và bất lợi.Sự phân biệt đối xử sẽ không biến mất trong các thuật toán, mà thay vào đó là cấu trúc, giới hạn và thông báo cách cuộc sống diễn ra. Chính sách, nhà ở, chăm sóc sức khỏe, giao thông, tất cả đều đã được thiết kế với sự phân biệt chủng tộc - điều gì sẽ xảy ra nếu chúng ta cho phép các thuật toán mở rộng sâu hơn logic của chúng.
Rõ ràng còn rất nhiều điều phải làm để giảm thiểu hoặc loại bỏ những tác hại mà các thuật toán thông thường đang gây ra cho nhân loại ngay bây giờ. Nó cũng yêu cầu chúng ta suy nghĩ kỹ về cách các hệ thống này được thiết kế và những tác động tiêu cực mà chúng gây ra.
Các nhà nghiên cứu kết luận "Chúng ta nên nghi ngờ nhiều hơn về các tác nhân nhân tạo mà chúng ta triển khai ngày nay, thay vì mong đợi mù quáng rằng chúng sẽ làm những gì mình kỳ vọng trước." Ai mà biết được, bọn AI khi đã có nhận thức riêng liệu có thể làm những gì gây hại cho con người?
>>>Trung Quốc chế tạo robot 4 tay tích hợp AI để giúp bác sĩ phẫu thuật
Nguồn Vice
