Con người có thể dạy đạo đức cho robot không?

Con người không quen với ý tưởng máy móc đưa ra những quyết định mang tính đạo đức. Nhưng ngày mà robot có thể làm vậy, mà không cần con người giúp đỡ, đang tiến đến rất nhanh. Vậy, làm thế nào để chúng ta dạy được robot biết cách làm điều đúng đắn?

> Con người sẽ đối mặt với việc bị máy móc đánh bại như thế nào?

Bài viết là lời của David Edmonds, tiến sĩ triết học tại Đại học Oxford và là thành viên của BBC World Service được VnReview tổng hợp và biên dịch.

Chiếc xe ô tô đến trước cửa nhà bạn đúng 8 giờ sáng để đưa bạn đi làm. Bạn leo lên ghế sau, cập nhật tin tức từ các phương tiện truyền thông. Mọi thứ diễn ra vẫn như mọi khi, trơn tru, chính xác đến từng chi tiết. Nhưng hôm nay có một điều bất thường xảy đến: hai đứa trẻ, trong lúc đùa nghịch bên đường, đã ngã lăn ra phía trước xe của bạn. Chắc chắn bạn sẽ không phanh kịp. Nhưng nếu xe lách sang trái, nó sẽ đâm vào một người đi xe máy đang đi tới.

Bạn phải lựa chọn giữa hai kết quả này, và không cái nào là tốt cả. Câu hỏi được đặt ra là, hậu quả nào ít tồi tệ hơn?

Lúc này là năm 2027, và ô tô sẽ không còn tài xế nữa.

Tiến sĩ Amy Rimmer tin rằng xe tự lái sẽ làm giảm tai nạn giao thông và khí thải ra môi trường

Tôi ngồi ở ghế hành khách, còn tiến sĩ Amy Rimmer ngồi sau tay lái.

Amy ấn một nút trên màn hình, và chiếc xe tự động đưa chúng tôi ra đường, dừng lại ở đèn tín hiệu, trước khi xi-nhan, rẽ trái, đi hết một vòng xuyến rồi từ từ đỗ vào chỗ để xe.

Chuyến đi kéo dài khoảng 5 phút. Amy, 29 tuổi, sở hữu bằng tiến sĩ của Đại học Cambridge, là kỹ sư trưởng của xe tự lái Jaguar Land Rover. Cô chịu trách nhiệm về những gì mà các cảm biến của xe nhìn thấy, và cách mà chúng phản hồi với thông tin.

Cô nói, chiếc xe này, hoặc một thứ gì đó tương tự, sẽ có mặt trên các nẻo đường trong vòng một thập kỷ tới.

Vẫn còn nhiều vấn đề kỹ thuật cần phải khắc phục. Nhưng một trở ngại rất lớn cho xe không người lái – thứ có thể làm gián đoạn sự xuất hiện của nó – không chỉ cơ khí, điện tử mà còn cả đạo đức.

Tình thế tiến thoái lưỡng nan với những đứa trẻ ở phía trước ô tô là một biến thể của "vấn đề xe đẩy" (trolley problem) nổi tiếng trong triết học. Một đoàn tàu hỏa (hoặc tàu điện, hoặc xe đẩy) đang lao xuống đường ray. Nó đã nằm ngoài tầm kiểm soát. Phanh đã hỏng. Nhưng thảm họa đang nằm ở phía trước – 5 người bị trói vào đường ray. Nếu bạn không làm gì, họ sẽ đều phải chết. Nhưng bạn có thể chuyển hướng con tàu sang đường ray phụ - và cứu được 5 người đó. Tin buồn là trên đường ray phụ cũng có một người đàn ông, và nếu bạn chuyển hướng thì ông ấy sẽ chết. Bạn sẽ làm gì?

Câu hỏi này đã được đưa ra vô số lần trên toàn thế giới. Đa số đều tin rằng bạn nên chuyển hướng đoàn tàu.

Nhưng giờ chúng ta hãy chọn một biến thể khác của vấn đề này. Lần này bạn sẽ đứng trên một cây cầu ở đường đi phía trên của đường ray, cạnh một người đàn ông với chiếc ba lô rất to. Cách duy nhất để cứu 5 người là đẩy người đàn ông với chiếc ba lô ấy đến cái chết: cái ba lô sẽ chặn đường đoàn tàu. Một lần nữa, đây là sự lựa chọn giữa 1 mạng người với 5 mạng người, nhưng lần này, hầu hết mọi người đều tin rằng người đàn ông với cái ba lô không nên bị giết.

Câu đố này đã xuất hiện hàng thập kỷ, và chúng vẫn chia rẽ các triết gia. Những người theo chủ nghĩa vị lợi (Ultilitarian), những người tin rằng chúng ta nên tối đa hóa niềm hạnh phúc có thể mang lại, và cho rằng trực giác của chúng ta về người đàn ông đeo ba lô là sai lầm. Ông ấy cần hi sinh, để 5 người kia được sống.

Những tình huống tương tự như "trolley problem" thường rất phi thực tế. Tuy nhiên, trong tương lai, có thể xe tự lái sẽ phải đưa ra lựa chọn – chọn hướng nào, hi sinh ai, đánh cược vào ai? Những câu hỏi này còn dẫn đến nhiều câu hỏi hơn nữa. Chúng ta nên lập trình kiểu đạo đức nào vào xe? Chúng ta nên đánh giá sinh mạng của tài xế như thế nào khi so với hành khách hay những người đi đường? Bạn có sẵn sàng mua một chiếc xe đã được thiết lập để hi sinh tài xế để cứu sống người đi bộ hay không? Nếu có, bạn không phải là người bình thường.

Sau đó lại có vấn đề nảy sinh là ai sẽ là người đưa ra những quyết định mang tính đạo đức ấy? Liệu chính phủ có là người quyết định cách chọn lựa của xe? Hay nhà sản xuất? Hay là bạn, người tiêu dùng? Không lẽ bạn sẽ đi vào một showroom xe và chọn kiểu đạo đức của xe giống như chọn màu? "Tôi sẽ chọn chiếc xe Porsche "giết-một-cứu-năm" màu xanh nhé..."

Ron Arkin đã đặc biệt quan tâm đến những câu hỏi như vậy khi ông tham dự một cuộc hội thảo về đạo đức robot vào năm 2004. Ông là một đại biểu trong phiên thảo luận về viên đạn tốt nhất dùng để giết người – to nhưng chậm, hay nhỏ và nhanh? Arkin cảm thấy ông phải lựa chọn "có nên tiến lên và nhận trách nhiệm về những công nghệ mà mình tạo ra hay không". Từ đó, ông đã cống hiến cả sự nghiệp của mình để nghiên cứu về đạo đức của vũ khí tự trị.

Đã có những lời kêu gọi cấm vũ khí tự trị, nhưng Arkin lại có quan điểm đối lập: nếu như chúng ta có thể tạo ra vũ khí khiến số dân thường bị thiệt mạng là thấp nhất có thể, chúng ta buộc phải làm vậy. "Tôi không ủng hộ chiến tranh. Nhưng nếu chúng ta tiếp tục giết chóc lẫn nhau – vì lí do gì mà Chúa mới biết – tôi tin rằng những người vô tội bị kẹt ở giữa cuộc chiến cần được bảo vệ tốt hơn".

Giống như xe tự lái, vũ khí tự trị không còn là khoa học viễn tưởng. Đã tồn tại những loại vũ khí có thể vận hành mà không cần đến sự kiểm soát hoàn toàn của con người.Ví dụ, tên lửa có thể thay đổi quỹ đạo nếu như chúng bị đối phương phản công. Cách tiếp cận của ông Arkin đôi khi được gọi là "từ trên xuống dưới". Nghĩa là, ông nghĩ rằng chúng ta có thể lập trình robot bằng một thứ gì đó tương tự như Hiệp định Geneva – như nghiêm cấm việc cố ý giết chết thường dân. Tuy nhiên, đây không phải là công việc đơn giản: robot sẽ phải phân biệt được lính địch đang cầm dao để giết người, và bác sĩ đang cầm dao để cứu người bị thương.

Một cách khác để tiếp cận những vấn đề này còn được biết đến với cái tên "học máy" (machine learning).

Susan Anderson là một triết gia, Michael Anderson là một nhà khoa học máy tính. Cũng như việc kết hôn, họ là những cộng tác viên chuyên nghiệp. Họ tin rằng, cách tốt nhất để dạy đạo đức cho robot, đầu tiên chúng ta phải lập trình theo những nguyên tắc nhất định ("tránh đau khổ", "thúc đẩy hạnh phúc"), và sau đó dạy chúng cách áp dụng các nguyên tắc này vào các tình huống cụ thể

Một robot được phát triển bởi Aldebaran Robotics tương tác với người dân trong viện dưỡng lão

Hãy nhìn sang các robot chăm sóc – những robot được thiết kế để trợ giúp người bệnh và người cao tuổi, bằng cách đưa thức ăn hay sách, hoặc bật đèn và TV. Ngành công nghiệp robot chăm sóc dự kiến sẽ phát triển rất nhanh trong thập kỷ tới. Giống như vũ khí tự trị và xe tự lái, robot chăm sóc cũng sẽ phải đưa ra các lựa chọn của riêng mình. Giả sử, một bệnh nhân từ chối dùng thuốc của mình. Quyền tự chủ của họ được đặt lên hàng đầu, robot không được phép can thiệp. Nhưng sẽ ra sao nếu như bệnh nhân ấy không còn đủ tỉnh táo hay đủ sức khỏe để đưa ra mệnh lệnh? Robot có nên (hay được phép) xâm phạm quyền tự chủ ấy hay không?

Sau khi xử lý một loạt các tình huống khó xử bằng cách áp dụng các nguyên tắc ban đầu của mình, nhà Anderson tin rằng robot sẽ nắm rõ được điều mà nó phải thực hiện. Thậm chí con người cũng có thể học hỏi từ điều này. Cả hai vợ chồng đều không cảm thấy phiền muộn trước viễn cảnh được chăm sóc bởi robot. Michael nói: "Thà được robot thay tã còn hơn là để người khác thay".

Tuy nhiên, machine learning cũng có những vấn đề của riêng mình. Một là máy móc có thể học sai bài học. Ví dụ, những chiếc máy học ngôn ngữ bằng cách bắt chước con người đều có những thành kiến sai lệch. Tên nam và tên nứ có các mối liên hệ khác nhau. Máy móc có thể tin rằng một người tên John hay Fred sẽ phù hợp để trở thành một nhà khoa học hơn là Joanna hay Fiona. Chúng ta sẽ cần phải cảnh giác trước những thành kiến này và chiến đấu với chúng.

Một thách thức lớn nữa là nếu máy móc tiến hóa thông qua một quá trình học hỏi, chúng ta có thể sẽ không tiên đoán được nó sẽ hành xử ra sao trong tương lai; thậm chí không hiểu được vì sao nó lại đi đến những quyết định đó. Đây là một khả năng rất đáng lo ngại, đặc biệt là nếu robot đưa ra những quyết định mang tính tiên quyết trong cuộc sống của chúng ta. Một giải pháp tạm thời là khi có chuyện không hay xảy ra, chúng ta sẽ có cách kiểm tra lại mã nguồn – xem chuyện gì đã xảy ra. Vì sẽ thật ngớ ngẩn nếu như bắt giữ một robot chịu trách nhiệm về hành động nó đưa ra (trừng phạt một robot sẽ chẳng giải quyết được vấn đề gì), một phán quyết xa hơn sẽ cần phải được đưa ra về những người chịu trách nhiệm pháp lý với những hành động xấu của robot đó.

Một lợi thế lớn của robot là chúng hành xử một cách nhất quán. Chúng sẽ luôn hoạt động theo cùng một cách trong những tình huống tương tự. Xe tự lái sẽ không bao giờ say xỉn, mệt mỏi, hay quát tháo những đứa trẻ ngồi ghế sau. Trên khắp thế giới, có hơn 1 triệu người chết bởi tai nạn xe hơi mỗi năm – chủ yếu là lỗi của con người. Giảm được những con số ấy đã là một phần thưởng rất lớn rồi.

Amy Rimmer rất hào hứng về triển vọng của xe tự lái. Không chỉ có những mạng người được cứu sống. Chiếc xe sẽ làm giảm tắc nghẽn giao thông và khí thải, đồng thời trở thành "một trong số ít những thứ bạn có thể mua để đem lại thời gian". Nó sẽ làm gì trong câu đố xe đẩy? Đâm vào hai đứa trẻ, hay lao vào người đi xe máy ở trước mặt? Jaguar Land Rover chưa cân nhắc những câu hỏi như vậy, nhưng Amy cho rằng điều đó không quan trọng: "Tôi không cần phải trả lời câu hỏi đó để qua bài thi bằng lái xe, và tôi được phép lái xe. Vậy tại sao chúng ta lại ra lệnh cho xe phải có câu trả lời cho những tình huống phi thực tế này trước khi nhận được những lợi ích từ chúng?"

Đó là một câu hỏi rất tuyệt vời. Nếu nói chung, xe tự lái có thể cứu được mạng người, tại sao không cho phép chúng ra đường trước khi chúng ta giải được bài toán chỉ xảy ra trong những trường hợp vô cùng hiếm? Tuy nhiên, chúng ta cũng nên hi vọng rằng máy móc của mình sẽ có thể được lập trình về mặt đạo đức – bởi vì, dù bạn muốn hay không, sẽ có ngày càng nhiều các quyết định trong tương lai vốn được đưa ra bởi con người sẽ được giao cho robot.

Cũng có những lí do khiến chúng ta phải lo ngại. Chúng ta có thể không hoàn toàn hiểu được vì sao một robot lại đưa ra một quyết định nhất định. Và chúng ta cũng cần đảm bảo rằng robot không tiếp thu và áp dụng những thành kiến của con người. Tuy nhiên, chúng cũng có những triển vọng. Robot sẽ có thể trở nên tốt hơn con người ở một số các quyết định đạo đức. Từ đó, robot sẽ biến chúng ta trở thành những con người tốt đẹp hơn.

Văn Hoàn