Thoại Viết Hoàng
Writer
Chúng ta đang sống trong những thời kỳ kỳ lạ, khi công nghệ mà chúng ta phụ thuộc nhiều nhất cũng là thứ mà chúng ta sợ hãi nhất. Chúng ta ăn mừng những thành tựu tiên tiến ngay cả khi chúng ta chùn bước trong nỗi sợ hãi về cách chúng có thể được sử dụng để làm tổn thương chúng ta. Từ kỹ thuật di truyền và AI đến công nghệ hạt nhân và nanobot, danh sách các công nghệ phát triển nhanh và đầy cảm hứng còn rất dài.
Tuy nhiên, nỗi sợ máy này không phải là mới như nó có vẻ. Công nghệ có một liên minh lâu dài với quyền lực và nhà nước. Mặt tối của lịch sử loài người có thể được kể như một loạt các cuộc chiến mà kẻ chiến thắng thường là những kẻ có công nghệ tiên tiến nhất. (Tất nhiên là có những trường hợp ngoại lệ.) Khoa học và những đứa con công nghệ của nó chạy theo đồng tiền.
Nỗi sợ hãi này của cỗ máy dường như đã đặt nhầm chỗ. Máy không có mục đích: chỉ có nhà sản xuất của nó làm. Về bản chất, nỗi sợ hãi của máy móc là nỗi sợ hãi của chúng ta đối với nhau - về những gì chúng ta có thể làm với nhau.
Chắc chắn, bạn sẽ trả lời, nhưng AI thay đổi mọi thứ. Với trí tuệ nhân tạo, bản thân cỗ máy sẽ phát triển một số loại quyền tự chủ, tuy nhiên không được xác định rõ ràng. Nó sẽ có ý chí của riêng nó. Và điều này sẽ, nếu nó phản ánh bất cứ điều gì có vẻ như con người, sẽ không nhân từ. Với AI, người ta khẳng định, cỗ máy bằng cách nào đó sẽ biết nó phải làm gì để loại bỏ chúng ta. Nó sẽ đe dọa chúng ta như một loài.
Chà, nỗi sợ hãi này cũng không phải là mới. Mary Shelley đã viết Frankenstein vào năm 1818 để cảnh báo chúng ta về những gì khoa học có thể làm nếu nó phục vụ sai mục đích. Trong trường hợp cuốn tiểu thuyết của cô ấy, lời kêu gọi của Tiến sĩ Frankenstein là chiến thắng trong trận chiến chống lại cái chết - đảo ngược tiến trình tự nhiên. Đành rằng, bất kỳ phương pháp chữa bệnh nào cũng cản trở hoạt động bình thường của tự nhiên, nhưng chúng ta có quyền tự hào vì đã phát triển được các phương pháp chữa bệnh, kéo dài tuổi thọ và nâng cao chất lượng cuộc sống. Khoa học không thể đạt được điều gì cao quý hơn. Điều làm mọi thứ rối tung lên là khi việc theo đuổi điều tốt bị nhầm lẫn với quyền lực. Trong quy mô méo mó này, càng mạnh càng tốt. Mục tiêu cuối cùng là trở nên mạnh mẽ như các vị thần — chủ nhân của thời gian, sự sống và cái chết.
Quay lại với AI, chắc chắn công nghệ này sẽ giúp chúng ta rất nhiều. Chúng tôi sẽ có chẩn đoán y tế tốt hơn, kiểm soát giao thông tốt hơn, thiết kế cầu tốt hơn và hoạt hình sư phạm tốt hơn để dạy trong lớp học và ảo. Nhưng chúng ta cũng sẽ kiếm được nhiều tiền hơn trên thị trường chứng khoán, chiến lược chiến tranh tốt hơn, binh lính tốt hơn và cách giết người từ xa . Điều này trao quyền lực thực sự cho những người kiểm soát các công nghệ tốt nhất. Nó làm tăng lợi thế của những người chiến thắng trong các cuộc chiến — những người chiến đấu bằng vũ khí và những người chiến đấu bằng tiền.
Câu hỏi thứ hai là kiểm soát toàn cầu. Như tôi đã viết trước đây , việc giám sát công nghệ mới rất phức tạp. Các quốc gia có nên thành lập một Tổ chức Tư duy Thế giới kiểm soát các công nghệ phát triển AI không? Nếu vậy, làm thế nào để chúng ta tổ chức hội đồng quản trị toàn hành tinh này? Ai nên là một phần của cấu trúc quản lý của nó? Cơ chế nào sẽ đảm bảo rằng các chính phủ và công ty tư nhân không bí mật vi phạm các quy tắc, đặc biệt khi làm như vậy sẽ đặt những vũ khí tiên tiến nhất vào tay những kẻ phá vỡ quy tắc? Rốt cuộc, họ sẽ cần những thứ đó nếu các diễn viên khác cũng phá vỡ các quy tắc.
Như trước đây, các quốc gia có các nhà khoa học và kỹ sư giỏi nhất sẽ có lợi thế lớn. Một tình trạng hòa dịu quốc tế mới sẽ xuất hiện trong các khuôn mẫu của tình trạng hòa dịu hạt nhân của Chiến tranh Lạnh. Một lần nữa, chúng ta sẽ lo sợ công nghệ hủy diệt rơi vào tay kẻ xấu. Điều này có thể xảy ra dễ dàng. Các cỗ máy AI sẽ không cần phải được chế tạo ở quy mô công nghiệp như năng lực hạt nhân, và chủ nghĩa khủng bố dựa trên AI sẽ là một lực lượng phải tính đến.
Vì vậy, chúng ta ở đây, lại sợ công nghệ của chính mình.
Điều gì còn thiếu từ bức tranh này? Nó tiếp tục minh họa mô hình hủy diệt tương tự của lòng tham và quyền lực đã xác định rất nhiều nền văn minh của chúng ta. Thất bại mà nó thể hiện là đạo đức, và chỉ chúng ta mới có thể thay đổi nó. Chúng ta định nghĩa nền văn minh bằng sự tích lũy của cải, và thế giới quan này đang giết chết chúng ta. Dự án về nền văn minh mà chúng ta phát minh ra đã trở nên tự ăn thịt người. Miễn là chúng ta không nhìn thấy điều này và chúng ta tiếp tục đi theo con đường mà chúng ta đã đi trong 10.000 năm qua, sẽ rất khó để lập pháp cho công nghệ sắp tới và đảm bảo luật đó được tuân thủ. Tất nhiên, trừ khi AI giúp chúng ta trở thành những con người tốt hơn, có lẽ bằng cách dạy chúng ta rằng chúng ta đã ngu ngốc như thế nào trong một thời gian dài. Điều này nghe có vẻ xa vời nếu xét đến đối tượng mà AI này sẽ phục vụ. Nhưng người ta luôn có thể hy vọng.
Tuy nhiên, nỗi sợ máy này không phải là mới như nó có vẻ. Công nghệ có một liên minh lâu dài với quyền lực và nhà nước. Mặt tối của lịch sử loài người có thể được kể như một loạt các cuộc chiến mà kẻ chiến thắng thường là những kẻ có công nghệ tiên tiến nhất. (Tất nhiên là có những trường hợp ngoại lệ.) Khoa học và những đứa con công nghệ của nó chạy theo đồng tiền.
Nỗi sợ hãi này của cỗ máy dường như đã đặt nhầm chỗ. Máy không có mục đích: chỉ có nhà sản xuất của nó làm. Về bản chất, nỗi sợ hãi của máy móc là nỗi sợ hãi của chúng ta đối với nhau - về những gì chúng ta có thể làm với nhau.
AI thay đổi mọi thứ như thế nào
Chà, nỗi sợ hãi này cũng không phải là mới. Mary Shelley đã viết Frankenstein vào năm 1818 để cảnh báo chúng ta về những gì khoa học có thể làm nếu nó phục vụ sai mục đích. Trong trường hợp cuốn tiểu thuyết của cô ấy, lời kêu gọi của Tiến sĩ Frankenstein là chiến thắng trong trận chiến chống lại cái chết - đảo ngược tiến trình tự nhiên. Đành rằng, bất kỳ phương pháp chữa bệnh nào cũng cản trở hoạt động bình thường của tự nhiên, nhưng chúng ta có quyền tự hào vì đã phát triển được các phương pháp chữa bệnh, kéo dài tuổi thọ và nâng cao chất lượng cuộc sống. Khoa học không thể đạt được điều gì cao quý hơn. Điều làm mọi thứ rối tung lên là khi việc theo đuổi điều tốt bị nhầm lẫn với quyền lực. Trong quy mô méo mó này, càng mạnh càng tốt. Mục tiêu cuối cùng là trở nên mạnh mẽ như các vị thần — chủ nhân của thời gian, sự sống và cái chết.
Quay lại với AI, chắc chắn công nghệ này sẽ giúp chúng ta rất nhiều. Chúng tôi sẽ có chẩn đoán y tế tốt hơn, kiểm soát giao thông tốt hơn, thiết kế cầu tốt hơn và hoạt hình sư phạm tốt hơn để dạy trong lớp học và ảo. Nhưng chúng ta cũng sẽ kiếm được nhiều tiền hơn trên thị trường chứng khoán, chiến lược chiến tranh tốt hơn, binh lính tốt hơn và cách giết người từ xa . Điều này trao quyền lực thực sự cho những người kiểm soát các công nghệ tốt nhất. Nó làm tăng lợi thế của những người chiến thắng trong các cuộc chiến — những người chiến đấu bằng vũ khí và những người chiến đấu bằng tiền.
Một câu chuyện xưa như nền văn minh
Câu hỏi đặt ra là làm thế nào để tiến về phía trước. Đây là nơi mọi thứ trở nên thú vị và phức tạp. Chúng tôi nghe đi nghe lại rằng có nhu cầu cấp thiết về các biện pháp bảo vệ, kiểm soát và luật pháp để đối phó với cuộc cách mạng AI. Tuyệt vời. Nhưng nếu những cỗ máy này về cơ bản hoạt động trong một hộp nửa đen gồm các mạng lưới thần kinh tự dạy, thì chính xác thì chúng ta sẽ thực hiện các biện pháp bảo vệ đảm bảo duy trì hiệu quả như thế nào? Làm cách nào để chúng ta đảm bảo rằng AI, với khả năng thu thập dữ liệu không giới hạn, sẽ không nghĩ ra những cách mới để vượt qua các biện pháp bảo vệ của chúng ta, giống như cách mà mọi người đột nhập vào két sắt?Câu hỏi thứ hai là kiểm soát toàn cầu. Như tôi đã viết trước đây , việc giám sát công nghệ mới rất phức tạp. Các quốc gia có nên thành lập một Tổ chức Tư duy Thế giới kiểm soát các công nghệ phát triển AI không? Nếu vậy, làm thế nào để chúng ta tổ chức hội đồng quản trị toàn hành tinh này? Ai nên là một phần của cấu trúc quản lý của nó? Cơ chế nào sẽ đảm bảo rằng các chính phủ và công ty tư nhân không bí mật vi phạm các quy tắc, đặc biệt khi làm như vậy sẽ đặt những vũ khí tiên tiến nhất vào tay những kẻ phá vỡ quy tắc? Rốt cuộc, họ sẽ cần những thứ đó nếu các diễn viên khác cũng phá vỡ các quy tắc.
Như trước đây, các quốc gia có các nhà khoa học và kỹ sư giỏi nhất sẽ có lợi thế lớn. Một tình trạng hòa dịu quốc tế mới sẽ xuất hiện trong các khuôn mẫu của tình trạng hòa dịu hạt nhân của Chiến tranh Lạnh. Một lần nữa, chúng ta sẽ lo sợ công nghệ hủy diệt rơi vào tay kẻ xấu. Điều này có thể xảy ra dễ dàng. Các cỗ máy AI sẽ không cần phải được chế tạo ở quy mô công nghiệp như năng lực hạt nhân, và chủ nghĩa khủng bố dựa trên AI sẽ là một lực lượng phải tính đến.
Vì vậy, chúng ta ở đây, lại sợ công nghệ của chính mình.
Điều gì còn thiếu từ bức tranh này? Nó tiếp tục minh họa mô hình hủy diệt tương tự của lòng tham và quyền lực đã xác định rất nhiều nền văn minh của chúng ta. Thất bại mà nó thể hiện là đạo đức, và chỉ chúng ta mới có thể thay đổi nó. Chúng ta định nghĩa nền văn minh bằng sự tích lũy của cải, và thế giới quan này đang giết chết chúng ta. Dự án về nền văn minh mà chúng ta phát minh ra đã trở nên tự ăn thịt người. Miễn là chúng ta không nhìn thấy điều này và chúng ta tiếp tục đi theo con đường mà chúng ta đã đi trong 10.000 năm qua, sẽ rất khó để lập pháp cho công nghệ sắp tới và đảm bảo luật đó được tuân thủ. Tất nhiên, trừ khi AI giúp chúng ta trở thành những con người tốt hơn, có lẽ bằng cách dạy chúng ta rằng chúng ta đã ngu ngốc như thế nào trong một thời gian dài. Điều này nghe có vẻ xa vời nếu xét đến đối tượng mà AI này sẽ phục vụ. Nhưng người ta luôn có thể hy vọng.
