A-Train The Seven
...'cause for once, I didn't hate myself.
Nỗi lo sợ về sự thống trị của trí tuệ nhân tạo (AI) không phải là một ý tưởng mới. Từ năm 1863, một người chăn cừu người Anh sống tại New Zealand đã cảnh báo về nguy cơ này, thậm chí trước cả khi máy tính hiện đại ra đời.
Ngày 13/6/1863, một lá thư được đăng trên tờ The Press ở Christchurch đã cảnh báo về những nguy hiểm tiềm tàng của sự tiến hóa cơ học và kêu gọi phá hủy máy móc. Tác giả của lá thư, Samuel Butler, đã sử dụng bút danh Cellarius. Lá thư này so sánh sự phát triển nhanh chóng của máy móc với thuyết tiến hóa của Darwin, cho rằng máy móc có thể phát triển ý thức và cuối cùng thay thế con người trở thành loài thống trị Trái Đất.
Ông viết: "Chính chúng ta đang tạo ra những kẻ kế vị. Chúng ta đang ngày càng làm cho tổ chức vật chất của chúng trở nên tinh vi; chúng ta đang ngày càng trao cho chúng sức mạnh lớn hơn… Theo thời gian, chúng ta sẽ thấy mình là giống loài thấp kém hơn".
Butler cũng dự đoán về mối quan hệ giữa con người và máy móc, ban đầu con người sẽ là người chăm sóc, bảo trì và giúp máy móc tái tạo, giống như mối quan hệ giữa con người và động vật nuôi. Tuy nhiên, sau đó máy móc sẽ đảo ngược tình thế và chiếm quyền kiểm soát.
Lá thư của Butler đã dự đoán nhiều mối lo ngại về an toàn AI hiện đại, bao gồm khả năng máy móc có ý thức, tự nhân bản và con người mất kiểm soát đối với các sáng tạo công nghệ của mình. Những chủ đề này sau đó đã xuất hiện trong các tác phẩm như The Evitable Conflict của Isaac Asimov, tiểu thuyết Dune của Frank Herbert và loạt phim Ma Trận.
Butler đã mở rộng những ý tưởng này trong tiểu thuyết Erewhon năm 1872, mô tả một xã hội đã cấm hầu hết các phát minh cơ khí. Mối quan tâm của Butler về sự tiến hóa của máy móc đã nhận được nhiều phản ứng trái chiều. Một số người cho rằng ông đang châm biếm thuyết tiến hóa của Darwin, nhưng Butler đã phủ nhận điều này.
Điều đáng chú ý là Butler đã viết lá thư này trong bối cảnh công nghệ còn sơ khai. Vào năm 1863, thiết bị tính toán tiên tiến nhất chỉ là máy tính cơ học và thước loga. Butler đã suy luận từ những cỗ máy đơn giản của cuộc Cách mạng Công nghiệp, khi tự động hóa cơ khí đang thay đổi ngành sản xuất, nhưng chưa có gì giống với máy tính hiện đại. Máy tính điều khiển bằng chương trình đầu tiên phải đến 70 năm sau mới xuất hiện, khiến những dự đoán của ông về trí tuệ máy móc trở nên đáng kinh ngạc.
Cuộc tranh luận mà Butler khởi xướng vẫn tiếp tục cho đến ngày nay. Năm 2023, sự ra mắt của GPT-4 của OpenAI đã làm dấy lên lo ngại về nguy cơ tuyệt chủng do AI gây ra. Nhiều lá thư ngỏ được ký bởi các nhà nghiên cứu AI và giám đốc điều hành công nghệ đã cảnh báo về những rủi ro này, kêu gọi tạm dừng phát triển AI trên toàn cầu.
Butler đã kết thúc lá thư của mình bằng lời kêu gọi hành động mạnh mẽ: "Hãy tuyên chiến với chúng. Mọi máy móc thuộc mọi loại nên bị phá hủy… Đừng có ngoại lệ, đừng có khoan nhượng; chúng ta hãy trở lại trạng thái nguyên thủy của loài người".
Tuy nhiên, ngay cả khi đó, ông cũng lo sợ rằng đã quá muộn, vì sự phụ thuộc ngày càng tăng của chúng ta vào máy móc. Mặc dù máy móc có thể không bao giờ thực sự trở nên thông minh, nhưng Butler đã dự đoán chính xác về sự phụ thuộc của chúng ta vào cách chúng điều chỉnh cuộc sống của chúng ta bằng thuật toán.
Ngày 13/6/1863, một lá thư được đăng trên tờ The Press ở Christchurch đã cảnh báo về những nguy hiểm tiềm tàng của sự tiến hóa cơ học và kêu gọi phá hủy máy móc. Tác giả của lá thư, Samuel Butler, đã sử dụng bút danh Cellarius. Lá thư này so sánh sự phát triển nhanh chóng của máy móc với thuyết tiến hóa của Darwin, cho rằng máy móc có thể phát triển ý thức và cuối cùng thay thế con người trở thành loài thống trị Trái Đất.
Ông viết: "Chính chúng ta đang tạo ra những kẻ kế vị. Chúng ta đang ngày càng làm cho tổ chức vật chất của chúng trở nên tinh vi; chúng ta đang ngày càng trao cho chúng sức mạnh lớn hơn… Theo thời gian, chúng ta sẽ thấy mình là giống loài thấp kém hơn".
Butler cũng dự đoán về mối quan hệ giữa con người và máy móc, ban đầu con người sẽ là người chăm sóc, bảo trì và giúp máy móc tái tạo, giống như mối quan hệ giữa con người và động vật nuôi. Tuy nhiên, sau đó máy móc sẽ đảo ngược tình thế và chiếm quyền kiểm soát.
Lá thư của Butler đã dự đoán nhiều mối lo ngại về an toàn AI hiện đại, bao gồm khả năng máy móc có ý thức, tự nhân bản và con người mất kiểm soát đối với các sáng tạo công nghệ của mình. Những chủ đề này sau đó đã xuất hiện trong các tác phẩm như The Evitable Conflict của Isaac Asimov, tiểu thuyết Dune của Frank Herbert và loạt phim Ma Trận.
Butler đã mở rộng những ý tưởng này trong tiểu thuyết Erewhon năm 1872, mô tả một xã hội đã cấm hầu hết các phát minh cơ khí. Mối quan tâm của Butler về sự tiến hóa của máy móc đã nhận được nhiều phản ứng trái chiều. Một số người cho rằng ông đang châm biếm thuyết tiến hóa của Darwin, nhưng Butler đã phủ nhận điều này.
Điều đáng chú ý là Butler đã viết lá thư này trong bối cảnh công nghệ còn sơ khai. Vào năm 1863, thiết bị tính toán tiên tiến nhất chỉ là máy tính cơ học và thước loga. Butler đã suy luận từ những cỗ máy đơn giản của cuộc Cách mạng Công nghiệp, khi tự động hóa cơ khí đang thay đổi ngành sản xuất, nhưng chưa có gì giống với máy tính hiện đại. Máy tính điều khiển bằng chương trình đầu tiên phải đến 70 năm sau mới xuất hiện, khiến những dự đoán của ông về trí tuệ máy móc trở nên đáng kinh ngạc.
Cuộc tranh luận mà Butler khởi xướng vẫn tiếp tục cho đến ngày nay. Năm 2023, sự ra mắt của GPT-4 của OpenAI đã làm dấy lên lo ngại về nguy cơ tuyệt chủng do AI gây ra. Nhiều lá thư ngỏ được ký bởi các nhà nghiên cứu AI và giám đốc điều hành công nghệ đã cảnh báo về những rủi ro này, kêu gọi tạm dừng phát triển AI trên toàn cầu.
Butler đã kết thúc lá thư của mình bằng lời kêu gọi hành động mạnh mẽ: "Hãy tuyên chiến với chúng. Mọi máy móc thuộc mọi loại nên bị phá hủy… Đừng có ngoại lệ, đừng có khoan nhượng; chúng ta hãy trở lại trạng thái nguyên thủy của loài người".
Tuy nhiên, ngay cả khi đó, ông cũng lo sợ rằng đã quá muộn, vì sự phụ thuộc ngày càng tăng của chúng ta vào máy móc. Mặc dù máy móc có thể không bao giờ thực sự trở nên thông minh, nhưng Butler đã dự đoán chính xác về sự phụ thuộc của chúng ta vào cách chúng điều chỉnh cuộc sống của chúng ta bằng thuật toán.
