Thoại Viết Hoàng
Writer
Nhà đầu tư mạo hiểm Marc Andreessen nổi tiếng với câu nói “phần mềm đang ăn mòn thế giới”. Khi nói đến trí tuệ nhân tạo, ông tuyên bố mọi người nên ngừng lo lắng và xây dựng, xây dựng, xây dựng.
Vào thứ ba, Andreessen đã xuất bản một bức thư dài gần 7.000 từ về quan điểm của ông về AI, những rủi ro mà nó gây ra và quy định mà ông tin rằng nó yêu cầu. Khi cố gắng chống lại tất cả những cuộc nói chuyện gần đây về “chủ nghĩa diệt vong AI”, anh ấy trình bày những gì có thể được coi là một quan điểm lý tưởng hóa quá mức về các hàm ý.
Marc Andreessen
Ông nói, AI không có tri giác, mặc dù thực tế là khả năng bắt chước ngôn ngữ con người của nó có thể đánh lừa một số người tin vào điều khác một cách dễ hiểu. Nó được đào tạo về ngôn ngữ của con người và tìm các mẫu cấp cao trong dữ liệu đó.
“AI không muốn, nó không có mục tiêu, nó không muốn giết bạn, bởi vì nó không còn sống”, ông viết. “Và AI là một cỗ máy - sẽ không trở nên sống động hơn bất kỳ thứ gì mà máy nướng bánh mì của bạn muốn”.
Andreessen viết rằng hiện tại có một “bức tường gieo rắc nỗi sợ hãi và chủ nghĩa diệt vong” trong thế giới AI. Không nêu tên, có khả năng anh ta đề cập đến tuyên bố từ các nhà lãnh đạo công nghệ cao cấp rằng công nghệ này gây ra mối đe dọa hiện hữu đối với nhân loại. Tuần trước, Microsoft
người sáng lập Bill Gates, Giám đốc điều hành OpenAI Sam Altman, Giám đốc điều hành DeepMind Demis Hassabis và những người khác đã ký một lá thư từ Trung tâm An toàn AI về “nguy cơ tuyệt chủng của AI”.
Andreessen viết: Các CEO công nghệ có động lực thúc đẩy quan điểm về ngày tận thế như vậy bởi vì họ “có thể kiếm được nhiều tiền hơn nếu các rào cản pháp lý được dựng lên để tạo thành một tập đoàn gồm các nhà cung cấp AI được chính phủ ban phước được bảo vệ khỏi sự cạnh tranh của các công ty khởi nghiệp mới và nguồn mở”.
Nhiều nhà nghiên cứu về AI và các nhà đạo đức học cũng đã chỉ trích câu chuyện về ngày tận thế. Một lập luận cho rằng việc tập trung quá nhiều vào sức mạnh ngày càng tăng của AI và các mối đe dọa trong tương lai của nó sẽ làm xao nhãng những tác hại trong cuộc sống thực mà một số thuật toán gây ra cho các cộng đồng bị thiệt thòi ngay bây giờ, thay vì trong một tương lai không xác định.
Nhưng đó là điểm kết thúc của hầu hết những điểm tương đồng giữa Andreessen và các nhà nghiên cứu. Andreessen viết rằng những người ở các vai trò như chuyên gia an toàn AI, nhà đạo đức AI và nhà nghiên cứu rủi ro AI ”được trả tiền để trở thành những người cam chịu và những tuyên bố của họ phải được xử lý một cách thích hợp”, ông viết. Trên thực tế, nhiều nhà lãnh đạo trong cộng đồng nghiên cứu, đạo đức, niềm tin và an toàn về AI đã lên tiếng phản đối rõ ràng chương trình nghị sự diệt vong và thay vào đó tập trung vào việc giảm thiểu rủi ro được ghi nhận ngày nay của công nghệ.
Thay vì thừa nhận bất kỳ rủi ro thực tế nào được ghi nhận của AI – sự thiên vị của nó có thể ảnh hưởng đến hệ thống nhận dạng khuôn mặt , quyết định tại ngoại , thủ tục tư pháp hình sự, thuật toán phê duyệt thế chấp, v.v. – Andreessen tuyên bố AI có thể là “một cách để làm cho mọi thứ chúng ta quan tâm trở nên tốt hơn”.
Ông lập luận rằng AI có tiềm năng to lớn về năng suất, đột phá khoa học, nghệ thuật sáng tạo và giảm tỷ lệ tử vong trong thời chiến.
Ông viết: “Ngày nay, bất cứ điều gì con người làm với trí thông minh tự nhiên của họ đều có thể được thực hiện tốt hơn nhiều với AI. “Và chúng ta sẽ có thể đương đầu với những thách thức mới không thể giải quyết được nếu không có AI, từ việc chữa khỏi tất cả các loại bệnh cho đến du hành giữa các vì sao”.
Andreessen mô tả những nỗi sợ hãi này là “sự hoảng loạn về đạo đức” phi lý. Anh ấy cũng khuyến khích quay trở lại cách tiếp cận “di chuyển nhanh và phá vỡ mọi thứ” của ngành công nghệ năm ngoái, viết rằng cả các công ty AI lớn và các công ty khởi nghiệp “nên được phép xây dựng AI nhanh và tích cực nhất có thể” và rằng công nghệ “sẽ tăng tốc rất nhanh”. nhanh chóng từ đây – nếu chúng ta để nó”.
Andreessen, người nổi tiếng vào những năm 1990 nhờ phát triển trình duyệt internet phổ biến đầu tiên, đã thành lập công ty liên doanh của mình với Ben Horowitz vào năm 2009. Hai năm sau, ông viết một bài blog thường được trích dẫn có tiêu đề “Tại sao phần mềm đang ăn mòn thế giới”, trong đó nói rằng chăm sóc sức khỏe và giáo dục là do “sự chuyển đổi cơ bản dựa trên phần mềm” giống như rất nhiều ngành công nghiệp trước đó.
Ăn cả thế giới chính là điều mà nhiều người lo sợ khi nói đến AI. Ngoài việc cố gắng giảm bớt những lo ngại đó, Andreessen nói rằng còn nhiều việc phải làm. Anh ấy khuyến khích việc sử dụng chính AI đang gây tranh cãi để bảo vệ mọi người khỏi sự thiên vị và tác hại của AI.
Ông nói: “Các chính phủ hợp tác với khu vực tư nhân nên tham gia mạnh mẽ vào từng lĩnh vực có rủi ro tiềm ẩn để sử dụng AI nhằm tối đa hóa khả năng phòng thủ của xã hội”.
Trong tương lai theo chủ nghĩa lý tưởng của chính Andreessen, “mọi đứa trẻ sẽ có một gia sư AI vô cùng kiên nhẫn, vô cùng nhân ái, vô cùng hiểu biết và vô cùng hữu ích”. Ông bày tỏ tầm nhìn tương tự về vai trò của AI với tư cách là đối tác và cộng tác viên đối với mọi người, nhà khoa học, giáo viên, CEO, lãnh đạo chính phủ và thậm chí cả chỉ huy quân sự.
Ông nói, rủi ro đó là Trung Quốc, quốc gia đang phát triển AI một cách nhanh chóng và với các ứng dụng độc đoán đáng lo ngại. Theo các trường hợp được ghi lại trong nhiều năm, chính phủ Trung Quốc dựa vào AI giám sát, chẳng hạn như sử dụng nhận dạng khuôn mặt và dữ liệu GPS trên điện thoại để theo dõi và xác định người biểu tình.
Để ngăn chặn sự lan rộng của ảnh hưởng AI của Trung Quốc, Andreessen viết, “Chúng ta nên đưa AI vào nền kinh tế và xã hội của chúng ta nhanh và mạnh nhất có thể”.
Sau đó, ông đưa ra một kế hoạch phát triển AI tích cực thay mặt cho các công ty công nghệ lớn và công ty khởi nghiệp, đồng thời sử dụng “toàn bộ sức mạnh của khu vực tư nhân, cơ sở khoa học và chính phủ của chúng tôi”.
Andreessen viết với mức độ chắc chắn về hướng đi của thế giới, nhưng không phải lúc nào ông cũng giỏi dự đoán những gì sắp xảy ra.
Công ty của ông đã ra mắt quỹ tiền điện tử trị giá 2,2 tỷ đô la vào giữa năm 2021, ngay trước khi ngành công nghiệp này bắt đầu sụp đổ. Và một trong những vụ cá cược lớn của nó trong thời kỳ đại dịch là vào Clubhouse, công ty khởi nghiệp về âm thanh xã hội, đã tăng vọt lên mức định giá 4 tỷ đô la trong khi mọi người mắc kẹt ở nhà để tìm kiếm các hình thức giải trí thay thế. Vào tháng Tư, Clubhouse cho biết họ sẽ sa thải một nửa số nhân viên của mình để “thiết lập lại” công ty.
Xuyên suốt bài luận của Andreessen, ông chỉ ra những động cơ thầm kín mà những người khác có khi bày tỏ công khai quan điểm của họ về AI. Nhưng anh ấy có của riêng mình. Anh ấy muốn kiếm tiền từ cuộc cách mạng AI và đang đầu tư vào các công ty khởi nghiệp với mục tiêu đó.
“Tôi không tin họ là kẻ liều lĩnh hay kẻ ác”, ông kết luận trong bài đăng của mình. “Họ đều là những anh hùng. Công ty của tôi và tôi rất vui mừng được hỗ trợ càng nhiều người trong số họ càng tốt, và chúng tôi sẽ sát cánh cùng họ và công việc của họ 100%”.
Vào thứ ba, Andreessen đã xuất bản một bức thư dài gần 7.000 từ về quan điểm của ông về AI, những rủi ro mà nó gây ra và quy định mà ông tin rằng nó yêu cầu. Khi cố gắng chống lại tất cả những cuộc nói chuyện gần đây về “chủ nghĩa diệt vong AI”, anh ấy trình bày những gì có thể được coi là một quan điểm lý tưởng hóa quá mức về các hàm ý.
‘Không muốn giết bạn’
Andreessen bắt đầu với một cách tiếp cận chính xác về AI hoặc học máy, gọi đó là ”ứng dụng toán học và mã phần mềm để dạy máy tính cách hiểu, tổng hợp và tạo kiến thức theo cách tương tự như cách mọi người làm”.Ông nói, AI không có tri giác, mặc dù thực tế là khả năng bắt chước ngôn ngữ con người của nó có thể đánh lừa một số người tin vào điều khác một cách dễ hiểu. Nó được đào tạo về ngôn ngữ của con người và tìm các mẫu cấp cao trong dữ liệu đó.
“AI không muốn, nó không có mục tiêu, nó không muốn giết bạn, bởi vì nó không còn sống”, ông viết. “Và AI là một cỗ máy - sẽ không trở nên sống động hơn bất kỳ thứ gì mà máy nướng bánh mì của bạn muốn”.
Andreessen viết rằng hiện tại có một “bức tường gieo rắc nỗi sợ hãi và chủ nghĩa diệt vong” trong thế giới AI. Không nêu tên, có khả năng anh ta đề cập đến tuyên bố từ các nhà lãnh đạo công nghệ cao cấp rằng công nghệ này gây ra mối đe dọa hiện hữu đối với nhân loại. Tuần trước, Microsoft
người sáng lập Bill Gates, Giám đốc điều hành OpenAI Sam Altman, Giám đốc điều hành DeepMind Demis Hassabis và những người khác đã ký một lá thư từ Trung tâm An toàn AI về “nguy cơ tuyệt chủng của AI”.
Andreessen viết: Các CEO công nghệ có động lực thúc đẩy quan điểm về ngày tận thế như vậy bởi vì họ “có thể kiếm được nhiều tiền hơn nếu các rào cản pháp lý được dựng lên để tạo thành một tập đoàn gồm các nhà cung cấp AI được chính phủ ban phước được bảo vệ khỏi sự cạnh tranh của các công ty khởi nghiệp mới và nguồn mở”.
Nhiều nhà nghiên cứu về AI và các nhà đạo đức học cũng đã chỉ trích câu chuyện về ngày tận thế. Một lập luận cho rằng việc tập trung quá nhiều vào sức mạnh ngày càng tăng của AI và các mối đe dọa trong tương lai của nó sẽ làm xao nhãng những tác hại trong cuộc sống thực mà một số thuật toán gây ra cho các cộng đồng bị thiệt thòi ngay bây giờ, thay vì trong một tương lai không xác định.
Nhưng đó là điểm kết thúc của hầu hết những điểm tương đồng giữa Andreessen và các nhà nghiên cứu. Andreessen viết rằng những người ở các vai trò như chuyên gia an toàn AI, nhà đạo đức AI và nhà nghiên cứu rủi ro AI ”được trả tiền để trở thành những người cam chịu và những tuyên bố của họ phải được xử lý một cách thích hợp”, ông viết. Trên thực tế, nhiều nhà lãnh đạo trong cộng đồng nghiên cứu, đạo đức, niềm tin và an toàn về AI đã lên tiếng phản đối rõ ràng chương trình nghị sự diệt vong và thay vào đó tập trung vào việc giảm thiểu rủi ro được ghi nhận ngày nay của công nghệ.
Thay vì thừa nhận bất kỳ rủi ro thực tế nào được ghi nhận của AI – sự thiên vị của nó có thể ảnh hưởng đến hệ thống nhận dạng khuôn mặt , quyết định tại ngoại , thủ tục tư pháp hình sự, thuật toán phê duyệt thế chấp, v.v. – Andreessen tuyên bố AI có thể là “một cách để làm cho mọi thứ chúng ta quan tâm trở nên tốt hơn”.
Ông lập luận rằng AI có tiềm năng to lớn về năng suất, đột phá khoa học, nghệ thuật sáng tạo và giảm tỷ lệ tử vong trong thời chiến.
Ông viết: “Ngày nay, bất cứ điều gì con người làm với trí thông minh tự nhiên của họ đều có thể được thực hiện tốt hơn nhiều với AI. “Và chúng ta sẽ có thể đương đầu với những thách thức mới không thể giải quyết được nếu không có AI, từ việc chữa khỏi tất cả các loại bệnh cho đến du hành giữa các vì sao”.
Từ chủ nghĩa diệt vong đến chủ nghĩa duy tâm
Mặc dù AI đã đạt được những bước tiến đáng kể trong nhiều lĩnh vực, chẳng hạn như phát triển vắc-xin và dịch vụ chatbot , nhưng những tác hại được ghi nhận của công nghệ này đã khiến nhiều chuyên gia kết luận rằng không bao giờ nên sử dụng AI đối với một số ứng dụng nhất định.Andreessen mô tả những nỗi sợ hãi này là “sự hoảng loạn về đạo đức” phi lý. Anh ấy cũng khuyến khích quay trở lại cách tiếp cận “di chuyển nhanh và phá vỡ mọi thứ” của ngành công nghệ năm ngoái, viết rằng cả các công ty AI lớn và các công ty khởi nghiệp “nên được phép xây dựng AI nhanh và tích cực nhất có thể” và rằng công nghệ “sẽ tăng tốc rất nhanh”. nhanh chóng từ đây – nếu chúng ta để nó”.
Andreessen, người nổi tiếng vào những năm 1990 nhờ phát triển trình duyệt internet phổ biến đầu tiên, đã thành lập công ty liên doanh của mình với Ben Horowitz vào năm 2009. Hai năm sau, ông viết một bài blog thường được trích dẫn có tiêu đề “Tại sao phần mềm đang ăn mòn thế giới”, trong đó nói rằng chăm sóc sức khỏe và giáo dục là do “sự chuyển đổi cơ bản dựa trên phần mềm” giống như rất nhiều ngành công nghiệp trước đó.
Ăn cả thế giới chính là điều mà nhiều người lo sợ khi nói đến AI. Ngoài việc cố gắng giảm bớt những lo ngại đó, Andreessen nói rằng còn nhiều việc phải làm. Anh ấy khuyến khích việc sử dụng chính AI đang gây tranh cãi để bảo vệ mọi người khỏi sự thiên vị và tác hại của AI.
Ông nói: “Các chính phủ hợp tác với khu vực tư nhân nên tham gia mạnh mẽ vào từng lĩnh vực có rủi ro tiềm ẩn để sử dụng AI nhằm tối đa hóa khả năng phòng thủ của xã hội”.
Trong tương lai theo chủ nghĩa lý tưởng của chính Andreessen, “mọi đứa trẻ sẽ có một gia sư AI vô cùng kiên nhẫn, vô cùng nhân ái, vô cùng hiểu biết và vô cùng hữu ích”. Ông bày tỏ tầm nhìn tương tự về vai trò của AI với tư cách là đối tác và cộng tác viên đối với mọi người, nhà khoa học, giáo viên, CEO, lãnh đạo chính phủ và thậm chí cả chỉ huy quân sự.
Trung Quốc có phải là mối đe dọa thực sự?
Ở gần cuối bài viết của mình, Andreessen chỉ ra cái mà ông gọi là “nguy cơ thực sự của việc không theo đuổi AI với sức mạnh và tốc độ tối đa”.Ông nói, rủi ro đó là Trung Quốc, quốc gia đang phát triển AI một cách nhanh chóng và với các ứng dụng độc đoán đáng lo ngại. Theo các trường hợp được ghi lại trong nhiều năm, chính phủ Trung Quốc dựa vào AI giám sát, chẳng hạn như sử dụng nhận dạng khuôn mặt và dữ liệu GPS trên điện thoại để theo dõi và xác định người biểu tình.
Để ngăn chặn sự lan rộng của ảnh hưởng AI của Trung Quốc, Andreessen viết, “Chúng ta nên đưa AI vào nền kinh tế và xã hội của chúng ta nhanh và mạnh nhất có thể”.
Sau đó, ông đưa ra một kế hoạch phát triển AI tích cực thay mặt cho các công ty công nghệ lớn và công ty khởi nghiệp, đồng thời sử dụng “toàn bộ sức mạnh của khu vực tư nhân, cơ sở khoa học và chính phủ của chúng tôi”.
Andreessen viết với mức độ chắc chắn về hướng đi của thế giới, nhưng không phải lúc nào ông cũng giỏi dự đoán những gì sắp xảy ra.
Công ty của ông đã ra mắt quỹ tiền điện tử trị giá 2,2 tỷ đô la vào giữa năm 2021, ngay trước khi ngành công nghiệp này bắt đầu sụp đổ. Và một trong những vụ cá cược lớn của nó trong thời kỳ đại dịch là vào Clubhouse, công ty khởi nghiệp về âm thanh xã hội, đã tăng vọt lên mức định giá 4 tỷ đô la trong khi mọi người mắc kẹt ở nhà để tìm kiếm các hình thức giải trí thay thế. Vào tháng Tư, Clubhouse cho biết họ sẽ sa thải một nửa số nhân viên của mình để “thiết lập lại” công ty.
Xuyên suốt bài luận của Andreessen, ông chỉ ra những động cơ thầm kín mà những người khác có khi bày tỏ công khai quan điểm của họ về AI. Nhưng anh ấy có của riêng mình. Anh ấy muốn kiếm tiền từ cuộc cách mạng AI và đang đầu tư vào các công ty khởi nghiệp với mục tiêu đó.
“Tôi không tin họ là kẻ liều lĩnh hay kẻ ác”, ông kết luận trong bài đăng của mình. “Họ đều là những anh hùng. Công ty của tôi và tôi rất vui mừng được hỗ trợ càng nhiều người trong số họ càng tốt, và chúng tôi sẽ sát cánh cùng họ và công việc của họ 100%”.
