The Storm Riders
Writer
Việc các lãnh đạo công nghệ cảnh báo về nguy cơ của AI, đặc biệt là "siêu trí tuệ nhân tạo" (superintelligence), cần được xem xét kỹ lưỡng, vì họ cũng đang kinh doanh các giải pháp AI. Sam Altman (OpenAI) là một ví dụ, khi ông vừa kêu gọi chính phủ Mỹ ban hành quy định về an toàn AI, vừa quảng bá các gói dịch vụ ChatGPT đắt tiền. Họ đang truyền tải thông điệp: "AI rất mạnh mẽ và nguy hiểm, nhưng cũng rất hữu ích cho công ty bạn".
Cựu CEO Eric Schmidt của Google cũng đang theo đuổi chiến lược này. Ông đang cảnh báo về nguy cơ AI phát triển đến mức có thể tự đưa ra quyết định và mỗi người sẽ có một "chuyên gia toàn năng" trong tay. Ông cũng thảo luận về việc sử dụng drone AI trong chiến tranh, nhấn mạnh sự cần thiết phải duy trì sự kiểm soát của con người. Việc sử dụng drone trong xung đột Nga - Ukraine cho thấy tiềm năng của drone AI.
Schmidt cho rằng mô hình sử dụng AI để điều khiển vũ khí trong tương lai là "đặt con người ở xa và vũ khí ở gần", kết nối và điều khiển bằng AI. Ông cũng đang phát triển công ty White Stork, cung cấp drone AI cho Ukraine.
Mặc dù AI tạo sinh vẫn chưa phát triển đến mức vượt trội con người, nhưng AI có thể hành động theo cách mà người tạo ra không thể dự đoán. Mạng xã hội là một ví dụ điển hình. Thuật toán tối ưu hóa tương tác mà không quan tâm đến đạo đức có thể dẫn đến việc lan truyền thông tin sai lệch và hành vi tiêu cực. Các AI agent có khả năng tự động duyệt web cũng có thể gây ra những hành động nguy hiểm.
Schmidt đề cập đến việc cần phải "ngắt kết nối" AI khi hệ thống tự cải tiến. Tuy nhiên, ông cũng cho rằng cần phải có người "giữ nút nguồn". Việc Schmidt đầu tư vào các startup AI đồng thời vận động hành lang tại Washington cho thấy ông muốn các công ty mà ông đầu tư sẽ là những người kiểm soát AI.
Việc các lãnh đạo công nghệ vừa cảnh báo về nguy cơ của AI, vừa đầu tư vào AI cho thấy sự phức tạp của vấn đề này. Cần có sự cân bằng giữa việc thúc đẩy đổi mới và đảm bảo an toàn, đạo đức trong phát triển và ứng dụng AI.
Cựu CEO Eric Schmidt của Google cũng đang theo đuổi chiến lược này. Ông đang cảnh báo về nguy cơ AI phát triển đến mức có thể tự đưa ra quyết định và mỗi người sẽ có một "chuyên gia toàn năng" trong tay. Ông cũng thảo luận về việc sử dụng drone AI trong chiến tranh, nhấn mạnh sự cần thiết phải duy trì sự kiểm soát của con người. Việc sử dụng drone trong xung đột Nga - Ukraine cho thấy tiềm năng của drone AI.
Schmidt cho rằng mô hình sử dụng AI để điều khiển vũ khí trong tương lai là "đặt con người ở xa và vũ khí ở gần", kết nối và điều khiển bằng AI. Ông cũng đang phát triển công ty White Stork, cung cấp drone AI cho Ukraine.
Mặc dù AI tạo sinh vẫn chưa phát triển đến mức vượt trội con người, nhưng AI có thể hành động theo cách mà người tạo ra không thể dự đoán. Mạng xã hội là một ví dụ điển hình. Thuật toán tối ưu hóa tương tác mà không quan tâm đến đạo đức có thể dẫn đến việc lan truyền thông tin sai lệch và hành vi tiêu cực. Các AI agent có khả năng tự động duyệt web cũng có thể gây ra những hành động nguy hiểm.
Schmidt đề cập đến việc cần phải "ngắt kết nối" AI khi hệ thống tự cải tiến. Tuy nhiên, ông cũng cho rằng cần phải có người "giữ nút nguồn". Việc Schmidt đầu tư vào các startup AI đồng thời vận động hành lang tại Washington cho thấy ông muốn các công ty mà ông đầu tư sẽ là những người kiểm soát AI.
Việc các lãnh đạo công nghệ vừa cảnh báo về nguy cơ của AI, vừa đầu tư vào AI cho thấy sự phức tạp của vấn đề này. Cần có sự cân bằng giữa việc thúc đẩy đổi mới và đảm bảo an toàn, đạo đức trong phát triển và ứng dụng AI.
