Trường Sơn
Writer
'Bố già của AI' Geoffrey Hinton đã từ chức khỏi vai trò lãnh đạo phát triển công nghệ của Google trong tháng này.
Theo nhà khoa học đoạt giải Turing Geoffrey Hinton, người được coi là người tiên phong của công nghệ này, sự ra đời của trí tuệ nhân tạo (AI) có thể gây ra mối đe dọa “cấp bách” hơn cho nhân loại so với biến đổi khí hậu.
“Tôi không muốn giảm giá trị của biến đổi khí hậu. Tôi không muốn nói, 'Bạn không nên lo lắng về biến đổi khí hậu'. Đó cũng là một rủi ro lớn”, ông nói với Reuters tuần trước. "Nhưng tôi nghĩ rằng điều này có thể sẽ trở nên khẩn cấp hơn".
Hinton, người được mệnh danh là một trong những 'bố già' của AI, gần đây đã tiết lộ rằng ông sẽ rời bỏ vai trò dẫn đầu trong quá trình phát triển công nghệ của Google. Ông nói quyết định được đưa ra để ông ấy có thể thiết lập một nền tảng cho chính mình để cảnh báo về những rủi ro cố hữu mà AI gây ra mà không có sự giám sát từ chủ cũ, tức Google.
Vào tháng 3, Google đã phát hành chatbot AI 'Bard' với tư cách là đối thủ cạnh tranh với phần mềm ChatGPT của OpenAI, phần mềm ra mắt trước đó vào tháng 11. Hinton đã khẳng định kể từ khi rời Google rằng công ty cho đến nay vẫn là “người quản lý thích hợp” cho công nghệ AI.
Lời cảnh báo của ông được đưa ra sau khi một số nhà lãnh đạo ngành công nghệ - bao gồm cả SpaceX, Tesla và Giám đốc điều hành Twitter, Elon Musk - đã đồng ký một bức thư ngỏ vào tháng 3 cảnh báo về những hậu quả tiềm tàng của một cuộc chạy đua vũ trang AI không được kiểm soát ở Thung lũng Silicon.
Trong bức thư, Musk và những người đồng ký tên lập luận rằng “trí thông minh cạnh tranh của con người” đặt ra một thách thức sâu sắc đối với một số lĩnh vực của xã hội, bao gồm cả việc làm và phân phối thông tin. Nó cũng kêu gọi tạm dừng sáu tháng trong việc phát triển công nghệ AI mạnh hơn ChatGPT và chỉ định một cơ quan quản lý độc lập để giám sát biên giới công nghệ đang phát triển.
ChatGPT đã trở thành ứng dụng phát triển nhanh nhất trong lịch sử ngay sau khi ra mắt vào năm ngoái, khi nó vượt mốc 100 triệu người dùng chỉ sau hai tháng.
Hinton giải thích với Reuters: “Với sự thay đổi khí hậu, rất dễ dàng để đề xuất những gì bạn nên làm: Bạn chỉ cần ngừng đốt carbon. “Nếu bạn làm điều đó, cuối cùng mọi thứ sẽ ổn thôi. Đối với điều này, không phải tất cả đều rõ ràng bạn nên làm gì”.
Tuy nhiên, thay vì tạm dừng nghiên cứu, điều mà Hinton tuyên bố là “hoàn toàn không thực tế”, ông nói rằng các nguồn lực nên được đầu tư vào việc “tìm ra những gì chúng ta có thể làm với” công nghệ mà ông gọi là “rủi ro hiện hữu”.
Tuần trước, Tổng thống Hoa Kỳ Joe Biden đã gặp gỡ đại diện của cả Google và Microsoft, nói rõ điều mà Nhà Trắng gọi là “cuộc thảo luận thẳng thắn và mang tính xây dựng” rằng các công ty công nghệ phải đảm bảo rằng các chương trình AI an toàn trước khi được triển khai.
Theo nhà khoa học đoạt giải Turing Geoffrey Hinton, người được coi là người tiên phong của công nghệ này, sự ra đời của trí tuệ nhân tạo (AI) có thể gây ra mối đe dọa “cấp bách” hơn cho nhân loại so với biến đổi khí hậu.
“Tôi không muốn giảm giá trị của biến đổi khí hậu. Tôi không muốn nói, 'Bạn không nên lo lắng về biến đổi khí hậu'. Đó cũng là một rủi ro lớn”, ông nói với Reuters tuần trước. "Nhưng tôi nghĩ rằng điều này có thể sẽ trở nên khẩn cấp hơn".
Vào tháng 3, Google đã phát hành chatbot AI 'Bard' với tư cách là đối thủ cạnh tranh với phần mềm ChatGPT của OpenAI, phần mềm ra mắt trước đó vào tháng 11. Hinton đã khẳng định kể từ khi rời Google rằng công ty cho đến nay vẫn là “người quản lý thích hợp” cho công nghệ AI.
Lời cảnh báo của ông được đưa ra sau khi một số nhà lãnh đạo ngành công nghệ - bao gồm cả SpaceX, Tesla và Giám đốc điều hành Twitter, Elon Musk - đã đồng ký một bức thư ngỏ vào tháng 3 cảnh báo về những hậu quả tiềm tàng của một cuộc chạy đua vũ trang AI không được kiểm soát ở Thung lũng Silicon.
Trong bức thư, Musk và những người đồng ký tên lập luận rằng “trí thông minh cạnh tranh của con người” đặt ra một thách thức sâu sắc đối với một số lĩnh vực của xã hội, bao gồm cả việc làm và phân phối thông tin. Nó cũng kêu gọi tạm dừng sáu tháng trong việc phát triển công nghệ AI mạnh hơn ChatGPT và chỉ định một cơ quan quản lý độc lập để giám sát biên giới công nghệ đang phát triển.
ChatGPT đã trở thành ứng dụng phát triển nhanh nhất trong lịch sử ngay sau khi ra mắt vào năm ngoái, khi nó vượt mốc 100 triệu người dùng chỉ sau hai tháng.
Hinton giải thích với Reuters: “Với sự thay đổi khí hậu, rất dễ dàng để đề xuất những gì bạn nên làm: Bạn chỉ cần ngừng đốt carbon. “Nếu bạn làm điều đó, cuối cùng mọi thứ sẽ ổn thôi. Đối với điều này, không phải tất cả đều rõ ràng bạn nên làm gì”.
Tuy nhiên, thay vì tạm dừng nghiên cứu, điều mà Hinton tuyên bố là “hoàn toàn không thực tế”, ông nói rằng các nguồn lực nên được đầu tư vào việc “tìm ra những gì chúng ta có thể làm với” công nghệ mà ông gọi là “rủi ro hiện hữu”.
Tuần trước, Tổng thống Hoa Kỳ Joe Biden đã gặp gỡ đại diện của cả Google và Microsoft, nói rõ điều mà Nhà Trắng gọi là “cuộc thảo luận thẳng thắn và mang tính xây dựng” rằng các công ty công nghệ phải đảm bảo rằng các chương trình AI an toàn trước khi được triển khai.
