AI chưa được thuần hóa có thể sẽ hủy diệt loài người

[Bùi Minh Nhật]

Khi thuật toán trở nên thông minh hơn, chúng ta lại trở nên ngu ngốc hơn. Hãy tính toán xem.

Một thành viên Quốc hội Úc đã cảnh báo rằng trí tuệ nhân tạo (AI) có thể mang lại "rủi ro thảm khốc" cho nhân loại. Các nhà phân tích rủi ro, vốn đã lo lắng về biến đổi khí hậu và nguy cơ hạt nhân, nay đưa AI vào danh sách những mối đe dọa hàng đầu.

Mối nguy từ AGI và khả năng mất kiểm soát​

Nghị sĩ Julian Hill phát biểu trước Quốc hội Úc rằng AI tổng quát (AGI) có thể cách mạng hóa thế giới, nhưng nếu vượt qua trí thông minh của con người, nó có thể gây hại nghiêm trọng nếu không có sự kiểm soát chặt chẽ. "Những rủi ro từ AGI chưa được thuần hóa là có thật, hợp lý và dễ hình dung", Hill nhấn mạnh.

Một mối lo lớn là AGI có thể bị lợi dụng làm vũ khí. "Kẻ xấu có thể sử dụng AGI để gây ra sự hủy diệt hàng loạt", Hill cảnh báo. Ông cũng cho biết quân đội đang nghiên cứu AI như một công cụ chiến tranh, điều này có thể dẫn đến hậu quả khó lường.

AI và sự suy giảm tư duy phản biện​

Ngoài rủi ro về an ninh, Hill còn đề cập đến tác động của AI đối với giáo dục. Ông đã sử dụng ChatGPT để viết một phần bài phát biểu nhằm minh họa cách AI đang làm suy giảm kỹ năng tư duy phản biện khi ngày càng nhiều học sinh dựa vào công nghệ để làm bài tập.

Hill nhấn mạnh rằng việc kiểm soát AGI ngay từ bây giờ là điều cần thiết. "Thông điệp chính mà tôi muốn truyền tải là chúng ta phải bắt đầu ngay lập tức", ông nói. "Nhân loại có thể phụ thuộc vào quyết định này". (popularmechanics)