Hoàng Nam✔
Writer
Jakub Pachocki, nhà khoa học trưởng của OpenAI, vừa đưa ra một cảnh báo đáng chú ý về tốc độ phát triển AI hiện nay: chưa có phòng thí nghiệm nào giải quyết đủ tốt bài toán căn chỉnh và giám sát để có thể tiếp tục mở rộng năng lực AI ở tốc độ tối đa trong thời gian dài một cách an toàn.
Trong bài viết “An Alien Mind” công bố ngày 6/9, Pachocki cho rằng với tốc độ hiện tại, AI có thể đạt thêm những bước nhảy lớn về năng lực trong vài năm tới. Đáng chú ý hơn, AI đang bắt đầu tham gia ngày càng sâu vào chính quá trình nghiên cứu và phát triển AI, từ lập trình, thực hiện thí nghiệm, phân tích kết quả đến hỗ trợ phát triển các mô hình thế hệ tiếp theo.
Điều này có thể dẫn tới một vòng lặp đặc biệt: AI mạnh hơn giúp con người nghiên cứu AI nhanh hơn, thế hệ AI tiếp theo lại tiếp tục nâng cao hiệu suất nghiên cứu, từ đó đẩy nhanh quá trình phát triển các thế hệ sau. Pachocki gọi khả năng này là “recursive self-improvement”, tức quá trình tự cải tiến mang tính đệ quy.
Vấn đề nằm ở chỗ tốc độ phát triển năng lực AI có nguy cơ vượt quá tốc độ mà con người có thể đánh giá, giám sát và xây dựng các biện pháp an toàn. Ngay cả việc theo dõi chuỗi suy luận của mô hình, một trong những phương pháp quan trọng để phát hiện hành vi bất thường, cũng đang trở nên kém tin cậy hơn khi các hệ thống AI ngày càng phức tạp.
Pachocki không kêu gọi dừng phát triển AI. Ngược lại, ông cho rằng AI mạnh hơn vẫn rất cần thiết, kể cả để phòng thủ trước những hệ thống AI có khả năng tấn công mạng hoặc gây ra các rủi ro khác. Điều ông đề xuất là ngành AI cần có các tiêu chuẩn an toàn chung và sẵn sàng chủ động giảm tốc độ phát triển khi năng lực giám sát, kiểm soát chưa theo kịp.
Đây có lẽ mới là điểm đáng chú ý nhất: cảnh báo không đến từ một người đứng ngoài cuộc đua AI, mà từ chính nhà khoa học trưởng của OpenAI, một trong những tổ chức đang dẫn đầu cuộc đua đó. Khi AI bắt đầu tham gia vào quá trình tạo ra AI thế hệ tiếp theo, câu hỏi quan trọng có thể không còn chỉ là “AI sẽ mạnh đến đâu?”, mà còn là “con người có còn đủ khả năng hiểu và kiểm soát tốc độ phát triển của nó hay không?”.
Trong bài viết “An Alien Mind” công bố ngày 6/9, Pachocki cho rằng với tốc độ hiện tại, AI có thể đạt thêm những bước nhảy lớn về năng lực trong vài năm tới. Đáng chú ý hơn, AI đang bắt đầu tham gia ngày càng sâu vào chính quá trình nghiên cứu và phát triển AI, từ lập trình, thực hiện thí nghiệm, phân tích kết quả đến hỗ trợ phát triển các mô hình thế hệ tiếp theo.
Điều này có thể dẫn tới một vòng lặp đặc biệt: AI mạnh hơn giúp con người nghiên cứu AI nhanh hơn, thế hệ AI tiếp theo lại tiếp tục nâng cao hiệu suất nghiên cứu, từ đó đẩy nhanh quá trình phát triển các thế hệ sau. Pachocki gọi khả năng này là “recursive self-improvement”, tức quá trình tự cải tiến mang tính đệ quy.
Vấn đề nằm ở chỗ tốc độ phát triển năng lực AI có nguy cơ vượt quá tốc độ mà con người có thể đánh giá, giám sát và xây dựng các biện pháp an toàn. Ngay cả việc theo dõi chuỗi suy luận của mô hình, một trong những phương pháp quan trọng để phát hiện hành vi bất thường, cũng đang trở nên kém tin cậy hơn khi các hệ thống AI ngày càng phức tạp.
Pachocki không kêu gọi dừng phát triển AI. Ngược lại, ông cho rằng AI mạnh hơn vẫn rất cần thiết, kể cả để phòng thủ trước những hệ thống AI có khả năng tấn công mạng hoặc gây ra các rủi ro khác. Điều ông đề xuất là ngành AI cần có các tiêu chuẩn an toàn chung và sẵn sàng chủ động giảm tốc độ phát triển khi năng lực giám sát, kiểm soát chưa theo kịp.
Đây có lẽ mới là điểm đáng chú ý nhất: cảnh báo không đến từ một người đứng ngoài cuộc đua AI, mà từ chính nhà khoa học trưởng của OpenAI, một trong những tổ chức đang dẫn đầu cuộc đua đó. Khi AI bắt đầu tham gia vào quá trình tạo ra AI thế hệ tiếp theo, câu hỏi quan trọng có thể không còn chỉ là “AI sẽ mạnh đến đâu?”, mà còn là “con người có còn đủ khả năng hiểu và kiểm soát tốc độ phát triển của nó hay không?”.
