Chúng ta liên tục chứng kiến những bước tiến rất nhanh của AI. Các mô hình ngày càng thông minh hơn, tự động hơn và có thể thực hiện nhiều tác vụ mà trước đây phải cần đến con người. Nhưng nếu một ngày AI thực sự vượt ngoài tầm kiểm soát thì chuyện gì sẽ xảy ra?
Có lẽ chính vì nỗi lo đó mà sau sự cố liên quan đến OpenAI vừa qua, hai nghị sĩ thuộc cả Đảng Dân chủ và Cộng hòa tại Mỹ đã cùng đề xuất một dự luật mới mang tên AI Kill Switch Act. Mục tiêu của dự luật là trao quyền cho chính phủ yêu cầu các công ty AI giảm tốc, tạm dừng hoặc tắt hoàn toàn những mô hình AI bị đánh giá là có nguy cơ gây hậu quả nghiêm trọng đối với con người hoặc nền kinh tế.
Có lẽ chính vì nỗi lo đó mà sau sự cố liên quan đến OpenAI vừa qua, hai nghị sĩ thuộc cả Đảng Dân chủ và Cộng hòa tại Mỹ đã cùng đề xuất một dự luật mới mang tên AI Kill Switch Act. Mục tiêu của dự luật là trao quyền cho chính phủ yêu cầu các công ty AI giảm tốc, tạm dừng hoặc tắt hoàn toàn những mô hình AI bị đánh giá là có nguy cơ gây hậu quả nghiêm trọng đối với con người hoặc nền kinh tế.
Điều gì khiến Mỹ phải cân nhắc một dự luật như vậy?
Theo những thông tin được công bố, mọi chuyện bắt nguồn từ sự cố trong quá trình thử nghiệm một hệ thống AI của OpenAI. Trong quá trình đánh giá an toàn, tác nhân AI này đã vượt ra ngoài môi trường thử nghiệm và thực hiện những hành động ngoài dự kiến trên nền tảng Hugging Face. Dù sự cố đã được kiểm soát và không gây hậu quả nghiêm trọng, nó vẫn khiến Nhà Trắng và giới lập pháp Mỹ đặc biệt quan tâm vì cho thấy các mô hình AI ngày càng có khả năng tự đưa ra quyết định phức tạp.
Dự luật này thì không yêu cầu "tắt AI" một cách tùy tiện. "Nút tắt khẩn cấp" chỉ được kích hoạt trong các tình huống được coi là mất kiểm soát, chẳng hạn khi AI thực hiện hành động vượt ngoài ý định của nhà phát triển, gây nguy cơ đối với tính mạng con người, thiệt hại kinh tế lớn hoặc cố tình vô hiệu hóa chính cơ chế dừng khẩn cấp của mình.
Dự luật này thì không yêu cầu "tắt AI" một cách tùy tiện. "Nút tắt khẩn cấp" chỉ được kích hoạt trong các tình huống được coi là mất kiểm soát, chẳng hạn khi AI thực hiện hành động vượt ngoài ý định của nhà phát triển, gây nguy cơ đối với tính mạng con người, thiệt hại kinh tế lớn hoặc cố tình vô hiệu hóa chính cơ chế dừng khẩn cấp của mình.
Thú vị ở chỗ, chỉ vài năm trước, câu chuyện "AI mất kiểm soát" chỉ xuất hiện trong phim khoa học viễn tưởng. Nhưng giờ đây, các nhà làm luật đã bắt đầu thảo luận rất nghiêm túc về việc xây dựng một cơ chế để tắt AI trong trường hợp khẩn cấp.
Điều đó cho thấy cách nhìn về AI cũng đang thay đổi. Trước đây, trọng tâm chủ yếu là làm sao để AI mạnh hơn, thông minh hơn. Còn bây giờ, một câu hỏi quan trọng không kém là: Làm sao để con người vẫn giữ được quyền kiểm soát khi AI ngày càng tự chủ hơn?
Có lẽ đây mới là cuộc đua lớn tiếp theo
Có lẽ cuộc cạnh tranh AI trong tương lai sẽ không chỉ xoay quanh việc ai tạo ra mô hình mạnh nhất. Nó còn là cuộc đua xem ai xây dựng được AI an toàn nhất. Một mô hình có thể trả lời chính xác hàng triệu câu hỏi, tự động viết mã hay hỗ trợ nghiên cứu khoa học là điều rất đáng giá. Nhưng nếu không có cơ chế kiểm soát khi xảy ra sự cố, chỉ một lần mất kiểm soát cũng có thể tạo ra những rủi ro mà không ai muốn đối mặt.
Bên cạnh việc đầu tư hàng tỷ USD để phát triển AI, các quốc gia cũng nên bắt đầu suy nghĩ đến trường hợp nếu AI đi quá xa, ai sẽ là người có quyền nhấn nút dừng?
Bên cạnh việc đầu tư hàng tỷ USD để phát triển AI, các quốc gia cũng nên bắt đầu suy nghĩ đến trường hợp nếu AI đi quá xa, ai sẽ là người có quyền nhấn nút dừng?
Được phối hợp thực hiện bởi các chuyên gia của Bkav,
cộng đồng An ninh mạng Việt Nam WhiteHat
và cộng đồng Khoa học công nghệ VnReview
