Thoại Viết Hoàng
Writer
Những phát triển mới về trí tuệ nhân tạo đã khiến giới công nghệ phát cuồng, nhưng cũng làm dấy lên mối lo ngại về quy trình ra quyết định không minh bạch của một số hệ thống - thường được gọi là "Hộp đen AI".
Tiến sĩ Michael Capps nói thuật ngữ "hộp đen" xuất phát từ Lực lượng Không quân Hoàng gia Anh trong Thế chiến thứ hai. Nhưng khi nó liên quan đến AI, thuật ngữ này được sử dụng để mô tả quá trình ra quyết định không thể giải thích được.
“Hộp đen chỉ là quá trình ra quyết định và những gì diễn ra trong đó”, Christopher Alexander, COO của Liberty Blockchain, nói. "Và tất nhiên, điều đó cực kỳ khó, bởi vì không ai có thể giải thích quá trình ra quyết định, bất kể đó có phải là con người hay không".
Bất chấp những lo ngại này, các hệ thống AI hộp đen có tiềm năng to lớn, Capps nói, nhưng vẫn có những lo ngại với công nghệ này.
“Các hệ thống hộp đen này, nơi bạn không thể nhìn thấy những gì đang diễn ra bên trong, có thể làm được một số điều đáng kinh ngạc”, Capps nói. "ChatGPT là một ví dụ về hộp đen. Không ai biết chính xác tại sao nó đưa ra câu trả lời như vậy. Bạn có thể đoán được, vì bạn biết nó nhìn thấy gì, bạn biết chúng tôi đã đào tạo nó về cái gì, vì vậy bạn có thể đoán được nó ở đâu. nó đã nghĩ ra điều đó, nhưng bạn sẽ không bao giờ biết chắc chắn".
Capps cho biết có những kỹ thuật mà những người sáng tạo AI sử dụng để thử và hiểu lý do tại sao các mô hình hộp đen AI đưa ra quyết định như họ làm, nhưng cuối cùng, những kỹ thuật này không hiệu quả. Ông so sánh quá trình ra quyết định của AI với việc yêu một người bạn đời.
"Bạn không thực sự biết… Bạn không thể thực sự giải thích nó, và hộp đen cũng vậy. Nó hoạt động theo cùng một cách. Nó nhìn thấy một lượng lớn thông tin, rồi nó đưa ra một quyết định, và sau đó nếu bạn hỏi nó tại sao nó lại làm như vậy, nó sẽ đoán được," anh nói.
Capps cho biết, sự thiếu hiểu biết về kết quả đầu ra của máy có nghĩa là chúng không nên được sử dụng cho việc ra quyết định mang tính rủi ro cao.
"Và đó là lý do tại sao các hệ thống này không thực sự đáng tin cậy để đưa ra các quyết định xã hội cực kỳ quan trọng. Bạn sẽ không bao giờ muốn giao kho vũ khí hạt nhân cho một AI hộp đen có thể đưa ra quyết định đó là lỗi. Nó có thể đưa ra quyết định vì nó đã có lời khuyên đào tạo tồi," ông nói. "Nó có thể đưa ra một quyết định tồi tệ bởi vì ai đó đã lén lút đưa ra một số lời khuyên huấn luyện tồi tệ, nó được gọi là đầu độc. Tất cả những điều này có thể dẫn đến sai lầm, vì vậy chúng ta thực sự không nên sử dụng nó cho bất cứ điều gì, từ lái xe đến kho vũ khí hạt nhân, thậm chí là quyết định ai là người nhận được một khoản vay".
Alexander cho biết một thách thức khác khi cố gắng hiểu quy trình ra quyết định của các hệ thống AI là công nghệ độc quyền được sử dụng trong quá trình phát triển chúng.
"Rất nhiều thứ đi vào hộp đen là độc quyền. Vì vậy, ai sẽ phát triển thứ gì đó nếu họ phải cho đi và hiển thị tất cả các hoạt động bên trong ngay khi họ tạo ra nó", Alexander nói.
Trí tuệ nhân tạo đã thu hút được rất nhiều sự chú ý khi OpenAI phát hành ChatGPT, một nền tảng AI tổng quát có khả năng trò chuyện giống như con người và có thể trả lời các câu hỏi, viết truyện và bài hát và thậm chí lên kế hoạch cho các chuyến đi.
Tuy nhiên, những lo ngại về sự thiên vị, cũng như sự thiếu minh bạch và quyền riêng tư, đã dẫn đến một số lời chỉ trích nền tảng này.
