Thoại Viết Hoàng
Writer
Khi trí tuệ nhân tạo thống trị thị trường và trao đổi văn hóa, các chuyên gia cho rằng nó buộc các nhà lãnh đạo CNTT phải đưa ra những dự đoán xa hơn về tương lai và với độ chính xác cao hơn.
Maria Markstedter tại Black Hat USA 2023
Đối với Moss, đóng góp có ảnh hưởng nhất của AI đối với cuộc trò chuyện về văn hóa là nó buộc chúng ta phải đưa ra giả thuyết về những vấn đề tiềm ẩn mà chúng ta chưa gặp phải và nó cung cấp cho chúng ta câu trả lời cho những câu hỏi mà bản thân AI tổng quát có thể không hiểu đầy đủ.
Tất cả những điều này buộc các nhà lãnh đạo CNTT phải phản ứng một cách chủ động từ tư duy bảo mật, đặc biệt là vì AI đã hợp nhất hai múi giờ, có thể nói: Nó mang tương lai vào hiện tại.
Điều này đặt ra câu hỏi về quyền internet, quyền riêng tư và liệu công chúng có tin tưởng vào thông tin họ nhận được hay không. “Nếu câu trả lời được gửi đến bạn trong hộp đen, sẽ khó tìm thấy thông tin xác thực hơn. Bạn sẽ trả giá cao cho một bức tranh vẽ thật hay một bản nhạc thật chứ? Hay một mảnh cấu trúc thực sự của con người?” Moss hỏi.
Maria Markstedter, người sáng lập kiêm Giám đốc điều hành của Azeria Labs cho biết: Tốc độ phát triển AI không ngừng sẽ ảnh hưởng như thế nào đến khả năng điều hướng các bề mặt tấn công mới của chuyên gia bảo mật? Và không gian công nghệ kinh doanh nên phát triển như thế nào với cuộc cách mạng AI và sử dụng nó như thế nào?
Đây là những gì những người ra quyết định CNTT cần biết:
Nó mạnh mẽ và ấn tượng. Nhưng nó cũng không thể đoán trước được. “Chúng ta phải nhớ rằng bất kỳ thứ gì bạn nạp vào ChatGPT sẽ trở thành một phần của bộ dữ liệu AI tổng hợp. Nhưng các công ty muốn kiểm soát dữ liệu của chính họ và cách họ sử dụng dữ liệu đó”, cô nói.
Đó là lý do tại sao các nhà lãnh đạo CNTT tại sự kiện bảo mật toàn cầu năm nay được khuyến khích suy nghĩ lại về bảo mật dữ liệu.
“Bởi vì các tác nhân AI có nhiều quyền truy cập và ủy quyền, chúng tôi cần đào tạo AI trong nội bộ và bảo vệ nó khỏi dữ liệu bên ngoài. Nếu không, AI sẽ dễ thực hiện các hành động nguy hiểm hơn", Markstedter nói.
Và thay vì cấm OpenAI khỏi các thiết bị làm việc của nhân viên (một cách tiếp cận mà một số công ty đã chọn), các chuyên gia cho biết tốt hơn là nên điều chỉnh nó và đưa nó vào cuộc sống hàng ngày của chúng ta. Bằng cách đó, nó cũng có thể được đào tạo để sử dụng trong kinh doanh thực tế.
Vì thị trường AI được dự đoán sẽ tăng lên 28,5 tỷ vào năm 2028, nên theo các chuyên gia tại Back Hat USA 2023, lộ trình dài hạn này có ý nghĩa.
“Công việc của chúng ta là hiểu công nghệ đang thay đổi hệ thống và điều chỉnh mô hình mối đe dọa đó cho phù hợp. Đó chính là lý do tại sao chúng tôi kết hợp AI vào mô hình mối đe dọa”, Markstedter nói.
Một cơ chế đào tạo là thị trường Machine Learning như một Dịch vụ đang phát triển. Sau đó, cũng có các chính sách quy định và các vấn đề tuân thủ xung quanh các vấn đề về quyền internet, quyền riêng tư và bản quyền.
Markstedter cho biết: “Mọi người đều lo lắng rằng AI sẽ thay thế các chuyên gia an ninh mạng. Nhưng điều đó sẽ không xảy ra, chủ yếu là vì “AI bây giờ giống như một thiếu niên rắc rối. Nó có thể trở nên bất hảo và nhầm lẫn giữa đúng và sai, nhưng CISO sẽ đóng vai trò là người kỷ luật điều chỉnh hành vi của nó”.
Markstedter đã diễn giải quan sát này trong bài nói chuyện của mình, nói rằng thật không may, đây là một thái độ phổ biến. “An ninh thường là một suy nghĩ sau. Các lỗi nghiêm trọng, kiểm tra lỗ hổng, phần mềm độc hại — tất cả những điều này sẽ làm chậm tiến độ nếu bạn muốn phát hành công nghệ mới.”
Nhưng trong những tuần đầu tiên của AI, rõ ràng là quyền truy cập mở vào bất kỳ loại thông tin nào - hợp đạo đức hay không - sẽ có những tác động nghiêm trọng. Cô ấy nói: “Đột nhiên, yếu tố rủi ro được thể hiện rõ ràng trên một sân khấu công cộng lớn: Bất kỳ sự thiếu an ninh nào cũng làm tăng khả năng xảy ra thảm họa.
Và điều này áp dụng cho bất kỳ loại công nghệ nào. “Không nhà cung cấp nào muốn bị coi là dễ bị hack hoặc chịu trách nhiệm về việc tiết lộ thông tin gây hại. Điều đó sẽ ảnh hưởng đến cơ sở người dùng và doanh thu của họ”, Markstedter nói.
Đó là lý do tại sao AI — với lần ra mắt công chúng đầy ấn tượng — đã giúp tạo ra trường hợp bảo mật. Nó giống như một câu chuyện cảnh báo về những chatbot có thể biến bạn thành thù và tại sao các doanh nghiệp phải coi trọng bảo mật ngay từ đầu.
“AI ở khắp mọi nơi ngay bây giờ. Và nó buộc chúng ta phải giải quyết tất cả các vấn đề hiện tại của mình và biến chúng thành các vấn đề dự đoán”, Jeff Moss, người sáng lập Black Hat cho biết. Trong bài phát biểu mở đầu cho Black Hat USA 2023 ở Las Vegas, các chuyên gia đã chia sẻ mức độ sáng tạo của AI đang thay đổi cuộc chơi.
Đối với Moss, đóng góp có ảnh hưởng nhất của AI đối với cuộc trò chuyện về văn hóa là nó buộc chúng ta phải đưa ra giả thuyết về những vấn đề tiềm ẩn mà chúng ta chưa gặp phải và nó cung cấp cho chúng ta câu trả lời cho những câu hỏi mà bản thân AI tổng quát có thể không hiểu đầy đủ.
Tất cả những điều này buộc các nhà lãnh đạo CNTT phải phản ứng một cách chủ động từ tư duy bảo mật, đặc biệt là vì AI đã hợp nhất hai múi giờ, có thể nói: Nó mang tương lai vào hiện tại.
Điều này đặt ra câu hỏi về quyền internet, quyền riêng tư và liệu công chúng có tin tưởng vào thông tin họ nhận được hay không. “Nếu câu trả lời được gửi đến bạn trong hộp đen, sẽ khó tìm thấy thông tin xác thực hơn. Bạn sẽ trả giá cao cho một bức tranh vẽ thật hay một bản nhạc thật chứ? Hay một mảnh cấu trúc thực sự của con người?” Moss hỏi.
Maria Markstedter, người sáng lập kiêm Giám đốc điều hành của Azeria Labs cho biết: Tốc độ phát triển AI không ngừng sẽ ảnh hưởng như thế nào đến khả năng điều hướng các bề mặt tấn công mới của chuyên gia bảo mật? Và không gian công nghệ kinh doanh nên phát triển như thế nào với cuộc cách mạng AI và sử dụng nó như thế nào?
Đây là những gì những người ra quyết định CNTT cần biết:
Suy nghĩ lại về bối cảnh an ninh mạng với AI trong tâm trí
Như Markstedter đã giải thích, OpenAI đã mở ra một cuộc đua của các công ty hướng tới sự thống trị thị trường, với việc Google bắt đầu trước và Microsoft dẫn trước. Bây giờ, nó ở khắp mọi nơi. Markstedter cho biết: “Việc sử dụng OpenAI đã tăng từ 1% lên 90% dường như chỉ sau một đêm và Microsoft đã đầu tư 13,2 tỷ USD vào AI một cách có mục đích”.Nó mạnh mẽ và ấn tượng. Nhưng nó cũng không thể đoán trước được. “Chúng ta phải nhớ rằng bất kỳ thứ gì bạn nạp vào ChatGPT sẽ trở thành một phần của bộ dữ liệu AI tổng hợp. Nhưng các công ty muốn kiểm soát dữ liệu của chính họ và cách họ sử dụng dữ liệu đó”, cô nói.
Đó là lý do tại sao các nhà lãnh đạo CNTT tại sự kiện bảo mật toàn cầu năm nay được khuyến khích suy nghĩ lại về bảo mật dữ liệu.
“Bởi vì các tác nhân AI có nhiều quyền truy cập và ủy quyền, chúng tôi cần đào tạo AI trong nội bộ và bảo vệ nó khỏi dữ liệu bên ngoài. Nếu không, AI sẽ dễ thực hiện các hành động nguy hiểm hơn", Markstedter nói.
Và thay vì cấm OpenAI khỏi các thiết bị làm việc của nhân viên (một cách tiếp cận mà một số công ty đã chọn), các chuyên gia cho biết tốt hơn là nên điều chỉnh nó và đưa nó vào cuộc sống hàng ngày của chúng ta. Bằng cách đó, nó cũng có thể được đào tạo để sử dụng trong kinh doanh thực tế.
Vì thị trường AI được dự đoán sẽ tăng lên 28,5 tỷ vào năm 2028, nên theo các chuyên gia tại Back Hat USA 2023, lộ trình dài hạn này có ý nghĩa.
“Công việc của chúng ta là hiểu công nghệ đang thay đổi hệ thống và điều chỉnh mô hình mối đe dọa đó cho phù hợp. Đó chính là lý do tại sao chúng tôi kết hợp AI vào mô hình mối đe dọa”, Markstedter nói.
Cách huấn luyện AI và điều chỉnh mô hình mối đe dọa
Khả năng của AI là hỗn hợp. Nó là một công cụ hữu hiệu để nâng cao hiệu quả của các sản phẩm bảo mật hiện có của chúng tôi, nhưng nó cũng mở ra cơ hội cho các mối đe dọa tinh vi hơn. Đó là lý do tại sao đào tạo AI là chìa khóa để đảm bảo rằng những mặt tích cực vượt trội hơn những mặt tiêu cực.Một cơ chế đào tạo là thị trường Machine Learning như một Dịch vụ đang phát triển. Sau đó, cũng có các chính sách quy định và các vấn đề tuân thủ xung quanh các vấn đề về quyền internet, quyền riêng tư và bản quyền.
Markstedter cho biết: “Mọi người đều lo lắng rằng AI sẽ thay thế các chuyên gia an ninh mạng. Nhưng điều đó sẽ không xảy ra, chủ yếu là vì “AI bây giờ giống như một thiếu niên rắc rối. Nó có thể trở nên bất hảo và nhầm lẫn giữa đúng và sai, nhưng CISO sẽ đóng vai trò là người kỷ luật điều chỉnh hành vi của nó”.
Tại sao AI giúp tạo ra trường hợp bảo mật mạnh mẽ hơn
Vào tháng 4, Sam Schillace, phó CTO của Microsoft, đã viết trong một email rằng đó là “một sai lầm cực kỳ nghiêm trọng trong thời điểm này khi lo lắng về những thứ có thể sửa chữa sau này”, The New York Times đưa tin.Markstedter đã diễn giải quan sát này trong bài nói chuyện của mình, nói rằng thật không may, đây là một thái độ phổ biến. “An ninh thường là một suy nghĩ sau. Các lỗi nghiêm trọng, kiểm tra lỗ hổng, phần mềm độc hại — tất cả những điều này sẽ làm chậm tiến độ nếu bạn muốn phát hành công nghệ mới.”
Nhưng trong những tuần đầu tiên của AI, rõ ràng là quyền truy cập mở vào bất kỳ loại thông tin nào - hợp đạo đức hay không - sẽ có những tác động nghiêm trọng. Cô ấy nói: “Đột nhiên, yếu tố rủi ro được thể hiện rõ ràng trên một sân khấu công cộng lớn: Bất kỳ sự thiếu an ninh nào cũng làm tăng khả năng xảy ra thảm họa.
Và điều này áp dụng cho bất kỳ loại công nghệ nào. “Không nhà cung cấp nào muốn bị coi là dễ bị hack hoặc chịu trách nhiệm về việc tiết lộ thông tin gây hại. Điều đó sẽ ảnh hưởng đến cơ sở người dùng và doanh thu của họ”, Markstedter nói.
Đó là lý do tại sao AI — với lần ra mắt công chúng đầy ấn tượng — đã giúp tạo ra trường hợp bảo mật. Nó giống như một câu chuyện cảnh báo về những chatbot có thể biến bạn thành thù và tại sao các doanh nghiệp phải coi trọng bảo mật ngay từ đầu.
