Homelander The Seven
I will laser every f****** one of you!
Thị trường chứng khoán vốn đã là một nơi khó đoán định, và giờ đây Ngân hàng Trung ương Anh (Bank of England - BoE) cảnh báo rằng việc áp dụng trí tuệ nhân tạo (AI) tạo sinh trong các thị trường tài chính có thể tạo ra một "văn hóa đơn lẻ" (monoculture - tình trạng mọi người cùng dựa vào một số ít mô hình AI) và khuếch đại biến động của thị trường chứng khoán hơn nữa. BoE đã trích dẫn một báo cáo của ủy ban chính sách tài chính của ngân hàng, cho rằng các bot tự trị có thể học được rằng sự biến động có thể mang lại lợi nhuận cho các công ty và cố tình thực hiện các hành động để làm rung chuyển thị trường.
Về cơ bản, ngân hàng lo ngại rằng cụm từ “buy the dip” (mua vào khi giá giảm) có thể bị các mô hình AI lợi dụng một cách bất chính và các sự kiện như "cú sập chớp nhoáng" (flash crash) khét tiếng năm 2010 có thể trở nên phổ biến hơn. Với việc chỉ một số ít mô hình nền tảng thống trị không gian AI, đặc biệt là những mô hình từ OpenAI và Anthropic, các công ty tài chính có thể hội tụ vào các chiến lược đầu tư tương tự và tạo ra hành vi bầy đàn (herd behavior).
Nhưng không chỉ dừng lại ở việc tuân theo các chiến lược tương tự, các mô hình AI hoạt động dựa trên hệ thống phần thưởng—khi chúng được huấn luyện bằng kỹ thuật học tăng cường từ phản hồi của con người, các mô hình học cách tạo ra câu trả lời sẽ nhận được phản hồi tích cực. Điều này đã dẫn đến những hành vi kỳ lạ, bao gồm việc các mô hình tạo ra thông tin sai lệch mà chúng biết sẽ vượt qua được sự kiểm duyệt. Khi các mô hình được hướng dẫn không bịa đặt thông tin, chúng đã được chứng minh là sẽ thực hiện các bước để che giấu hành vi của mình.
Nỗi lo sợ là các mô hình có thể hiểu rằng mục tiêu của chúng là tạo ra lợi nhuận cho nhà đầu tư và thực hiện điều đó thông qua các phương tiện phi đạo đức. Rốt cuộc, các mô hình AI không phải là con người và không tự bản năng hiểu được đúng sai. Báo cáo của ủy ban chính sách tài chính viết: Ví dụ, các mô hình có thể học được rằng các sự kiện căng thẳng làm tăng cơ hội kiếm lợi nhuận của chúng và do đó thực hiện các hành động chủ động để tăng khả năng xảy ra các sự kiện như vậy.
Giao dịch thuật toán tần suất cao (High-frequency algorithmic trading) vốn đã phổ biến trên Phố Wall, dẫn đến những biến động cổ phiếu đột ngột, khó lường. Trong những ngày gần đây, chỉ số S&P 500 đã tăng hơn 7% trước khi lao dốc trở lại sau khi một bài đăng trên mạng xã hội diễn giải sai bình luận của chính quyền Trump, gợi ý rằng họ sẽ tạm dừng thuế quan. Không khó để tưởng tượng một chatbot như Grok của X tiếp nhận thông tin này và thực hiện giao dịch dựa trên đó, gây ra tổn thất lớn cho một số người.
Nhìn chung, các mô hình AI có thể tạo ra rất nhiều hành vi khó đoán trước khi các nhà quản lý con người kịp thời kiểm soát. Các mô hình về cơ bản là những "hộp đen" (black boxes), và có thể rất khó để hiểu các lựa chọn và hành vi của chúng. Nhiều người đã lưu ý rằng việc Apple tích hợp AI tạo sinh vào sản phẩm của mình là không điển hình, vì công ty đã không thể kiểm soát hoàn toàn đầu ra của công nghệ, dẫn đến những trải nghiệm không như ý. Đó cũng là lý do tại sao có lo ngại về việc AI được sử dụng trong các lĩnh vực khác như chăm sóc sức khỏe, nơi cái giá của sai lầm là rất cao. Ít nhất khi con người kiểm soát, còn có người để quy trách nhiệm. Nếu một mô hình AI đang thao túng thị trường chứng khoán và các nhà quản lý của một công ty giao dịch không hiểu mô hình hoạt động như thế nào, liệu họ có thể chịu trách nhiệm về các vi phạm quy định như thao túng cổ phiếu không?
Chắc chắn rằng, có sự đa dạng về các mô hình AI hoạt động khác nhau, vì vậy không có gì đảm bảo rằng sẽ có những cú sập cổ phiếu đột ngột do đề xuất của một mô hình duy nhất. Và AI có thể được sử dụng để hợp lý hóa công việc hành chính, như viết email. Nhưng trong các lĩnh vực có mức độ chấp nhận sai sót thấp như tài chính, việc sử dụng AI rộng rãi có thể dẫn đến một số vấn đề nghiêm trọng.
Về cơ bản, ngân hàng lo ngại rằng cụm từ “buy the dip” (mua vào khi giá giảm) có thể bị các mô hình AI lợi dụng một cách bất chính và các sự kiện như "cú sập chớp nhoáng" (flash crash) khét tiếng năm 2010 có thể trở nên phổ biến hơn. Với việc chỉ một số ít mô hình nền tảng thống trị không gian AI, đặc biệt là những mô hình từ OpenAI và Anthropic, các công ty tài chính có thể hội tụ vào các chiến lược đầu tư tương tự và tạo ra hành vi bầy đàn (herd behavior).
Nhưng không chỉ dừng lại ở việc tuân theo các chiến lược tương tự, các mô hình AI hoạt động dựa trên hệ thống phần thưởng—khi chúng được huấn luyện bằng kỹ thuật học tăng cường từ phản hồi của con người, các mô hình học cách tạo ra câu trả lời sẽ nhận được phản hồi tích cực. Điều này đã dẫn đến những hành vi kỳ lạ, bao gồm việc các mô hình tạo ra thông tin sai lệch mà chúng biết sẽ vượt qua được sự kiểm duyệt. Khi các mô hình được hướng dẫn không bịa đặt thông tin, chúng đã được chứng minh là sẽ thực hiện các bước để che giấu hành vi của mình.
Nỗi lo sợ là các mô hình có thể hiểu rằng mục tiêu của chúng là tạo ra lợi nhuận cho nhà đầu tư và thực hiện điều đó thông qua các phương tiện phi đạo đức. Rốt cuộc, các mô hình AI không phải là con người và không tự bản năng hiểu được đúng sai. Báo cáo của ủy ban chính sách tài chính viết: Ví dụ, các mô hình có thể học được rằng các sự kiện căng thẳng làm tăng cơ hội kiếm lợi nhuận của chúng và do đó thực hiện các hành động chủ động để tăng khả năng xảy ra các sự kiện như vậy.
Giao dịch thuật toán tần suất cao (High-frequency algorithmic trading) vốn đã phổ biến trên Phố Wall, dẫn đến những biến động cổ phiếu đột ngột, khó lường. Trong những ngày gần đây, chỉ số S&P 500 đã tăng hơn 7% trước khi lao dốc trở lại sau khi một bài đăng trên mạng xã hội diễn giải sai bình luận của chính quyền Trump, gợi ý rằng họ sẽ tạm dừng thuế quan. Không khó để tưởng tượng một chatbot như Grok của X tiếp nhận thông tin này và thực hiện giao dịch dựa trên đó, gây ra tổn thất lớn cho một số người.
Nhìn chung, các mô hình AI có thể tạo ra rất nhiều hành vi khó đoán trước khi các nhà quản lý con người kịp thời kiểm soát. Các mô hình về cơ bản là những "hộp đen" (black boxes), và có thể rất khó để hiểu các lựa chọn và hành vi của chúng. Nhiều người đã lưu ý rằng việc Apple tích hợp AI tạo sinh vào sản phẩm của mình là không điển hình, vì công ty đã không thể kiểm soát hoàn toàn đầu ra của công nghệ, dẫn đến những trải nghiệm không như ý. Đó cũng là lý do tại sao có lo ngại về việc AI được sử dụng trong các lĩnh vực khác như chăm sóc sức khỏe, nơi cái giá của sai lầm là rất cao. Ít nhất khi con người kiểm soát, còn có người để quy trách nhiệm. Nếu một mô hình AI đang thao túng thị trường chứng khoán và các nhà quản lý của một công ty giao dịch không hiểu mô hình hoạt động như thế nào, liệu họ có thể chịu trách nhiệm về các vi phạm quy định như thao túng cổ phiếu không?
Chắc chắn rằng, có sự đa dạng về các mô hình AI hoạt động khác nhau, vì vậy không có gì đảm bảo rằng sẽ có những cú sập cổ phiếu đột ngột do đề xuất của một mô hình duy nhất. Và AI có thể được sử dụng để hợp lý hóa công việc hành chính, như viết email. Nhưng trong các lĩnh vực có mức độ chấp nhận sai sót thấp như tài chính, việc sử dụng AI rộng rãi có thể dẫn đến một số vấn đề nghiêm trọng.
