Hư Trúc✔
Writer
Hàng loạt đột phá toán học vừa được OpenAI công bố rầm rộ đang vấp phải làn sóng phản ứng dữ dội từ chính giới nghiên cứu, khi ngày càng nhiều chuyên gia đặt dấu hỏi liệu AI của hãng có đang âm thầm “học lỏm” chất xám từ các đoạn chat chưa từng xuất bản để về đích trước họ.
Sau những màn ăn mừng rầm rộ về khả năng giải toán cấp độ đỉnh cao của AI, OpenAI đang phải đối mặt với một vấn đề hóc búa khác đến từ đời thực: sự bất bình của cộng đồng học thuật. Mới đây, nhà toán học Andreas Thom đã công khai chỉ trích hãng công nghệ này thiếu minh bạch và có hành vi không trung thực, chỉ ít ngày sau khi một cuộc tranh cãi tương tự nổ ra quanh việc liệu các mô hình của OpenAI có được hưởng lợi từ những nghiên cứu chưa hề công bố hay không.
OpenAI tuyên bố giải được phương trình Navier-Stokes bằng 10.000 AI agent, từ chối nhận giải thưởng 1 triệu USD
Đáng nói là sau khi công bố kết quả về nhóm non-sofic, OpenAI đã hứng bão chỉ trích từ giới toán học vì phớt lờ hoàn toàn các đóng góp gần đây của Thom và đồng nghiệp Gábor Kun. Hãng sau đó đã âm thầm chỉnh sửa lại bài viết để bổ sung thừa nhận rằng kết quả của họ dựa rất nhiều vào công trình của hai người.
Tuy nhiên, điều khiến Thom băn khoăn hơn cả là OpenAI nắm bắt cực kỳ chi tiết các kỹ thuật do ông phát triển. Vào thời điểm đó, những kỹ thuật này hoàn toàn không phải là con đường hiển nhiên hay hứa hẹn nhất để giải quyết bài toán. Sự trùng hợp khó hiểu này khiến ông liên tưởng đến trường hợp của Tristan Buckmaster, giáo sư toán học tại Đại học New York, người trước đó cũng từng công khai đặt nghi vấn về việc AI của OpenAI đã hưởng lợi từ những lần ông sử dụng công cụ Codex.
Câu trả lời nhận lại chỉ khiến nhà toán học thêm bức xúc. Đại diện phía OpenAI chỉ giải thích rằng cuộc trò chuyện không bị truy cập trực tiếp trong quá trình giải bài toán, nhưng né tránh hoàn toàn câu hỏi liệu chúng đã được đưa vào kho dữ liệu khổng lồ dùng để cải thiện mô hình hay chưa. Thom cho rằng cách trả lời chắc nịch này gây hiểu lầm nghiêm trọng và không trung thực, bởi người dùng thông thường không có công cụ hay quyền hạn để mổ xẻ quy trình huấn luyện của OpenAI. Trách nhiệm chứng minh thuộc về công ty, và họ cần công khai các tập dữ liệu liên quan thay vì đưa ra những lời thanh minh chung chung.
Cách né tránh này thực chất lặp lại đúng bài vở mà OpenAI từng dùng khi bảo vệ lời giải cho bài toán Thiên niên kỷ Navier-Stokes về chuyển động của chất lỏng. Khi đó, trước các câu hỏi từ Buckmaster, OpenAI một mực khẳng định các nhà nghiên cứu và tác tử AI không hề xem bất kỳ dữ liệu người dùng cụ thể nào. Dẫu vậy, hãng lại thòng thêm một câu rằng không thể loại trừ khả năng các dữ liệu ẩn danh thu được từ quá trình sử dụng sản phẩm đã giúp cải thiện mô hình.
Với một nhà toán học, lập luận này chẳng khác nào trò đánh tráo khái niệm. Việc ẩn danh có thể xóa đi một cái tên hay địa chỉ tài khoản, nhưng không thể xóa đi giá trị nội dung và ý tưởng toán học cốt lõi nằm bên trong đoạn trao đổi.
Đáng chú ý, thành tựu giải bài toán Thiên niên kỷ vốn là một cột mốc phi thường, nhưng xuất phát điểm của nó lại bắt nguồn từ một tình huống trớ trêu. OpenAI thừa nhận họ lao vào giải bài toán chỉ vì nghe "phong phanh" trên mạng rằng có một nhóm nghiên cứu bên ngoài sắp đạt bước tiến lớn, nên công ty quyết định thử sức chen chân vào cuộc đua.
Những diễn biến liên tiếp này đang để lại dư vị đắng ngắt trong giới toán học. Nhiều nhà nghiên cứu bày tỏ sự e ngại rằng nếu tình trạng này tiếp diễn, giới học thuật sẽ buộc phải lui vào trạng thái khép kín và bảo mật tuyệt đối. Không ai dám cởi mở hay vô tư tương tác với các công cụ số nữa, khi họ biết rằng chỉ một tin đồn le lói về tiến độ nghiên cứu cũng đủ để kích hoạt một cuộc chạy đua giành hào quang từ những cỗ máy công nghệ thừa tiền và thiếu minh bạch.
Sau những màn ăn mừng rầm rộ về khả năng giải toán cấp độ đỉnh cao của AI, OpenAI đang phải đối mặt với một vấn đề hóc búa khác đến từ đời thực: sự bất bình của cộng đồng học thuật. Mới đây, nhà toán học Andreas Thom đã công khai chỉ trích hãng công nghệ này thiếu minh bạch và có hành vi không trung thực, chỉ ít ngày sau khi một cuộc tranh cãi tương tự nổ ra quanh việc liệu các mô hình của OpenAI có được hưởng lợi từ những nghiên cứu chưa hề công bố hay không.
OpenAI tuyên bố giải được phương trình Navier-Stokes bằng 10.000 AI agent, từ chối nhận giải thưởng 1 triệu USD
Khi AI bỗng dưng thông thạo cả những ngóc ngách kỳ lạ
Mọi chuyện bắt đầu từ bài đăng của Andreas Thom trên mạng xã hội Mastodon. Ông đặt nghi vấn rằng các tương tác chuyên môn giữa mình, các đồng nghiệp và ChatGPT trước đó rất có thể đã góp phần tạo nên chiến thắng cho OpenAI. Trong số 10 kết quả toán học được công ty công bố đầy tự hào vào tháng trước, có một phần thuộc đúng chuyên môn sâu của Thom: nhóm non-sofic, cấu trúc toán học vô hạn không thể xấp xỉ bằng các cấu trúc hữu hạn.Đáng nói là sau khi công bố kết quả về nhóm non-sofic, OpenAI đã hứng bão chỉ trích từ giới toán học vì phớt lờ hoàn toàn các đóng góp gần đây của Thom và đồng nghiệp Gábor Kun. Hãng sau đó đã âm thầm chỉnh sửa lại bài viết để bổ sung thừa nhận rằng kết quả của họ dựa rất nhiều vào công trình của hai người.
Tuy nhiên, điều khiến Thom băn khoăn hơn cả là OpenAI nắm bắt cực kỳ chi tiết các kỹ thuật do ông phát triển. Vào thời điểm đó, những kỹ thuật này hoàn toàn không phải là con đường hiển nhiên hay hứa hẹn nhất để giải quyết bài toán. Sự trùng hợp khó hiểu này khiến ông liên tưởng đến trường hợp của Tristan Buckmaster, giáo sư toán học tại Đại học New York, người trước đó cũng từng công khai đặt nghi vấn về việc AI của OpenAI đã hưởng lợi từ những lần ông sử dụng công cụ Codex.
Đòn chơi chữ quanh cụm từ "dữ liệu ẩn danh"
Để làm rõ nghi vấn, Thom đã gửi thư điện tử cho các nhà nghiên cứu của OpenAI là Sébastien Bubeck và Mark Sellke, một nhà thống kê tại Harvard, nhằm hỏi thẳng xem liệu các đoạn chat của ông với ChatGPT có nằm trong tập dữ liệu huấn luyện hoặc tham gia vào quá trình suy luận của mô hình hay không.Câu trả lời nhận lại chỉ khiến nhà toán học thêm bức xúc. Đại diện phía OpenAI chỉ giải thích rằng cuộc trò chuyện không bị truy cập trực tiếp trong quá trình giải bài toán, nhưng né tránh hoàn toàn câu hỏi liệu chúng đã được đưa vào kho dữ liệu khổng lồ dùng để cải thiện mô hình hay chưa. Thom cho rằng cách trả lời chắc nịch này gây hiểu lầm nghiêm trọng và không trung thực, bởi người dùng thông thường không có công cụ hay quyền hạn để mổ xẻ quy trình huấn luyện của OpenAI. Trách nhiệm chứng minh thuộc về công ty, và họ cần công khai các tập dữ liệu liên quan thay vì đưa ra những lời thanh minh chung chung.
Cách né tránh này thực chất lặp lại đúng bài vở mà OpenAI từng dùng khi bảo vệ lời giải cho bài toán Thiên niên kỷ Navier-Stokes về chuyển động của chất lỏng. Khi đó, trước các câu hỏi từ Buckmaster, OpenAI một mực khẳng định các nhà nghiên cứu và tác tử AI không hề xem bất kỳ dữ liệu người dùng cụ thể nào. Dẫu vậy, hãng lại thòng thêm một câu rằng không thể loại trừ khả năng các dữ liệu ẩn danh thu được từ quá trình sử dụng sản phẩm đã giúp cải thiện mô hình.
Với một nhà toán học, lập luận này chẳng khác nào trò đánh tráo khái niệm. Việc ẩn danh có thể xóa đi một cái tên hay địa chỉ tài khoản, nhưng không thể xóa đi giá trị nội dung và ý tưởng toán học cốt lõi nằm bên trong đoạn trao đổi.
Bầu không khí dè chừng bao trùm giới nghiên cứu
Thom nhấn mạnh rằng việc dùng nghiên cứu chưa công bố do người dùng đưa lên để nâng cấp mô hình, rồi dùng chính mô hình đó để chạy đua công bố trước mặt họ mà không xin phép hay ghi nhận là hành vi khó có thể chấp nhận về mặt đạo đức.Đáng chú ý, thành tựu giải bài toán Thiên niên kỷ vốn là một cột mốc phi thường, nhưng xuất phát điểm của nó lại bắt nguồn từ một tình huống trớ trêu. OpenAI thừa nhận họ lao vào giải bài toán chỉ vì nghe "phong phanh" trên mạng rằng có một nhóm nghiên cứu bên ngoài sắp đạt bước tiến lớn, nên công ty quyết định thử sức chen chân vào cuộc đua.
Những diễn biến liên tiếp này đang để lại dư vị đắng ngắt trong giới toán học. Nhiều nhà nghiên cứu bày tỏ sự e ngại rằng nếu tình trạng này tiếp diễn, giới học thuật sẽ buộc phải lui vào trạng thái khép kín và bảo mật tuyệt đối. Không ai dám cởi mở hay vô tư tương tác với các công cụ số nữa, khi họ biết rằng chỉ một tin đồn le lói về tiến độ nghiên cứu cũng đủ để kích hoạt một cuộc chạy đua giành hào quang từ những cỗ máy công nghệ thừa tiền và thiếu minh bạch.
