Mẫn Nhi✔
Admin xinh gái
Trong lúc tăng tốc hướng tới đợt IPO quy mô lớn, OpenAI tiếp tục giải tán Preparedness – nhóm chuyên trách đánh giá các mối nguy hiểm nghiêm trọng từ mô hình trí tuệ nhân tạo, làm dấy lên lo ngại về việc công ty đang hy sinh rào chắn an toàn để đổi lấy tốc độ thương mại hóa.
Quyết định giải tán vào cuối tháng trước đồng nghĩa với việc bộ phận độc lập này không còn tồn tại. Thay vì duy trì một nhóm riêng, trách nhiệm giám sát được chia nhỏ theo từng lĩnh vực cụ thể như an ninh mạng (cyber) và sinh học (bio), sau đó sáp nhập thẳng vào các nhóm vận hành sẵn có trong công ty.
Đáng chú ý, Dylan Scandinaro – người từng được OpenAI chiêu mộ từ đối thủ Anthropic vào tháng 2 để dẫn dắt nhóm Preparedness – giờ đây sẽ chuyển hướng sang tập trung vào các vấn đề xoay quanh AI tự cải tiến đệ quy (recursive self-improving).
Song song với việc xóa sổ các nhóm giám sát là làn sóng rời đi của hàng loạt nhân sự phụ trách an toàn và đạo đức. Trưởng bộ phận đạo đức Chloé Bakalar, Giám đốc tương lai Josh Achiam và Trưởng bộ phận an toàn Johannes Heidecke đều đã chia tay công ty trong thời gian gần đây.
Tình trạng này càng củng cố thêm lời cảnh báo từ những người từng rời đi như Jan Leike. Khi từ chức vào năm 2024, cựu chuyên gia an toàn này từng thẳng thắn cho rằng OpenAI đang dần phớt lờ yếu tố an toàn cốt lõi chỉ để dồn sức tạo ra những "sản phẩm bóng bẩy". Khi áp lực thương mại và kỳ vọng về một đợt IPO bùng nổ ngày càng đè nặng, có vẻ như tốc độ ra mắt tính năng mới đang là thứ được đặt lên trên hết.
Thêm một chốt chặn an toàn bị chia nhỏ
Nhóm Preparedness vốn được lập ra để đảm nhận nhiệm vụ phức tạp: đánh giá xem các mô hình AI có nguy cơ gây ra rủi ro thảm họa hay không – chẳng hạn như khả năng AI tự phát triển vượt tầm kiểm soát hoặc tấn công mạng vào các tổ chức khác – từ đó xây dựng giải pháp phòng ngừa.Quyết định giải tán vào cuối tháng trước đồng nghĩa với việc bộ phận độc lập này không còn tồn tại. Thay vì duy trì một nhóm riêng, trách nhiệm giám sát được chia nhỏ theo từng lĩnh vực cụ thể như an ninh mạng (cyber) và sinh học (bio), sau đó sáp nhập thẳng vào các nhóm vận hành sẵn có trong công ty.
Đáng chú ý, Dylan Scandinaro – người từng được OpenAI chiêu mộ từ đối thủ Anthropic vào tháng 2 để dẫn dắt nhóm Preparedness – giờ đây sẽ chuyển hướng sang tập trung vào các vấn đề xoay quanh AI tự cải tiến đệ quy (recursive self-improving).
Dấu hỏi về ưu tiên phát triển trước thềm IPO
Động thái này nối dài chuỗi xáo trộn nội bộ tại OpenAI. Trước đó, công ty đã lần lượt khai tử các nhóm nghiên cứu mang tính dài hạn như Superalignment hay nhóm đánh giá mức độ sẵn sàng đón nhận AGI (AGI readiness).Song song với việc xóa sổ các nhóm giám sát là làn sóng rời đi của hàng loạt nhân sự phụ trách an toàn và đạo đức. Trưởng bộ phận đạo đức Chloé Bakalar, Giám đốc tương lai Josh Achiam và Trưởng bộ phận an toàn Johannes Heidecke đều đã chia tay công ty trong thời gian gần đây.
Tình trạng này càng củng cố thêm lời cảnh báo từ những người từng rời đi như Jan Leike. Khi từ chức vào năm 2024, cựu chuyên gia an toàn này từng thẳng thắn cho rằng OpenAI đang dần phớt lờ yếu tố an toàn cốt lõi chỉ để dồn sức tạo ra những "sản phẩm bóng bẩy". Khi áp lực thương mại và kỳ vọng về một đợt IPO bùng nổ ngày càng đè nặng, có vẻ như tốc độ ra mắt tính năng mới đang là thứ được đặt lên trên hết.
