Hoàng Nam
Writer
Ngày 8/8, giờ địa phương, gã khổng lồ AI (trí tuệ nhân tạo) OpenAI thông báo bổ nhiệm Zico Kolter, giáo sư tại Đại học Carnegie Mellon, làm thành viên hội đồng quản trị.
Colter cũng sẽ tham gia Ủy ban An toàn của Hội đồng quản trị. Ủy ban được thành lập vào tháng Năm năm nay để đánh giá tính bảo mật của các dự án và hoạt động của OpenAI và đưa ra các khuyến nghị cho ban giám đốc. Các thành viên khác của ủy ban bao gồm Bret Taylor, Adam D'Angelo, Paul Nakasone, Nicole Seligman và Sam Altman (CEO của OpenAI).
Colter là một học giả nổi tiếng trong lĩnh vực AI và học máy, với lợi ích nghiên cứu về bảo mật và liên kết AI. Ông hiện là giáo sư và chủ tịch Khoa Học máy tại Đại học Carnegie Mellon, nơi ông đã dành 12 năm tập trung vào học sâu, phương pháp tối ưu hóa, sự mạnh mẽ và bảo mật của các hệ thống học máy. Ông nhận bằng tiến sĩ về Khoa học Máy tính tại Đại học Stanford vào năm 2010 và sau đó làm nghiên cứu sau tiến sĩ tại Viện Công nghệ Massachusetts.
Colter đã làm việc chặt chẽ với ngành công nghiệp AI, trước đây từng là Nhà khoa học dữ liệu trưởng cho C3.ai. C3.ai là nền tảng thu thập phần mềm AI một cửa duy nhất được xây dựng cho các doanh nghiệp. Hiện tại, ông cũng là Chuyên gia trưởng tại Bosch và Cố vấn kỹ thuật trưởng cho Gray Swan, một công ty bảo mật AI khởi nghiệp.
Điều đáng nói là trước khi gia nhập OpenAI, Colter và nhóm của mình đã thách thức tính bảo mật của các mô hình ngôn ngữ lớn như ChatGPT bằng mã đơn giản. Vào năm 2023, nhóm của ông đã phát triển một cách sáng tạo để tự động đánh giá tính bảo mật của các mô hình ngôn ngữ lớn, chứng minh tiềm năng vượt qua các biện pháp bảo vệ mô hình hiện có thông qua các kỹ thuật tối ưu hóa tự động.
Colter cho biết ông rất vui mừng thông báo tham gia hội đồng quản trị của OpenAI và mong muốn chia sẻ quan điểm và chuyên môn về sự an toàn và mạnh mẽ của AI để giúp hướng dẫn công việc tuyệt vời mà OpenAI đang làm.
Chào mừng Colter đến với hội đồng quản trị, Chủ tịch OpenAI Brett cho biết: "Corte đã bổ sung thêm sự hiểu biết và quan điểm kỹ thuật sâu sắc về sự an toàn và mạnh mẽ của AI, điều này sẽ giúp chúng tôi đảm bảo rằng AI nói chung mang lại lợi ích cho toàn nhân loại".
Những thay đổi nhân sự gần đây của OpenAI vẫn tiếp tục, và nhiều người đồng sáng lập và các nhân vật cốt lõi trong nhóm bảo mật và sản phẩm đã chọn rời đi.
Vào tháng 5 năm nay, đồng sáng lập và nhà khoa học trưởng của OpenAI, Ilya Sutskever, Jan Leike, người đứng đầu nhóm Super Alignment, lần lượt rời đi, và Super Alignment, nhóm bảo mật cốt lõi, đã bị giải tán.
Vào ngày 6 tháng 8, đồng sáng lập OpenAI John Schulman, người được đồn đại là đã tiếp quản tàn dư siêu liên kết, cho biết ông sẽ rời OpenAI để gia nhập một công ty khởi nghiệp AI khác, Anthropic (đối thủ cạnh tranh của OpenAI). Schulman gia nhập OpenAI chín năm trước khi thành lập và chịu trách nhiệm lãnh đạo việc đào tạo hậu kỳ của ChatGPT và API.
Đồng thời, theo báo cáo của truyền thông nước ngoài, những người quen thuộc với vấn đề này nói rằng Peter Deng, phó chủ tịch OpenAI và người đứng đầu ChatGPT, cũng đã rời đi. Ông đã nhiều lần nói trước công chúng rằng mô hình của OpenAI thực sự mạnh hơn bản phát hành và nó nên được đưa ra một cách thận trọng vì lý do an toàn. Và Greg Brockman, một người đồng sáng lập và chủ tịch khác của OpenAI, cũng nói rằng ông sẽ nghỉ phép dài hạn cho đến cuối năm nay. Ông nói rằng đó là "sự thư giãn đầu tiên" kể từ khi đồng sáng lập OpenAl chín năm trước và "sứ mệnh của chúng tôi còn lâu mới hoàn thành, và chúng tôi cũng cần xây dựng một AGl (Trí tuệ tổng hợp nhân tạo) an toàn"
Colter cũng sẽ tham gia Ủy ban An toàn của Hội đồng quản trị. Ủy ban được thành lập vào tháng Năm năm nay để đánh giá tính bảo mật của các dự án và hoạt động của OpenAI và đưa ra các khuyến nghị cho ban giám đốc. Các thành viên khác của ủy ban bao gồm Bret Taylor, Adam D'Angelo, Paul Nakasone, Nicole Seligman và Sam Altman (CEO của OpenAI).
Colter là một học giả nổi tiếng trong lĩnh vực AI và học máy, với lợi ích nghiên cứu về bảo mật và liên kết AI. Ông hiện là giáo sư và chủ tịch Khoa Học máy tại Đại học Carnegie Mellon, nơi ông đã dành 12 năm tập trung vào học sâu, phương pháp tối ưu hóa, sự mạnh mẽ và bảo mật của các hệ thống học máy. Ông nhận bằng tiến sĩ về Khoa học Máy tính tại Đại học Stanford vào năm 2010 và sau đó làm nghiên cứu sau tiến sĩ tại Viện Công nghệ Massachusetts.
Colter đã làm việc chặt chẽ với ngành công nghiệp AI, trước đây từng là Nhà khoa học dữ liệu trưởng cho C3.ai. C3.ai là nền tảng thu thập phần mềm AI một cửa duy nhất được xây dựng cho các doanh nghiệp. Hiện tại, ông cũng là Chuyên gia trưởng tại Bosch và Cố vấn kỹ thuật trưởng cho Gray Swan, một công ty bảo mật AI khởi nghiệp.
Điều đáng nói là trước khi gia nhập OpenAI, Colter và nhóm của mình đã thách thức tính bảo mật của các mô hình ngôn ngữ lớn như ChatGPT bằng mã đơn giản. Vào năm 2023, nhóm của ông đã phát triển một cách sáng tạo để tự động đánh giá tính bảo mật của các mô hình ngôn ngữ lớn, chứng minh tiềm năng vượt qua các biện pháp bảo vệ mô hình hiện có thông qua các kỹ thuật tối ưu hóa tự động.
Colter cho biết ông rất vui mừng thông báo tham gia hội đồng quản trị của OpenAI và mong muốn chia sẻ quan điểm và chuyên môn về sự an toàn và mạnh mẽ của AI để giúp hướng dẫn công việc tuyệt vời mà OpenAI đang làm.
Chào mừng Colter đến với hội đồng quản trị, Chủ tịch OpenAI Brett cho biết: "Corte đã bổ sung thêm sự hiểu biết và quan điểm kỹ thuật sâu sắc về sự an toàn và mạnh mẽ của AI, điều này sẽ giúp chúng tôi đảm bảo rằng AI nói chung mang lại lợi ích cho toàn nhân loại".
Những thay đổi nhân sự gần đây của OpenAI vẫn tiếp tục, và nhiều người đồng sáng lập và các nhân vật cốt lõi trong nhóm bảo mật và sản phẩm đã chọn rời đi.
Vào tháng 5 năm nay, đồng sáng lập và nhà khoa học trưởng của OpenAI, Ilya Sutskever, Jan Leike, người đứng đầu nhóm Super Alignment, lần lượt rời đi, và Super Alignment, nhóm bảo mật cốt lõi, đã bị giải tán.
Vào ngày 6 tháng 8, đồng sáng lập OpenAI John Schulman, người được đồn đại là đã tiếp quản tàn dư siêu liên kết, cho biết ông sẽ rời OpenAI để gia nhập một công ty khởi nghiệp AI khác, Anthropic (đối thủ cạnh tranh của OpenAI). Schulman gia nhập OpenAI chín năm trước khi thành lập và chịu trách nhiệm lãnh đạo việc đào tạo hậu kỳ của ChatGPT và API.
Đồng thời, theo báo cáo của truyền thông nước ngoài, những người quen thuộc với vấn đề này nói rằng Peter Deng, phó chủ tịch OpenAI và người đứng đầu ChatGPT, cũng đã rời đi. Ông đã nhiều lần nói trước công chúng rằng mô hình của OpenAI thực sự mạnh hơn bản phát hành và nó nên được đưa ra một cách thận trọng vì lý do an toàn. Và Greg Brockman, một người đồng sáng lập và chủ tịch khác của OpenAI, cũng nói rằng ông sẽ nghỉ phép dài hạn cho đến cuối năm nay. Ông nói rằng đó là "sự thư giãn đầu tiên" kể từ khi đồng sáng lập OpenAl chín năm trước và "sứ mệnh của chúng tôi còn lâu mới hoàn thành, và chúng tôi cũng cần xây dựng một AGl (Trí tuệ tổng hợp nhân tạo) an toàn"
