Trường Sơn✔
Writer
Seed, đơn vị nghiên cứu trí tuệ nhân tạo của tập đoàn công nghệ khổng lồ ByteDance của Trung Quốc, đã thành lập một nhóm "Đồng bộ hóa & Chuẩn bị" và khởi động một chiến dịch toàn cầu để tuyển dụng 10 nhà nghiên cứu, cho biết họ sẽ đầu tư dài hạn vào sự an toàn của trí tuệ nhân tạo cho các mô hình ngày càng tiên tiến của mình.
Việc đẩy mạnh tuyển dụng diễn ra trong bối cảnh sự an toàn của các tác nhân AI đang bị giám sát chặt chẽ hơn ở Trung Quốc và Mỹ, đặc biệt là khi các nhà phát triển trao cho chúng quyền tự chủ truy cập Internet.
Sự phù hợp của AI đề cập đến những nỗ lực nhằm đảm bảo các hệ thống AI tiên tiến hoạt động phù hợp với mục tiêu của con người và các yêu cầu an toàn, đặc biệt là khi thực hiện các nhiệm vụ phức tạp, nhiều bước.
Thông báo của ByteDance là một trong số ít những tiết lộ công khai từ một nhà phát triển trí tuệ nhân tạo lớn của Trung Quốc về nỗ lực chuyên tâm tập trung vào sự an toàn, sự phù hợp và sự chuẩn bị cho các rủi ro mới nổi của các mô hình tiên tiến.
Tờ Bành Phái tân văn đưa tin hôm thứ Ba (13/10) rằng Seed là phòng thí nghiệm trí tuệ nhân tạo tiên tiến đầu tiên của Trung Quốc thành lập một bộ phận an toàn và điều chỉnh độc lập.
Động thái này cũng diễn ra trong bối cảnh các cuộc thảo luận rộng rãi hơn giữa Mỹ và Trung Quốc về các biện pháp bảo vệ AI, rủi ro an toàn và các kênh liên lạc về các sự cố lớn liên quan đến AI, ngay cả khi hai nước đang cạnh tranh để giành vị trí dẫn đầu trong lĩnh vực AI tiên tiến.
Seed cho biết trong một bài đăng tuyển dụng trên tài khoản WeChat chính thức của mình hôm thứ Tư rằng, khi khả năng của mô hình được cải thiện, an toàn và sự phù hợp không còn chỉ đơn thuần là các biện pháp bảo vệ chống lại rủi ro mà là các khả năng cốt lõi sẽ quyết định liệu các mô hình có thể được triển khai trên quy mô lớn hay không.
Seed cho biết họ sẽ cung cấp cho nhóm mới năng lực tính toán và nguồn lực nghiên cứu tương đương với những gì có sẵn cho các nhóm tiên phong. Các vị trí này đặt tại Bắc Kinh, Thượng Hải và San Jose, California.
Nghiên cứu này sẽ bao gồm đào tạo an toàn xuyên suốt các giai đoạn phát triển mô hình, kiểm thử tự động các lỗ hổng bảo mật, các công cụ để giám sát và giải thích hành vi của mô hình, môi trường thử nghiệm tác nhân AI và chuẩn bị cho các rủi ro mới nổi.
Seed cho biết họ cũng sẽ tìm kiếm các thử nghiệm độc lập và hợp tác với các trường đại học và viện nghiên cứu, áp dụng nghiên cứu an toàn trong quá trình đào tạo, đánh giá và triển khai mô hình.
Việc đẩy mạnh tuyển dụng diễn ra trong bối cảnh sự an toàn của các tác nhân AI đang bị giám sát chặt chẽ hơn ở Trung Quốc và Mỹ, đặc biệt là khi các nhà phát triển trao cho chúng quyền tự chủ truy cập Internet.
Sự phù hợp của AI đề cập đến những nỗ lực nhằm đảm bảo các hệ thống AI tiên tiến hoạt động phù hợp với mục tiêu của con người và các yêu cầu an toàn, đặc biệt là khi thực hiện các nhiệm vụ phức tạp, nhiều bước.
Thông báo của ByteDance là một trong số ít những tiết lộ công khai từ một nhà phát triển trí tuệ nhân tạo lớn của Trung Quốc về nỗ lực chuyên tâm tập trung vào sự an toàn, sự phù hợp và sự chuẩn bị cho các rủi ro mới nổi của các mô hình tiên tiến.
Tờ Bành Phái tân văn đưa tin hôm thứ Ba (13/10) rằng Seed là phòng thí nghiệm trí tuệ nhân tạo tiên tiến đầu tiên của Trung Quốc thành lập một bộ phận an toàn và điều chỉnh độc lập.
Động thái này cũng diễn ra trong bối cảnh các cuộc thảo luận rộng rãi hơn giữa Mỹ và Trung Quốc về các biện pháp bảo vệ AI, rủi ro an toàn và các kênh liên lạc về các sự cố lớn liên quan đến AI, ngay cả khi hai nước đang cạnh tranh để giành vị trí dẫn đầu trong lĩnh vực AI tiên tiến.
Seed cho biết trong một bài đăng tuyển dụng trên tài khoản WeChat chính thức của mình hôm thứ Tư rằng, khi khả năng của mô hình được cải thiện, an toàn và sự phù hợp không còn chỉ đơn thuần là các biện pháp bảo vệ chống lại rủi ro mà là các khả năng cốt lõi sẽ quyết định liệu các mô hình có thể được triển khai trên quy mô lớn hay không.
Seed cho biết họ sẽ cung cấp cho nhóm mới năng lực tính toán và nguồn lực nghiên cứu tương đương với những gì có sẵn cho các nhóm tiên phong. Các vị trí này đặt tại Bắc Kinh, Thượng Hải và San Jose, California.
Nghiên cứu này sẽ bao gồm đào tạo an toàn xuyên suốt các giai đoạn phát triển mô hình, kiểm thử tự động các lỗ hổng bảo mật, các công cụ để giám sát và giải thích hành vi của mô hình, môi trường thử nghiệm tác nhân AI và chuẩn bị cho các rủi ro mới nổi.
Seed cho biết họ cũng sẽ tìm kiếm các thử nghiệm độc lập và hợp tác với các trường đại học và viện nghiên cứu, áp dụng nghiên cứu an toàn trong quá trình đào tạo, đánh giá và triển khai mô hình.
