Nhóm nghiên cứu của Giáo sư Fang Lu từ Khoa Kỹ thuật Điện tử và nhóm nghiên cứu của Viện sĩ Dai Qionghai từ Khoa Tự động hóa của Đại học Thanh Hoa (Trung Quốc) đã đi tiên phong trong kiến trúc đào tạo điện toán quang thông minh toàn diện và phát triển "Tai Chip đào tạo quang học Chi-II". Các kết quả nghiên cứu liên quan đã được công bố trên tạp chí học thuật quốc tế hàng đầu Nature hôm thứ Tư tuần này.
Khoa Kỹ thuật Điện tử của Đại học Thanh Hoa đã đưa ra một bài báo nói rằng sự ra mắt của Taichi-II đã lấp đầy khoảng trống trong bài toán cốt lõi về điện toán quang học thông minh trong đào tạo quy mô lớn.
Điện toán quang học có đặc điểm là sức mạnh tính toán cao và mức tiêu thụ điện năng thấp, đồng thời là hướng đi tiên tiến để tăng tốc tính toán thông minh. Nhà phê bình Nature đã đề cập trong các nhận xét đánh giá rằng "ý tưởng được đề xuất trong bài viết này rất mới lạ và quy trình đào tạo của loại mạng thần kinh quang học (ONN) này là chưa từng có. Phương pháp được đề xuất không chỉ hiệu quả mà còn dễ thực hiện". Do đó, nó hứa hẹn sẽ trở thành một công cụ được áp dụng rộng rãi để đào tạo mạng lưới thần kinh quang học và các hệ thống máy tính quang học khác.
Khoa Kỹ thuật Điện tử của Đại học Thanh Hoa là đơn vị đứng đầu tiên của bài báo. Giáo sư Fang Lu và Giáo sư Dai Qionghai là đồng tác giả của bài báo. Nghiên cứu sinh tiến sĩ Xue Zhiwei và nghiên cứu sinh sau tiến sĩ Zhou Tiankui thuộc Khoa Kỹ thuật Điện tử, nghiên cứu sinh Xu Zhihao của Khoa Điện tử và Tiến sĩ Yu Shaoliang của Phòng thí nghiệm Zhijiang đã tham gia vào công việc này. Dự án này được hỗ trợ bởi Bộ Khoa học và Công nghệ, Quỹ Khoa học Tự nhiên Quốc gia Trung Quốc, Trung tâm Nghiên cứu Khoa học và Công nghệ Thông tin Quốc gia Bắc Kinh và Trung tâm Nghiên cứu Liên hợp Phòng thí nghiệm Đại học Thanh Hoa-Chi Giang.
Đây là bản nâng cấp đáng kể so với chip Taichi trước đó mà các nhà nghiên cứu cho biết vào tháng 4 đã vượt hiệu suất năng lượng của GPU H100 của Nvidia hơn một nghìn lần.
Đào tạo trí tuệ nhân tạo bằng chip Taichi đòi hỏi sự hỗ trợ của máy tính điện tử. Nhưng Taichi-II có thể được sử dụng để mô hình hóa và đào tạo hoàn toàn dựa trên ánh sáng – và điều đó đã làm cho nó hiệu quả hơn nhiều và cải thiện hiệu suất, theo nhóm nghiên cứu.
Họ cho biết trong bài báo rằng việc nâng cấp là một bước quan trọng đối với máy tính quang học và có thể giúp đưa nó từ giai đoạn lý thuyết sang các ứng dụng thử nghiệm quy mô lớn, cũng như giải quyết nhu cầu ngày càng tăng về sức mạnh tính toán với mức tiêu thụ năng lượng thấp.
Nó cũng có thể cung cấp một giải pháp thay thế sau khi Hoa Kỳ hạn chế quyền truy cập của Trung Quốc vào bộ xử lý đồ họa mạnh nhất, hay GPU, chip dùng để đào tạo AI.
Theo bài báo, hiệu suất của Taichi-II được đánh giá là vượt trội hơn so với phiên bản tiền nhiệm trong nhiều tình huống khác nhau.
Nó đẩy nhanh quá trình đào tạo các mạng quang học với hàng triệu tham số theo cấp số nhân và tăng độ chính xác của nhiệm vụ phân loại lên 40 phần trăm.
Trong lĩnh vực chụp ảnh bối cảnh phức tạp, hiệu suất năng lượng của Taichi-II trong môi trường thiếu sáng đã được cải thiện gấp sáu lần.
Fang cho biết các phương pháp AI quang học thông thường thường liên quan đến việc mô phỏng mạng nơ-ron nhân tạo điện tử trên kiến trúc quang tử - dựa trên ánh sáng - được thiết kế trên máy tính điện tử.
Bà cho biết: “Do sự không hoàn hảo của hệ thống và sự phức tạp của quá trình truyền sóng ánh sáng, việc mô hình hóa chính xác hoàn toàn một hệ thống quang học nói chung là điều không thể và luôn xảy ra sự không khớp giữa mô hình ngoại tuyến và hệ thống thực tế”.
Để vượt qua những thách thức này, nhóm đã phát triển một phương pháp trong đó quá trình đào tạo chuyên sâu về máy tính được thực hiện trực tiếp trên chip quang học – do đó, hầu hết quá trình học máy có thể được thực hiện song song. Họ gọi đây là chế độ học hoàn toàn chuyển tiếp, hay FFM.
Xue Zhiwei, tác giả chính của nghiên cứu và là nghiên cứu sinh tiến sĩ, đã viết: "Kiến trúc này cho phép đào tạo có độ chính xác cao và hỗ trợ đào tạo mạng quy mô lớn".
Học FFM tận dụng các bộ điều biến và bộ dò quang tốc độ cao có sẵn trên thị trường và có thể hoạt động tốt hơn GPU về mặt học tăng tốc.
Fang cho biết: “Nghiên cứu của chúng tôi hình dung ra một tương lai mà những con chip này sẽ tạo thành nền tảng cho sức mạnh tính toán quang học để xây dựng mô hình AI”.
Nguồn: Global Times
Khoa Kỹ thuật Điện tử của Đại học Thanh Hoa đã đưa ra một bài báo nói rằng sự ra mắt của Taichi-II đã lấp đầy khoảng trống trong bài toán cốt lõi về điện toán quang học thông minh trong đào tạo quy mô lớn.
Điện toán quang học có đặc điểm là sức mạnh tính toán cao và mức tiêu thụ điện năng thấp, đồng thời là hướng đi tiên tiến để tăng tốc tính toán thông minh. Nhà phê bình Nature đã đề cập trong các nhận xét đánh giá rằng "ý tưởng được đề xuất trong bài viết này rất mới lạ và quy trình đào tạo của loại mạng thần kinh quang học (ONN) này là chưa từng có. Phương pháp được đề xuất không chỉ hiệu quả mà còn dễ thực hiện". Do đó, nó hứa hẹn sẽ trở thành một công cụ được áp dụng rộng rãi để đào tạo mạng lưới thần kinh quang học và các hệ thống máy tính quang học khác.
Khoa Kỹ thuật Điện tử của Đại học Thanh Hoa là đơn vị đứng đầu tiên của bài báo. Giáo sư Fang Lu và Giáo sư Dai Qionghai là đồng tác giả của bài báo. Nghiên cứu sinh tiến sĩ Xue Zhiwei và nghiên cứu sinh sau tiến sĩ Zhou Tiankui thuộc Khoa Kỹ thuật Điện tử, nghiên cứu sinh Xu Zhihao của Khoa Điện tử và Tiến sĩ Yu Shaoliang của Phòng thí nghiệm Zhijiang đã tham gia vào công việc này. Dự án này được hỗ trợ bởi Bộ Khoa học và Công nghệ, Quỹ Khoa học Tự nhiên Quốc gia Trung Quốc, Trung tâm Nghiên cứu Khoa học và Công nghệ Thông tin Quốc gia Bắc Kinh và Trung tâm Nghiên cứu Liên hợp Phòng thí nghiệm Đại học Thanh Hoa-Chi Giang.
Đây là bản nâng cấp đáng kể so với chip Taichi trước đó mà các nhà nghiên cứu cho biết vào tháng 4 đã vượt hiệu suất năng lượng của GPU H100 của Nvidia hơn một nghìn lần.
Đào tạo trí tuệ nhân tạo bằng chip Taichi đòi hỏi sự hỗ trợ của máy tính điện tử. Nhưng Taichi-II có thể được sử dụng để mô hình hóa và đào tạo hoàn toàn dựa trên ánh sáng – và điều đó đã làm cho nó hiệu quả hơn nhiều và cải thiện hiệu suất, theo nhóm nghiên cứu.
Họ cho biết trong bài báo rằng việc nâng cấp là một bước quan trọng đối với máy tính quang học và có thể giúp đưa nó từ giai đoạn lý thuyết sang các ứng dụng thử nghiệm quy mô lớn, cũng như giải quyết nhu cầu ngày càng tăng về sức mạnh tính toán với mức tiêu thụ năng lượng thấp.
Nó cũng có thể cung cấp một giải pháp thay thế sau khi Hoa Kỳ hạn chế quyền truy cập của Trung Quốc vào bộ xử lý đồ họa mạnh nhất, hay GPU, chip dùng để đào tạo AI.
Theo bài báo, hiệu suất của Taichi-II được đánh giá là vượt trội hơn so với phiên bản tiền nhiệm trong nhiều tình huống khác nhau.
Nó đẩy nhanh quá trình đào tạo các mạng quang học với hàng triệu tham số theo cấp số nhân và tăng độ chính xác của nhiệm vụ phân loại lên 40 phần trăm.
Trong lĩnh vực chụp ảnh bối cảnh phức tạp, hiệu suất năng lượng của Taichi-II trong môi trường thiếu sáng đã được cải thiện gấp sáu lần.
Fang cho biết các phương pháp AI quang học thông thường thường liên quan đến việc mô phỏng mạng nơ-ron nhân tạo điện tử trên kiến trúc quang tử - dựa trên ánh sáng - được thiết kế trên máy tính điện tử.
Bà cho biết: “Do sự không hoàn hảo của hệ thống và sự phức tạp của quá trình truyền sóng ánh sáng, việc mô hình hóa chính xác hoàn toàn một hệ thống quang học nói chung là điều không thể và luôn xảy ra sự không khớp giữa mô hình ngoại tuyến và hệ thống thực tế”.
Để vượt qua những thách thức này, nhóm đã phát triển một phương pháp trong đó quá trình đào tạo chuyên sâu về máy tính được thực hiện trực tiếp trên chip quang học – do đó, hầu hết quá trình học máy có thể được thực hiện song song. Họ gọi đây là chế độ học hoàn toàn chuyển tiếp, hay FFM.
Xue Zhiwei, tác giả chính của nghiên cứu và là nghiên cứu sinh tiến sĩ, đã viết: "Kiến trúc này cho phép đào tạo có độ chính xác cao và hỗ trợ đào tạo mạng quy mô lớn".
Học FFM tận dụng các bộ điều biến và bộ dò quang tốc độ cao có sẵn trên thị trường và có thể hoạt động tốt hơn GPU về mặt học tăng tốc.
Fang cho biết: “Nghiên cứu của chúng tôi hình dung ra một tương lai mà những con chip này sẽ tạo thành nền tảng cho sức mạnh tính toán quang học để xây dựng mô hình AI”.
Nguồn: Global Times
