ThanhDat
Writer
Brian Anderson, Giám đốc điều hành của Liên minh AI chăm sóc sức khỏe (CHAI), trình bày câu lạc bộ về tương lai hợp tác công tư trong phát triển trí tuệ nhân tạo (AI) y tế dưới thời chính quyền Biden. Ông nhấn mạnh sự cần thiết của việc xây dựng mã vạch AI có trách nhiệm dựa trên sự đồng thuận giữa khu vực tư nhân và các cơ chế quản lý để đảm bảo ứng dụng AI an toàn và hiệu quả.
Một ý tưởng sáng tạo đáng chú ý là phát triển "thẻ mô hình AI" hoặc "nhãn dinh dưỡng AI" , giúp truyền tải thông tin dễ hiểu về quá trình phát triển và hoạt động của các mô hình AI. Vào tháng này, CHAI đã công bố phiên bản mở nguồn mã hóa của mẫu thẻ mô hình AI và đang thu thập phản hồi để cải tiến trước khi phát triển biểu thức chính thức. Anderson khẳng định mẫu thẻ này phù hợp với các quy tắc hiện hành của FDA và Văn phòng Điều phối quốc gia về công nghệ chăm sóc sức khỏe (ONC) , có thể đạt được sự đồng thuận giữa các cơ quan và tư vấn về cách quản lý lý do AI trong y tế.
Gần đây, FDA đã đưa ra hướng dẫn dự thảo về vòng đời sản phẩm hỗ trợ AI, bao gồm thiết kế, phát triển và bảo trì, hướng dẫn cải thiện tính minh bạch và lòng người dùng. Nghiên cứu đã tìm thấy thẻ mô hình AI Nghiên cứu có thể tăng cường sự tin tưởng và hiểu biết của các bên liên quan như bệnh nhân, bác sĩ, nhà nghiên cứu và cơ quan quản lý . Anderson cho rằng việc cập nhật xác định bất kỳ thẻ này, ít nhất là hàng năm, là cần thiết để đáp ứng các tiến trình công nghệ.
Tuy nhiên, ông cũng nhấn mạnh các công thức liên kết cân bằng giữa công việc bảo vệ tài sản trí tuệ của nhà cung cấp và cung cấp thông tin minh bạch cho người sử dụng dịch vụ chăm sóc sức khỏe. Ví dụ, một thẻ mô hình có thể không được bảo vệ mô hình dữ liệu AI có thể được đào tạo trên các dữ liệu liên quan trực tiếp đến một bệnh cụ thể hay không. Anderson lưu ý rằng sự minh bạch là yếu tố quan trọng để xây dựng lòng tin, nhưng cần tránh tiết lộ thông tin sở hữu trí tuệ nhạy cảm.
Về lâu dài, công việc đánh giá AI chăm sóc sức khỏe sẽ trở nên phức tạp hơn , đặc biệt trong các trường hợp sử dụng liên quan đến AI tạo sinh học và các mô hình trực tiếp phục vụ người tiêu dùng. Anderson đã kêu gọi sự tham gia của các chuyên gia từ nhiều lĩnh vực như đạo đức, tinh học, xã hội học và lãnh đạo tinh thần để phát triển các kỹ thuật đánh giá phù hợp với người có giá trị.
Từ năm 2025, CHAI sẽ thúc đẩy việc mời gọi cộng đồng và các bên liên quan ngoài lĩnh vực công nghệ tham gia vào quá trình phát triển AI y tế . Anderson khẳng định đây là một nhiệm vụ phức tạp nhưng cần thiết để đảm bảo các mô hình AI không chỉ đáp ứng yêu cầu công nghệ mà vẫn phù hợp với các giá trị xã hội.
Đọc chi tiết tại đây: https://www.healthcareitnews.com/ne...aligning-ai-model-cards-and-other-innovations
Một ý tưởng sáng tạo đáng chú ý là phát triển "thẻ mô hình AI" hoặc "nhãn dinh dưỡng AI" , giúp truyền tải thông tin dễ hiểu về quá trình phát triển và hoạt động của các mô hình AI. Vào tháng này, CHAI đã công bố phiên bản mở nguồn mã hóa của mẫu thẻ mô hình AI và đang thu thập phản hồi để cải tiến trước khi phát triển biểu thức chính thức. Anderson khẳng định mẫu thẻ này phù hợp với các quy tắc hiện hành của FDA và Văn phòng Điều phối quốc gia về công nghệ chăm sóc sức khỏe (ONC) , có thể đạt được sự đồng thuận giữa các cơ quan và tư vấn về cách quản lý lý do AI trong y tế.
Gần đây, FDA đã đưa ra hướng dẫn dự thảo về vòng đời sản phẩm hỗ trợ AI, bao gồm thiết kế, phát triển và bảo trì, hướng dẫn cải thiện tính minh bạch và lòng người dùng. Nghiên cứu đã tìm thấy thẻ mô hình AI Nghiên cứu có thể tăng cường sự tin tưởng và hiểu biết của các bên liên quan như bệnh nhân, bác sĩ, nhà nghiên cứu và cơ quan quản lý . Anderson cho rằng việc cập nhật xác định bất kỳ thẻ này, ít nhất là hàng năm, là cần thiết để đáp ứng các tiến trình công nghệ.
Tuy nhiên, ông cũng nhấn mạnh các công thức liên kết cân bằng giữa công việc bảo vệ tài sản trí tuệ của nhà cung cấp và cung cấp thông tin minh bạch cho người sử dụng dịch vụ chăm sóc sức khỏe. Ví dụ, một thẻ mô hình có thể không được bảo vệ mô hình dữ liệu AI có thể được đào tạo trên các dữ liệu liên quan trực tiếp đến một bệnh cụ thể hay không. Anderson lưu ý rằng sự minh bạch là yếu tố quan trọng để xây dựng lòng tin, nhưng cần tránh tiết lộ thông tin sở hữu trí tuệ nhạy cảm.
Về lâu dài, công việc đánh giá AI chăm sóc sức khỏe sẽ trở nên phức tạp hơn , đặc biệt trong các trường hợp sử dụng liên quan đến AI tạo sinh học và các mô hình trực tiếp phục vụ người tiêu dùng. Anderson đã kêu gọi sự tham gia của các chuyên gia từ nhiều lĩnh vực như đạo đức, tinh học, xã hội học và lãnh đạo tinh thần để phát triển các kỹ thuật đánh giá phù hợp với người có giá trị.
Từ năm 2025, CHAI sẽ thúc đẩy việc mời gọi cộng đồng và các bên liên quan ngoài lĩnh vực công nghệ tham gia vào quá trình phát triển AI y tế . Anderson khẳng định đây là một nhiệm vụ phức tạp nhưng cần thiết để đảm bảo các mô hình AI không chỉ đáp ứng yêu cầu công nghệ mà vẫn phù hợp với các giá trị xã hội.
Đọc chi tiết tại đây: https://www.healthcareitnews.com/ne...aligning-ai-model-cards-and-other-innovations
