Nhà sản xuất ChatGPT đe dọa rời EU vì quy định mặc dù yêu cầu Quốc hội điều chỉnh AI
AI là từ thông dụng mới nhất trong công nghệ—nhưng trước khi đầu tư, hãy biết 4 thuật ngữ này
Quản lý công nghệ trí tuệ nhân tạo như ChatGPT như thế nào?
Tóm tắt:
- Sau khi được phê duyệt, chúng sẽ là những quy tắc đầu tiên trên thế giới về Trí tuệ nhân tạo
- Đạo luật bao gồm các lệnh cấm giám sát sinh trắc học, nhận dạng cảm xúc, hệ thống AI kiểm soát dự đoán
- Các chế độ được thiết kế riêng cho AI đa năng và các mô hình nền tảng như ChatGPT.
- Quyền khiếu nại về hệ thống AI
Để đảm bảo sự phát triển trí tuệ nhân tạo (AI) lấy con người làm trung tâm và có đạo đức ở châu Âu, các nghị sĩ châu Âu (MEP) đã thông qua các quy tắc quản lý rủi ro và minh bạch mới cho các hệ thống AI.
Vào thứ Năm, Ủy ban Thị trường Nội bộ và Ủy ban Quyền Tự do Dân sự đã thông qua dự thảo ủy quyền đàm phán về các quy tắc đầu tiên cho Trí tuệ Nhân tạo với 84 phiếu thuận, 7 phiếu chống và 12 phiếu trắng. Trong các sửa đổi đối với đề xuất của Ủy ban, MEP nhằm mục đích đảm bảo rằng các hệ thống AI được mọi người giám sát, an toàn, minh bạch, có thể theo dõi, không phân biệt đối xử và thân thiện với môi trường. Họ cũng muốn có một định nghĩa thống nhất về AI được thiết kế trung lập với công nghệ để có thể áp dụng cho các hệ thống AI của ngày hôm nay và tương lai.
Cách tiếp cận dựa trên rủi ro đối với AI - Các hoạt động AI bị cấm
Các quy tắc tuân theo cách tiếp cận dựa trên rủi ro và thiết lập nghĩa vụ cho nhà cung cấp và người dùng tùy thuộc vào mức độ rủi ro mà AI có thể tạo ra. Các hệ thống AI có mức độ rủi ro không thể chấp nhận được đối với sự an toàn của mọi người sẽ bị nghiêm cấm, bao gồm các hệ thống triển khai các kỹ thuật thao túng tiềm thức hoặc có mục đích, khai thác các lỗ hổng của mọi người hoặc được sử dụng để chấm điểm xã hội (phân loại mọi người dựa trên hành vi xã hội, tình trạng kinh tế xã hội, cá nhân của họ).
MEP đã sửa đổi đáng kể danh sách để bổ sung các lệnh cấm sử dụng xâm phạm và phân biệt đối xử các hệ thống AI như:
- Hệ thống nhận dạng sinh trắc học từ xa “thời gian thực” trong các không gian có thể truy cập công khai;
- “Đăng” các hệ thống nhận dạng sinh trắc học từ xa, ngoại trừ duy nhất việc thực thi pháp luật để truy tố các tội phạm nghiêm trọng và chỉ sau khi được tư pháp cho phép;
- Hệ thống phân loại sinh trắc học sử dụng các đặc điểm nhạy cảm (ví dụ: giới tính, chủng tộc, dân tộc, tình trạng công dân, tôn giáo, khuynh hướng chính trị);
- Hệ thống kiểm soát dự đoán (dựa trên hồ sơ, vị trí hoặc hành vi tội phạm trong quá khứ);
- Hệ thống nhận dạng cảm xúc trong thực thi pháp luật, quản lý biên giới, nơi làm việc và các cơ sở giáo dục; Và
- Cào bừa bãi dữ liệu sinh trắc học từ mạng xã hội hoặc đoạn phim từ camera giám sát để tạo cơ sở dữ liệu nhận dạng khuôn mặt (vi phạm nhân quyền và quyền riêng tư).
AI rủi ro cao
MEP đã mở rộng việc phân loại các khu vực có rủi ro cao để bao gồm tác hại đối với sức khỏe, sự an toàn, các quyền cơ bản của mọi người hoặc môi trường. Họ cũng đã thêm các hệ thống AI để gây ảnh hưởng đến cử tri trong các chiến dịch chính trị và trong các hệ thống giới thiệu được sử dụng bởi các nền tảng truyền thông xã hội (với hơn 45 triệu người dùng theo Đạo luật Dịch vụ Kỹ thuật số) vào danh sách rủi ro cao.
AI đa năng - các biện pháp minh bạch
MEP đặt ra các nghĩa vụ đối với các nhà cung cấp mô hình nền tảng - một sự phát triển mới và đang phát triển nhanh chóng trong lĩnh vực AI - những người sẽ phải đảm bảo bảo vệ mạnh mẽ các quyền cơ bản, sức khỏe và an toàn cũng như môi trường, dân chủ và pháp quyền. Họ sẽ cần đánh giá và giảm thiểu rủi ro, tuân thủ các yêu cầu về thiết kế, thông tin và môi trường cũng như đăng ký trong cơ sở dữ liệu của EU.
Các mô hình nền tảng sáng tạo, như GPT, sẽ phải tuân thủ các yêu cầu bổ sung về tính minh bạch, chẳng hạn như tiết lộ rằng nội dung do AI tạo ra, thiết kế mô hình để ngăn mô hình tạo nội dung bất hợp pháp và xuất bản tóm tắt dữ liệu có bản quyền được sử dụng cho đào tạo.
Hỗ trợ đổi mới và bảo vệ quyền công dân
Để thúc đẩy đổi mới AI, MEP đã thêm các ngoại lệ cho các quy tắc này đối với các hoạt động nghiên cứu và các thành phần AI được cung cấp theo giấy phép nguồn mở. Luật mới thúc đẩy các hộp cát quy định hoặc môi trường được kiểm soát do các cơ quan công quyền thiết lập để thử nghiệm AI trước khi triển khai.
MEP muốn thúc đẩy quyền khiếu nại của công dân về các hệ thống AI và nhận được giải thích về các quyết định dựa trên các hệ thống AI có rủi ro cao ảnh hưởng đáng kể đến quyền của họ. MEP cũng cải cách vai trò của Văn phòng AI của EU, cơ quan này sẽ được giao nhiệm vụ giám sát cách thức thực hiện bộ quy tắc AI.
Trích dẫn
Sau cuộc bỏ phiếu, đồng báo cáo viên Brando Benifei (S&D, Ý) cho biết: “Chúng tôi sắp đưa ra luật mang tính bước ngoặt phải chống lại thách thức của thời gian. Điều cốt yếu là xây dựng niềm tin của công dân vào sự phát triển của AI, thiết lập cách thức châu Âu đối phó với những thay đổi bất thường đang diễn ra, cũng như định hướng cuộc tranh luận chính trị về AI ở cấp độ toàn cầu. Chúng tôi tin tưởng rằng văn bản của chúng tôi cân bằng giữa việc bảo vệ các quyền cơ bản với nhu cầu cung cấp sự chắc chắn về mặt pháp lý cho các doanh nghiệp và kích thích sự đổi mới ở châu Âu”.
Đồng báo cáo viên Dragos Tudorache (Renew, Romania) cho biết: “Do tác động biến đổi sâu sắc của AI đối với xã hội và nền kinh tế của chúng ta, Đạo luật AI rất có thể là bộ luật quan trọng nhất trong nhiệm vụ này. Đây là bộ luật đầu tiên thuộc loại này trên toàn thế giới, có nghĩa là EU có thể đi đầu trong việc biến AI thành trung tâm của con người, đáng tin cậy và an toàn. Chúng tôi đã làm việc để hỗ trợ đổi mới AI ở châu Âu và tạo không gian cho các công ty khởi nghiệp, doanh nghiệp vừa và nhỏ và ngành công nghiệp phát triển và đổi mới, đồng thời bảo vệ các quyền cơ bản, tăng cường giám sát dân chủ và đảm bảo một hệ thống quản trị và thực thi AI trưởng thành".
Bước tiếp theo
Trước khi các cuộc đàm phán với Hội đồng về hình thức cuối cùng của luật có thể bắt đầu, dự thảo ủy quyền đàm phán này cần được toàn thể Nghị viện thông qua, với cuộc bỏ phiếu dự kiến diễn ra trong phiên họp ngày 12-15 tháng 6 năm 2023.
Bài viết gốc tại đây.
