OpenAI bắt đầu gắn watermark vào văn bản trên ChatGPT và Codex

[Mẫn Nhi✔]

OpenAI đang bắt đầu triển khai công nghệ gắn watermark textGrain tại thị trường EU, tuy nhiên hãng cho biết giải pháp này hiện vẫn chưa được đặt làm mặc định trên toàn cầu.

Một loại dấu bản quyền (watermark) vô hình và có thể đọc được bằng máy trong văn bản đầu ra đang được đưa lên ChatGPT và Codex, nhưng trước mắt chỉ giới hạn cho người dùng tại Liên minh Châu Âu (EU).

OpenAI khẳng định công nghệ textGrain của hãng "đạt mức tương đương hoặc vượt trội" các giải pháp khác, tiêu biểu như SynthID dành cho văn bản của Google DeepMind – nền tảng mà Anthropic từng công bố sử dụng vào tháng 8. Tương tự như OpenAI, Anthropic triển khai giải pháp này nhằm đáp ứng các yêu cầu của Đạo luật AI từ EU; dẫu vậy, không phải ai cũng cảm thấy hài lòng khi biết về sự bổ sung này.

Bên cạnh đó, OpenAI cũng công bố các điểm số đánh giá chuẩn (benchmark) cho thấy văn bản có gắn watermark và không gắn watermark mang lại hiệu năng tương tự nhau. Dù vậy, hãng lưu ý rằng textGrain "không đảm bảo khả năng phát hiện chuẩn xác tuyệt đối", đồng thời nhấn mạnh rằng watermark dạng văn bản không có chức năng xác minh độ chuẩn xác của nội dung, không xác định quyền sở hữu văn bản, không đo lường mức độ đóng góp của con người hay chứng minh quyền tác giả thuộc về con người.

Triển khai gắn watermark văn bản tại EU Trong vài tuần tới, OpenAI sẽ đưa tính năng gắn watermark văn bản đến với những người dùng ChatGPT và Codex đủ điều kiện thuộc tất cả các gói dịch vụ, áp dụng riêng cho khu vực EU. Việc chưa thiết lập đây là tính năng mặc định toàn cầu ngay khi ra mắt sẽ tạo điều kiện để công ty học hỏi từ trải nghiệm sử dụng thực tế và ghi nhận các phản hồi.

Cho phép khách hàng API tùy chọn tham gia Bắt đầu từ hôm nay, các khách hàng sử dụng API trên toàn cầu đã có thể tùy chọn kích hoạt (opt-in) tính năng gắn watermark cho văn bản đầu ra trên một số mô hình được chọn. Điều này giúp khách hàng tự quyết định mức độ phù hợp của watermark đối với các nghĩa vụ minh bạch cũng như trải nghiệm mà họ cung cấp cho người dùng. OpenAI cũng đang làm việc với các đối tác điện toán đám mây để hỗ trợ tính năng gắn watermark cho kết quả đầu ra của mô hình OpenAI trên các dịch vụ này trong vài tuần tới.

Cung cấp công cụ phát hiện cho giới nghiên cứu và các tổ chức chuyên môn Các nhà nghiên cứu và tổ chức chuyên gia đã được phê duyệt có thể gửi đơn đăng ký từ hôm nay. Theo Bộ quy tắc thực hành, quyền tiếp cận ban đầu sẽ được cấp theo từng trường hợp cụ thể nhằm phục vụ việc đánh giá và hoàn thiện quy trình xác thực nguồn gốc văn bản. Công cụ này sẽ thông báo về việc có phát hiện watermark của OpenAI hay không mà không để lộ danh tính người dùng, câu lệnh hay nội dung các cuộc hội thoại. Trước nguy cơ bỏ sót watermark hoặc nhận diện sai (dương tính giả), OpenAI chưa mở công cụ phát hiện này cho công chúng ở thời điểm hiện tại.