Thoại Viết Hoàng
Writer
Trình tạo hình ảnh AI rất thú vị để chơi, nhưng vấn đề với AI tổng quát là, nó rất tổng quát. Nó hấp thụ thông tin từ internet và đưa ra nội dung chịu ảnh hưởng của thông tin đó.
Nếu bạn là một nghệ sĩ hoặc nhiếp ảnh gia, có lẽ bạn không đánh giá cao việc AI “học hỏi” và sao chép tác phẩm nghệ thuật của bạn mà không được trả công. Nếu bạn là người xuất hiện trong một bức ảnh, có lẽ bạn không muốn AI mô phỏng lại vẻ ngoài của bạn khi làm điều gì đó kỳ lạ.
Cuối cùng, Phòng thí nghiệm Khoa học Máy tính và Trí tuệ Nhân tạo (CSAIL) của MIT đã phát triển một công cụ mới có tên là “PhotoGuard” để bảo vệ hình ảnh khỏi bị chỉnh sửa độc hại, theo Engadget.
Làm thế nào nó hoạt động
Đơn vị thông tin nhỏ nhất trong một hình ảnh được gọi là pixel. PhotoGuard thay đổi một số pixel nhất định theo cách mà con người không thể nhận thấy, nhưng điều đó lại loại bỏ AI.
Có hai phương pháp:
Cuộc tấn công Encoder khiến AI không thể hiểu những gì nó đang nhìn.
Cuộc tấn công Khuếch tán khiến AI coi hình ảnh là một thứ khác, khiến tất cả các chỉnh sửa trở nên phi thực tế và không thể sử dụng được.
Đây là một bản demo video.
Nó không phải là hoàn hảo…
… mỗi sinh viên tiến sĩ MIT và tác giả chính Hadi Salman. Nhưng Salman gợi ý rằng các công ty sản xuất mô hình AI có thể cung cấp API để bảo vệ — hoặc “miễn dịch hóa” — ảnh của người khác.
Và đó có thể không phải là một ý tưởng tồi khi xem xét rất nhiều vụ kiện liên quan đến người mẫu được đào tạo dựa trên tác phẩm của các tác giả, nhạc sĩ và những người sáng tạo khác mà không có sự đồng ý.
Ví dụ: Getty Images đang kiện Stability AI, cáo buộc rằng nó đã sao chép hơn 12 triệu hình ảnh mà không được phép hoặc trả tiền. Rất tiếc.
Tham khảo bài viết gốc tại đây
Cuối cùng, Phòng thí nghiệm Khoa học Máy tính và Trí tuệ Nhân tạo (CSAIL) của MIT đã phát triển một công cụ mới có tên là “PhotoGuard” để bảo vệ hình ảnh khỏi bị chỉnh sửa độc hại, theo Engadget.
Làm thế nào nó hoạt động
Đơn vị thông tin nhỏ nhất trong một hình ảnh được gọi là pixel. PhotoGuard thay đổi một số pixel nhất định theo cách mà con người không thể nhận thấy, nhưng điều đó lại loại bỏ AI.
Có hai phương pháp:
Cuộc tấn công Encoder khiến AI không thể hiểu những gì nó đang nhìn.
Cuộc tấn công Khuếch tán khiến AI coi hình ảnh là một thứ khác, khiến tất cả các chỉnh sửa trở nên phi thực tế và không thể sử dụng được.
Đây là một bản demo video.
Nó không phải là hoàn hảo…
… mỗi sinh viên tiến sĩ MIT và tác giả chính Hadi Salman. Nhưng Salman gợi ý rằng các công ty sản xuất mô hình AI có thể cung cấp API để bảo vệ — hoặc “miễn dịch hóa” — ảnh của người khác.
Và đó có thể không phải là một ý tưởng tồi khi xem xét rất nhiều vụ kiện liên quan đến người mẫu được đào tạo dựa trên tác phẩm của các tác giả, nhạc sĩ và những người sáng tạo khác mà không có sự đồng ý.
Ví dụ: Getty Images đang kiện Stability AI, cáo buộc rằng nó đã sao chép hơn 12 triệu hình ảnh mà không được phép hoặc trả tiền. Rất tiếc.
Tham khảo bài viết gốc tại đây
