Facebook mở mã nguồn cho thuật toán phát hiện ảnh ngược đãi trẻ em và khủng bố

Hôm 1/8, Facebook tuyên bố công ty dự định mở mã nguồn cho hai thuật toán xác định tình trạng bạo hành tình dục ở trẻ em, tuyên truyền khủng bố và bạo lực dưới dạng hình ảnh và video.

Trong một bài đăng trên blog, Facebook cho biết cặp công nghệ mang tên PDQ và TMK+PDQF đã được phát hành trên kho mã nguồn GitHub, giúp lưu trữ các tệp dưới dạng băm (một dạng kỹ thuật dùng để xác định duy nhất một đối tượng cụ thể từ một nhóm các đối tượng tương tự) và so sánh các tệp với các mẫu đối chiếu chứa nội dung độc hại.

Theo như Facebook, công ty hy vọng các công ty công nghệ khác cùng với các tổ chức phi lợi nhuận và các nhà phát triển cá nhân sẽ áp dụng công nghệ này nhằm lọc ra các nội dung tiêu cực và bổ sung công nghệ vào cơ sở dữ liệu được chia sẻ. Động thái này giúp các nền tảng xã hội gỡ bỏ hình ảnh độc hại nhanh hơn khi có quá nhiều người cố ý đăng lên.

Trên blog của công ty, Facebook chia sẻ: "Nhiều tổ chức đã sử dụng công nghệ lọc nội dung của riêng mình hoặc của bên khác, tuy nhiên các công nghệ này sẽ là một lớp bảo vệ cần thiết và cho phép các hệ thống chia sẻ kỹ thuật số trao đổi thông tin với nhau, từ đó giúp hệ thống được tăng cường mạnh mẽ hơn."

Các nền tảng xã hội đang ngày càng phải chịu nhiều sức ép. Sau vụ xả súng tại thành phố Christchurch, chính quyền Úc đe dọa phạt tiền nặng và thậm chí bỏ tù đối với các giám đốc điều hành nếu không nhanh chóng gỡ đoạn video quay vụ tấn công. Vào tháng 5, Facebook cùng với các nền tảng công nghệ lớn khác đã tham gia ký kết kêu gọi ngăn chặn nội dung độc hại trên mạng xã hội, cam kết sẽ dốc nhiều nguồn lực hơn để xóa nội dung gây ảnh hưởng xấu và cộng tác tích cực hơn với các công ty khác.

Theo bài đăng trên blog của Facebook, công ty đã ra động thái đúng lúc vào thời điểm ngày càng nhiều video lợi dụng trẻ em đang được đăng trên mạng.

John Clark, chủ tịch và CEO Trung tâm Trẻ em bị mất tích và lạm dụng (NCMEC) trong một bài blog đã viết: "Chỉ trong một năm, chúng tôi chứng kiến số video lạm dụng tình dục ở trẻ em được ngành công nghệ báo cáo cho trang CyberTipline đã tăng 541%. Chúng tôi tin rằng nhờ Facebook tích cực nỗ lực mở mã nguồn, trung tâm sẽ xác định và giải cứu nhiều nạn nhân trẻ em bị lạm dụng tình dục hơn."

Theo như Facebook, qua động thái trên, đây là lần đầu tiên công ty mở mã nguồn cho công nghệ lọc hình ảnh hoặc video. Microsoft và Google trước đây cũng đã áp dụng các công nghệ tương tự.

Ngoài động thái mở mã nguồn, Facebook còn hợp tác với Đại học Maryland, Đại học Cornell, Viện Công nghệ Massachusetts và Đại học California thuộc Berkeley để tìm ra các giải pháp ngăn chặn người dùng mạng xã hội có các hành vi tinh vi lợi dụng kẽ hở của hệ thống an ninh và tuồn các ảnh và video bị cấm công khai.

D.N

Đánh giá gần đây
Đọc nhiều nhất Phản hồi nhiều nhất

1 Xác định "cả đời" dùng máy tính Windows nên biết 19 mẹo này

2 Các deal "thơm" nhất ngày Black Friday 27/11/2020

3 Samsung chơi Black Friday lớn: giảm giá lên đến 50% các dòng TV và loa thanh

4 Tại sao bên trong máy giặt lồng ngang đều găm tới vài chục cân bê tông?

5 Tết dương lịch 2021 được nghỉ mấy ngày?

Tin Liên quan
Các tin khác
a
Xem thêm
Góc nhìn VNREVIEW