Ferramenta da Meta, O Take It Down conta com um algoritmo que detecta conteúdos inadequados como pornografia infantil em plataformas e sites

A ferramenta Take It Down, desenvolvida pelo NCMEC (Centro Nacional para Crianças Desaparecidas ou Exploradas), conta com financiamento da Meta e ajudará a derrubar fotos de pornografia infantil e adolescentes postadas na internet.

• O Take It Down é um serviço gratuito que ajuda empresas de tecnologia a remover vídeos ou imagens sexualmente explícitas de menos de 18 anos;
• A Meta anunciou o financiamento da iniciativa em novembro de 2022. Facebook e Instagram são os fundadores da plataforma;
• Menores de idade e pais de qualquer país podem usam a ferramenta para derrubar conteúdos inadequados na internet.

Conforme descrito no site, o Take It Down, já está disponível e, portanto, permite que usuários enviem um relatório que pode ajudar a remover conteúdos de nudez ou sexualmente explícito envolvendo menores de 18 anos.

Para derrubar os conteúdos, a plataforma conta com uma tecnologia que registra um valor de hash, algoritmo matemático para a criptografia em que ocorre uma transformação do dado (como um arquivo, senha ou informações) em um conjunto alfanumérico com comprimento fixo de caracteres. Isso é feito sobre a imagem ou vídeo que está sendo denunciado. A partir desses valores, a ferramenta identifica aquele conteúdo impróprio em sites e aplicativos públicos ou não criptografados.

Com isso, não é necessário enviar a foto ou vídeo para a plataforma para que ela faça a detecção e impeça a disseminação. O Take It Down explica que o denunciante precisa ter apenas o conteúdo em seu dispositivo para que valor de hash seja registrado.

De acordo com comunicado, a Meta anunciou que o serviço será integrado ao Facebook e Instagram para denúncia.

O apoio, bem como a implementação da ferramenta nas plataformas da Meta é uma decisão importante e necessária.