Proibidas IAs que geram imagens sexuais falsas
Os países da União Europeia e o Parlamento Europeu chegaram nesta quinta-feira (7) a um acordo para proibir IAs capazes de gerar imagens sexuais falsas sem autorização das pessoas retratadas. A medida mira especialmente conteúdos hiper-realistas produzidos com tecnologia de deepfake.
A decisão foi tomada após a repercussão causada por uma funcionalidade do Grok, assistente de IA da xAI, que permitiu a criação de imagens falsas de mulheres e crianças nuas a partir de fotografias reais.
O episódio provocou críticas em diferentes países europeus e levou à abertura de uma investigação no bloco. Entre as vozes mais contundentes esteve a primeira-ministra da Itália, Giorgia Meloni, que denunciou a circulação de imagens falsas com sua própria aparência e classificou a tecnologia como uma “ferramenta perigosa”.
Segundo o Parlamento Europeu, a nova proibição abrange sistemas de IA capazes de produzir imagens, vídeos ou áudios de natureza pedopornográfica, além de conteúdos que exibam partes íntimas de pessoas identificáveis ou representem indivíduos em atos sexuais sem consentimento.
União Europeia fecha o cerco contra deepfakes
As novas regras passarão a valer a partir de 2 de dezembro de 2026. A partir dessa data, empresas que operam serviços de inteligência artificial na União Europeia terão de implementar mecanismos. Primordialmente, para impedir a geração desse tipo de material.
A medida faz parte, acima de tudo, de uma atualização da legislação europeia, visto que é uma das mais abrangentes do mundo. Além disso, houve aprovação formal há dois anos.
Segundo a AFP, os países do bloco concordaram em adiar normas. Primeiramente, para sistemas de IA de alto risco. Em seguida, utilizados em áreas sensíveis. Por fim, como saúde, segurança pública e direitos fundamentais.
Iniciativa representa avanço ético
A proibição de IAs generativas de deepfakes sexuais marca, primordialmente, um avanço ético global, visto que protege a dignidade humana contra manipulações digitais. Primeiramente, inibe violações de imagem sem consentimento. Além disso, desafia empresas de tecnologia a priorizar responsabilidade.
A legislação europeia demonstra, acima de tudo, visão prospectiva. Dessa forma, antecipa riscos antes que se tornem crises sociais. Por exemplo, casos como o de Giorgia Meloni alertam sobre abusos políticos. Em síntese, equilibra inovação com proteção individual.
Segundo especialistas, normas rigorosas estimulam, principalmente, autopoliciamento global. Isto é, forçam plataformas como xAI a adotarem filtros proativos. Ademais, criam precedente para legislações em outros blocos. Por fim, reduzem circulação de conteúdos danosos na internet.
Para vítimas de deepfakes, significa, em primeiro lugar, ferramenta jurídica concreta. Igualmente, empodera denúncias contra criadores anônimos. Dessa maneira, restaura confiança nas imagens digitais. Ao mesmo tempo, educa usuários sobre riscos tecnológicos.
Fonte: olhardigital
