“Estamos abrindo uma investigação sobre o Grok sob a Lei de Serviços Digitais (DSA), porque acreditamos que o X pode ter violado o documento”, afirmou o porta-voz da comissão Thomas Regnier. “Vimos nas últimas semanas e meses conteúdo antissemita. Vimos deepfakes não consensuais de mulheres e vimos material de abuso sexual infantil. Na Europa, nenhuma empresa ganhará dinheiro violando nossos direitos fundamentais.”

Após repercussão na imprensa e repúdio de autoridades pelo mundo, a xAI limitou o uso da ferramenta para assinantes e, em meados de janeiro, afirmou ter implementado medidas para impedir a edição de imagens de pessoas reais com “roupas relevadoras, como biquinis”, além do banimento de parte dos usuários que criaram os conteúdos.

“Alguém pode argumentar que o X limitou isso a assinantes ‘premium’. Vamos ser muito claros: material de abuso sexual infantil não é um ‘privilégio premium’, porque tal conteúdo não tem lugar na Europa, e precisamos proteger nossos cidadãos de potenciais danos futuros”, declarou Regnier.

Três milhões de imagens geradas

Um estudo do Centro de Combate ao Ódio Digital, estima que em 11 dias, usuários do X criaram três milhões de conteúdos sexualizados pelo X. Cerca de 23 mil envolveriam menores de idade.

A organização analisou 20 mil imagens aleatórias geradas entre 29 de dezembro e 8 de janeiro – antes da rede social restringir o uso e atualizar a ferramenta para tentar conter o problema. Do total, 65% do conteúdo criado trazia contexto sexual – independentemente do consentimento ou não.

Entre exemplos do conteúdo encontrado estão mulheres com biquinis “transparentes ou pequenos”, ou usando peças não usuais, como fio dental e fita adesiva transparente. O centro ainda alertou para imagens em que “fluido branco” é colocado nas vítimas, que incluem desde pessoas comuns à personalidades como artistas e políticos.

Brasil emitiu recomendação para rede social

O caso também teve grande repercussão no Brasil, com usuários da rede social X exigindo um posicionamento do governo brasileiro. No dia 20 de janeiro, a Secretaria Nacional do Consumidor (Senacon), em colaboração com a Agência Nacional de Proteção de Dados (ANPD) e o Ministério Público Federal (MPF), emitiu recomendações à xAI sobre “a geração de conteúdos sintéticos de caráter sexualizado a partir de imagens de pessoas reais.”

Entre as medidas, solicitaram ao Grok que crie procedimentos técnicos e operacionais para identificar e remover esse tipo de conteúdo. Bem como, a suspensão de contas envolvidas na produção de imagens sexuais e erotizadas sem consentimento. Como trata-se de um ato administrativo de natureza orientadora, a plataforma não é obrigada a aderir aos pedidos. Da mesma forma, não pode sofrer punição caso por eventual descumprimento.

Fonte: sbtnews