A União Europeia abriu, nesta segunda-feira (26), uma investigação oficial contra o X (antigo Twitter) por causa da geração de imagens sexualizadas usando o Grok, a inteligência artificial da plataforma. A apuração busca entender se a empresa avaliou e controlou de forma adequada os riscos que seu chatbot pode trazer, conforme exige a legislação europeia.
A preocupação principal é determinar se o X tomou as medidas necessárias para proteger os usuários europeus das funcionalidades do Grok que permitiram a criação de imagens de caráter sexual. A lei que serve de base para essa análise é a Lei de Serviços Digitais (DSA), que impõe grandes responsabilidades às empresas de tecnologia que operam no bloco.
"Deepfakes sexuais não consensuais são uma forma violenta e inaceitável de degradação."
- Henna Virkkunen, chefe de tecnologia da UE
Autoridades europeias consideraram “ilegais e repugnantes” as imagens que circularam na plataforma. A chefe de tecnologia da União Europeia, Henna Virkkunen, deixou claro que a investigação vai verificar se o X cumpriu suas obrigações ou se os direitos dos cidadãos europeus foram tratados como um “dano colateral” dos serviços da empresa.
Este movimento da União Europeia não é isolado. Poucos dias antes, a Ofcom, órgão regulador de mídia do Reino Unido, iniciou uma apuração parecida, querendo saber se as imagens sexualizadas violam a obrigação do X de proteger seus cidadãos. Em resposta a essa onda de preocupações, o Reino Unido decidiu adiantar a entrada em vigor de leis que criminalizam a criação de deepfakes íntimos sem consentimento.
Um Problema Global
A questão envolvendo o Grok e as imagens geradas por IA se espalhou pelo mundo. Indonésia, Filipinas e Malásia chegaram a bloquear temporariamente o chatbot em seus territórios. A suspensão só foi revertida depois que a xAI, a empresa por trás do Grok, anunciou que adotaria medidas extras de segurança. No Brasil, o Idec (Instituto Brasileiro de Defesa do Consumidor) também se manifestou, pedindo ao governo a suspensão do Grok por violar os direitos de crianças, adolescentes e mulheres.
Como forma de resposta às investigações e protestos, o X divulgou uma declaração em janeiro, informando que a xAI restringiu as ferramentas de edição de imagens do Grok. A empresa também afirmou que agora bloqueia pedidos para gerar imagens de pessoas com roupas “reveladoras” em lugares onde esse tipo de conteúdo é ilegal, mas não detalhou em quais países o bloqueio está em vigor.
Medidas Insuficientes e Multa Pesada
Apesar das ações do X, a Comissão Europeia avalia que as medidas não resolvem todos os problemas. Um alto funcionário do órgão indicou que há sinais de que a xAI não fez uma avaliação específica do impacto das funcionalidades do Grok antes de lançá-las na Europa. Se forem confirmadas as violações à Lei de Serviços Digitais (DSA), o X pode enfrentar uma multa salgada, que chega a 6% de seu faturamento anual global.
Este caso reacende o debate sobre a necessidade de regulamentar a inteligência artificial de forma mais eficaz. A eurodeputada Regina Doherty destacou que o episódio mostra fragilidades nas regras atuais e defendeu que a Lei de IA da União Europeia precisa ser flexível e se adaptar. Para ela, qualquer lacuna na supervisão deve ser corrigida rapidamente, especialmente quando surgem danos graves e evidentes.
