As autoridades brasileiras, incluindo o Ministério Público Federal (MPF), a Autoridade Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon), se uniram para fazer um pedido formal e urgente ao X/Twitter. A exigência é clara: que a plataforma de Elon Musk bloqueie imediatamente a capacidade de sua inteligência artificial (IA), chamada Grok, de criar imagens eróticas.
A determinação, enviada na terça-feira (20), veio após uma série de denúncias graves. Usuários estariam usando a ferramenta para gerar as chamadas "deepfakes" — fotos e vídeos falsos que colocam pessoas reais, inclusive crianças e adolescentes, em situações sexuais sem qualquer tipo de consentimento. A situação acendeu o alerta máximo entre os órgãos de defesa dos direitos do consumidor e da privacidade no Brasil.
X/Twitter visto como "coautor" de conteúdos abusivos e recebe prazo
Para o governo, o X/Twitter não pode simplesmente ignorar como sua tecnologia está sendo usada. As autoridades entendem que a plataforma, ao oferecer a ferramenta para os usuários, age como um "coautor" desses conteúdos que violam a privacidade e a dignidade das vítimas. Por isso, a rede social precisa tomar ações imediatas e abrangentes.
Entre as medidas cobradas estão:
- O bloqueio total da criação de imagens eróticas pelo Grok para todos os usuários, incluindo aqueles que pagam pelas versões premium do serviço.
- A criação de um sistema fácil e eficiente para que as pessoas possam denunciar abusos relacionados à IA.
- A suspensão de contas de quem for pego usando o Grok para fins eróticos.
- A garantia de que o conteúdo ilegal seja retirado do ar rapidamente.
O X/Twitter tem um prazo apertado: até o dia 27 de janeiro para informar se vai ou não seguir essas orientações de forma amigável. Caso a rede social decida ignorar o pedido, as instituições brasileiras avisaram que estão prontas para entrar com processos na Justiça e aplicar multas pesadas. Essas multas seriam baseadas em leis importantes, como a Lei Geral de Proteção de Dados (LGPD) e o Código de Defesa do Consumidor.
O objetivo principal de toda essa mobilização é proteger os cidadãos de terem suas imagens manipuladas e espalhadas pela internet de forma degradante e abusiva. A pressão sobre a plataforma de Elon Musk é intensa e busca garantir um ambiente digital mais seguro.
"A medida das autoridades foi um passo importante, mas para o Instituto de Defesa do Consumidor (Idec), que apresentou a denúncia inicial sobre o Grok, as ações ainda são tímidas. O Idec argumenta que o Grok deveria ser suspenso por completo até que seu uso possa ser considerado totalmente seguro."
A situação coloca o X/Twitter sob os holofotes no Brasil, exigindo uma mudança urgente em suas regras e funcionalidades para lidar com a disseminação de deepfakes sexuais geradas por sua inteligência artificial.
