X sob pressão: Autoridades brasileiras agem contra “deepnudes” da IA Grok
A rede social X, que pertence ao bilionário Elon Musk e antes era conhecida como Twitter, enfrenta um momento delicado no Brasil. O motivo é a circulação em grande volume de imagens sexuais geradas pela Grok, a inteligência artificial (IA) integrada à plataforma. Informações sobre a mobilização de autoridades brasileiras foram divulgadas pela newsletter Radar Big Tech, do UOL, que teve acesso a documentos internos.
O problema começou quando usuários perceberam que a IA da Grok conseguia criar imagens onde as roupas de pessoas reais eram trocadas por peças íntimas. Essa prática é conhecida como “deepnude” e está ligada aos “deepfakes”. Em menos de dez dias, mais de 3 milhões dessas imagens se espalharam pela internet, conforme os dados da publicação.
União de órgãos públicos e exigências ao X
Aqui no Brasil, a resposta a esse cenário ganhou força e está sendo coordenada por importantes órgãos públicos: o Ministério Público Federal (MPF), a Secretaria Nacional do Consumidor (Senacon) e a Agência Nacional de Proteção de Dados (ANPD). Juntos, esses três órgãos emitiram uma recomendação ao X em janeiro, exigindo que a plataforma parasse imediatamente de gerar esses conteúdos sexualizados. Além disso, pediram para a empresa agir na localização e remoção de todas as imagens já produzidas.
As exigências não param por aí. Os órgãos também solicitaram que o X removesse as contas responsáveis por espalhar os conteúdos irregulares e criasse um canal de denúncia online. Esse canal seria essencial para que as vítimas pudessem avisar sobre o uso indevido de suas imagens.
Possíveis punições e prazo para resposta
Um documento, também obtido pela Radar Big Tech, detalha as sanções que o X pode sofrer se não cumprir as determinações. As autoridades informaram à plataforma sobre a possibilidade de aplicar medidas previstas em importantes leis brasileiras, como o Marco Civil da Internet, o Código de Defesa do Consumidor (CDC) e a Lei Geral de Proteção de Dados (LGPD).
Entre as punições citadas estão:
- Advertências.
- Multas que podem chegar a 10% do faturamento da empresa no Brasil.
- Bloqueio parcial do acesso a dados de usuários brasileiros.
- Até mesmo a suspensão temporária ou proibição das atividades da plataforma em solo brasileiro.
O X respondeu dentro do prazo inicial, o que impediu que as sanções fossem aplicadas de imediato. No entanto, a empresa pediu que sua resposta ficasse em sigilo. Agora, a plataforma tem um novo prazo de 30 dias para conseguir localizar e remover todos os “deepnudes” já existentes. Se isso não acontecer, as punições descritas no relatório podem voltar a ser avaliadas e aplicadas pelas autoridades.
Investigação internacional no radar
A situação pode se estender para além das fronteiras brasileiras. O documento aponta que, se as imagens sexualizadas envolverem crianças, o caso é classificado como material de abuso sexual infantil (CSAM). Como o X é uma empresa sediada nos Estados Unidos, ela tem a obrigação legal de comunicar esses casos ao NCMEC (Centro Nacional para Crianças Exploradas e Desaparecidas).
O comitê intersetorial brasileiro já solicitou à Polícia Federal que investigue se o X realmente fez essas comunicações. Caso a plataforma não tenha cumprido essa exigência, os órgãos brasileiros podem informar o Departamento de Justiça dos EUA e o FBI sobre uma possível violação da legislação federal norte-americana.
Um histórico de desafios no Brasil
Esta não é a primeira vez que a plataforma X enfrenta problemas no Brasil. No início de 2024, a rede social chegou a ficar 38 dias fora do ar por uma decisão do ministro Alexandre de Moraes, do Supremo Tribunal Federal (STF). Naquela ocasião, a medida foi tomada por descumprimento de ordens judiciais e pela falta de um representante legal da empresa no país.
A diferença para o caso atual é que o foco principal é o uso de inteligência artificial e a proteção de dados. Os processos correm de forma paralela, conduzidos pela ANPD, MPF e Senacon, cada um com suas regras e prazos específicos para apurar os fatos e, se for o caso, aplicar as devidas punições.
