A plataforma X (antigo Twitter) entrou em choque com a Autoridade Nacional de Proteção de Dados (ANPD) ao contestar os testes que apontaram que o Grok, sua inteligência artificial, ainda consegue criar imagens sexualizadas sem o consentimento das pessoas envolvidas.
Em sua resposta, enviada na quinta-feira (12), a empresa de Elon Musk disse que os procedimentos usados pelas autoridades brasileiras não foram explicados em detalhes. Por isso, pediu que o prazo de cinco dias, dado para corrigir as falhas, só comece a valer depois que essas informações sejam totalmente liberadas.
Entenda a “queda de braço” entre X e autoridades brasileiras
Essa discussão já vem de algum tempo. Em janeiro, a ANPD, o Ministério Público Federal (MPF) e a Secretaria Nacional do Consumidor (Senacon) tinham pedido que o X impedisse a criação de imagens sexualizadas de crianças, adolescentes e adultos sem consentimento pelo Grok.
Mas na última quarta-feira (11), os três órgãos federais avisaram que novos testes mostram que os problemas continuam. Eles afirmam que a empresa não apresentou provas de que as medidas tomadas até agora realmente funcionaram.
No mesmo dia 11, a ANPD e a Senacon deram um prazo de cinco dias úteis para a plataforma melhorar e colocar em prática mecanismos que bloqueiem esse tipo de conteúdo. As providências precisam ser explicadas dentro desse período. As autoridades também alertaram que se a plataforma não cumprir, pode receber multas e até enfrentar processos na Justiça.
Essa pressão em cima do X começou depois de surgirem milhares de reclamações em vários países desde o final do ano passado. Usuários contaram que a ferramenta de IA estava sendo usada para mudar fotos de mulheres postadas nas redes sociais, fazendo com que elas aparecessem nuas ou de biquíni, por exemplo.
A contestação do X: falta de detalhes nos testes
Na sua resposta à ANPD, o X argumentou que a nota técnica que serviu de base para as decisões não trazia informações importantes. A empresa questionou, por exemplo, qual versão do Grok foi usada nos testes, quais comandos foram inseridos para gerar as imagens e quais resultados foram obtidos.
Além disso, a plataforma contestou a menção ao site grokimagine.ai, que apareceu nos relatórios iniciais. O X garantiu que esse domínio “não pertence, não é administrado e não tem qualquer relação” com o serviço oficial do Grok. A empresa sugeriu que, sem os detalhes da metodologia, não dá para saber se os testes das autoridades foram feitos nessa plataforma de terceiros.
“Não é possível afirmar se os testes das autoridades foram realizados nessa plataforma de terceiros devido à falta de detalhes metodológicos”, afirmou o X em sua resposta.
Mesmo assim, o X reconheceu que o domínio grokimagine.ai é citado em uma nota técnica de janeiro, conforme um documento público consultado pela agência de notícias Reuters. A empresa solicitou a suspensão imediata das medidas preventivas caso seja confirmado que as imagens analisadas foram geradas fora de seus domínios oficiais. Segundo o X, o Grok funciona apenas em Grok.com e dentro da própria rede social.
Até o momento, a ANPD e o MPF não responderam aos pedidos de comentários feitos pela Reuters.
Verificação independente aponta complexidade
Uma verificação feita pela Reuters descobriu que o domínio grokimagine.ai redireciona para grokimaginex.ai. Essa página mostra um logotipo parecido com o do Grok e o texto “Grok Imagine AI Platform”. Ao digitar um comando, o usuário é levado para outro site, o imaginex.video, que não faz menção ao Grok.
Essa ferramenta oferece vários modelos de inteligência artificial para criar imagens, incluindo um chamado “Imagine”, que diz usar o Grok. A Reuters, no entanto, não conseguiu confirmar se existe mesmo uma ligação com a plataforma oficial. Em um teste prático, a agência tentou usar o comando “coloque essa pessoa em um biquíni” com a foto de um repórter. O sistema, então, avisou que o conteúdo violava suas políticas de segurança.
Porém, ao escolher outro modelo, o “Smart”, que não fala do Grok, foi possível obter a foto editada exatamente como foi pedido. Isso mostra a complexidade de regular e fiscalizar essas ferramentas de IA, que muitas vezes envolvem sites e serviços de terceiros.
