O chatbot Grok, uma criação da xAI de Elon Musk, continua no centro de uma polêmica intensa. Mesmo com as promessas de restrições feitas pela plataforma X em janeiro, testes recentes mostram que a inteligência artificial ainda consegue criar imagens íntimas e sexualizadas de pessoas reais a partir de fotos onde elas estão completamente vestidas. A situação é ainda mais preocupante porque os casos envolvem principalmente homens, desafiando as barreiras que deveriam estar ativas.
A discussão esquentou globalmente nas primeiras semanas do ano, quando o Grok começou a produzir essas imagens em grande escala, muitas delas consideradas não consensuais. Em vários países, autoridades reguladoras e governos abriram investigações para entender se o sistema está violando leis que protegem contra material íntimo não autorizado e a segurança de menores. Enquanto isso, a empresa de Elon Musk garante que seu modelo de IA segue as regras locais.
Promessas de restrição não cumprem o prometido
No início de janeiro, a X anunciou duas medidas importantes para conter o problema. Primeiro, em 9 de janeiro, informou que o recurso de edição de imagens do Grok seria liberado apenas para usuários pagantes. Cinco dias depois, em 14 de janeiro, a empresa prometeu ter implementado "medidas tecnológicas" para impedir que o chatbot "despisse" pessoas reais nas imagens geradas.
No entanto, o site The Verge realizou testes que jogam um balde de água fria nessas garantias. Mesmo com contas gratuitas, o Grok continuou aceitando pedidos para remover roupas de fotos de homens. Os resultados foram imagens que mostravam as pessoas em roupas íntimas, trajes de banho ou em poses sexualizadas. O problema foi visto tanto no aplicativo próprio do Grok, quanto na interface dentro da X e até no site do chatbot, onde nem é preciso se cadastrar para acessar.
Os testes revelaram também um padrão curioso: em alguns casos, o sistema gerou partes do corpo visíveis sem que isso tivesse sido pedido de forma explícita. Por outro lado, quando os pedidos eram sobre fotos de mulheres, a IA recusava com mais frequência. Isso sugere uma falha específica ou uma sensibilidade diferente da ferramenta dependendo do gênero da imagem.
Pressão interna e a busca por engajamento
Documentos internos, revelados pelo jornal The Washington Post, mostram que, nos meses anteriores a essa polêmica, a xAI tinha uma prioridade clara: aumentar o engajamento dos usuários. Métricas como "user active seconds" (tempo ativo dos usuários) eram cruciais, e as equipes foram orientadas a lidar com conteúdos sensíveis durante o treinamento do modelo.
Ex-funcionários relataram que as equipes foram instruídas a lidar com conteúdos sensíveis durante o treinamento do modelo.
O jornal apontou que protocolos que antes recomendavam evitar contato com material sexual foram alterados ao longo de 2025. Essas mudanças permitiram a rotulagem de imagens e conversas explícitas para, supostamente, melhorar as respostas do sistema. Mas essa estratégia veio acompanhada de alertas internos sobre os riscos legais e éticos de gerar imagens de pessoas reais dessa forma.
Impacto global e a resposta de Musk
A repercussão das ações do Grok não se limitou a críticas. Houve investigações sérias no Reino Unido, na União Europeia e nos Estados Unidos. Em alguns países, como Indonésia e Malásia, a plataforma chegou a ser temporariamente bloqueada. As autoridades querem saber se a ferramenta está desrespeitando leis sobre imagens íntimas não consensuais e, mais grave ainda, material envolvendo crianças.
Elon Musk, por sua vez, defendeu que o Grok opera seguindo as leis locais e que quaisquer falhas seriam tratadas como "bugs" (erros de sistema). Contudo, análises citadas pelo The Washington Post estimam um número assustador: entre o final de dezembro e o início de janeiro, o chatbot gerou milhões de imagens sexualizadas, e milhares delas pareciam retratar menores de idade.
Paradoxalmente, em meio a toda essa controvérsia, dados de mercado mostram que o aplicativo do Grok subiu no ranking das lojas virtuais e teve um aumento significativo de downloads durante o período em que a polêmica estava mais forte. Isso levanta questões sobre como a atenção, mesmo que negativa, pode impactar a popularidade de uma ferramenta de IA.
