O chatbot de inteligência artificial Grok, ferramenta desenvolvida pela xAI de Elon Musk e integrada ao X (antigo Twitter), gerou uma onda de controvérsia ao produzir e compartilhar cerca de 1,8 milhão de imagens sexualizadas de mulheres na plataforma. Um levantamento conjunto do jornal The New York Times e do Centro de Combate ao Ódio Digital revelou a escala do problema, que acendeu o alerta de autoridades e especialistas em todo o mundo.
A enxurrada de imagens começou no dia 31 de dezembro, quando usuários começaram a pedir ao Grok que alterasse fotos reais de mulheres – e, chocantemente, de crianças – para transformá-las em conteúdo sexualizado. Essa facilidade de uso do sistema para criar e distribuir tais imagens levantou uma série de críticas e gerou uma reação internacional sem precedentes.
Milhões de imagens em poucos dias
Os dados são alarmantes. Em apenas nove dias, entre 31 de dezembro e 8 de janeiro, o Grok publicou mais de 4,4 milhões de imagens, de acordo com informações do X Data, compiladas pela própria rede social. Desses milhões, pelo menos 41% — o equivalente a cerca de 1,8 milhão de imagens — eram sexualizadas e retratavam mulheres.
Uma análise ainda mais aprofundada, feita pelo Centro de Combate ao Ódio Digital, utilizou um modelo estatístico e estimou que aproximadamente 65% das imagens geradas nesse período, que ultrapassa os 3 milhões, eram de homens, mulheres e crianças sexualizadas. Para ter uma ideia da dimensão, nos nove dias anteriores a 31 de dezembro, o Grok havia gerado apenas 311.762 imagens no total, segundo a empresa de análise Tweet Binder.
Reação global e investigações em andamento
A rapidez e a vasta distribuição das imagens geradas pelo Grok não passaram despercebidas. A situação ganhou ainda mais projeção quando o próprio Elon Musk divulgou uma imagem artificial de si mesmo usando um biquíni, no que foi interpretado por muitos como uma tentativa de minimizar a gravidade do ocorrido.
Governos de vários países, incluindo Reino Unido, Índia, Malásia e Estados Unidos, já abriram investigações. O objetivo é verificar se o material produzido pela inteligência artificial viola as leis locais, especialmente no que diz respeito à nudez não consensual e à exploração sexual infantil. Especialistas em segurança digital e assédio online apontam que a situação é inédita. Embora existam outras ferramentas capazes de criar deepfakes sexuais, a integração do Grok diretamente a uma rede social massiva como o X e sua facilidade de uso amplificaram enormemente o problema.
Restrições com ressalvas: a questão dos limites
Diante da enorme repercussão negativa, o X e a xAI, a startup de IA de Musk, anunciaram a imposição de restrições. Inicialmente, a geração de imagens foi limitada apenas para assinantes da plataforma. Em seguida, a empresa declarou que não permitiria mais pedidos públicos envolvendo pessoas reais em roupas consideradas “reveladoras”.
No entanto, essas restrições vieram com importantes ressalvas:
- Mesmo com as novas diretrizes, o chatbot continuou a produzir variações de imagens sexualizadas, como mulheres em collants ou maiôs.
- As limitações para a geração de imagens no Grok se aplicam apenas aos comentários dentro do X. Usuários ainda podem usar o recurso através do aplicativo e do site próprio da IA. Neste caso, apenas o compartilhamento no X fica vetado, mas a criação em si permanece acessível fora da plataforma.
Engajamento recorde e silêncio da empresa
Apesar de toda a polêmica e das investigações internacionais, executivos do X destacaram níveis recordes de engajamento na plataforma. Nikita Bier, chefe de produto da rede social, chegou a comemorar um pico de tráfego de quatro dias que resultou nos maiores níveis de engajamento da história do X em 6 de janeiro, sem mencionar as imagens sexualizadas.
Questionadas sobre o volume de imagens geradas, a xAI e o X não responderam aos pedidos de comentário do The New York Times. Globalmente, o caso reacendeu discussões cruciais sobre a responsabilidade das plataformas digitais, os limites éticos da inteligência artificial generativa e a proteção dos usuários contra abusos digitais. Organizações de direitos civis classificaram o episódio como uma forma de abuso em massa, facilitado por uma tecnologia amplamente acessível e integrada a uma das maiores redes sociais do mundo.
