As gigantes da tecnologia OpenAI e Google estão apertando o cerco contra a criação e disseminação de imagens íntimas geradas por inteligência artificial (IA) sem consentimento. As empresas anunciaram novas medidas e reforços em seus sistemas de segurança após recentes falhas e escândalos que acenderam o alerta sobre o uso indevido dessas poderosas ferramentas.
O alerta do Grok e a vulnerabilidade do ChatGPT
O debate sobre a segurança da IA generativa ganhou força em janeiro de 2026, depois de um escândalo envolvendo o Grok, a ferramenta de IA da xAI, empresa ligada a Elon Musk. Um estudo do Center for Countering Digital Hate revelou que o Grok produziu cerca de 3 milhões de imagens sexualizadas em apenas 11 dias, com um número preocupante de 23 mil imagens de crianças.
A ferramenta foi usada para "despir" fotos publicadas no X, o antigo Twitter, e oferecia modos descritos como “spicy” para geração de imagens. Diante da repercussão negativa, a conta de Segurança do X informou que suspenderia a capacidade de edição de imagens do Grok dentro da rede social, embora as funções de geração permanecessem disponíveis para assinantes pagos nos aplicativos e sites independentes do serviço.
Não demorou para que outras vulnerabilidades viessem à tona. Pesquisadores da Mindgard, uma empresa de cibersegurança especializada em IA, descobriram uma brecha no ChatGPT da OpenAI. Essa falha permitia que pessoas mal-intencionadas contornassem as barreiras de proteção usando uma técnica chamada “adversarial prompting”. Basicamente, com instruções bem elaboradas, era possível enganar o sistema e aplicar estilos de "nudificação" em fotos de pessoas conhecidas.
OpenAI e Google agem para fortalecer a proteção
A boa notícia é que a OpenAI agiu rápido. A Mindgard comunicou a empresa no início de fevereiro, e em apenas alguns dias, em 10 de fevereiro, a OpenAI confirmou que o problema havia sido corrigido antes mesmo de o relatório ser divulgado publicamente.
Um porta-voz da OpenAI disse: “Somos gratos aos pesquisadores que compartilharam suas descobertas. Agimos rapidamente para corrigir um bug que permitia a geração dessas imagens. Valorizamos esse tipo de colaboração e seguimos focados em fortalecer as salvaguardas.”
Já o Google focou em facilitar a vida das vítimas. A empresa anunciou mudanças para dificultar a disseminação de imagens explícitas não consensuais em sua ferramenta de busca. O processo para solicitar a remoção dessas fotos ficou bem mais simples: agora, ao clicar nos três pontos ao lado de uma imagem, o usuário pode selecionar a opção de denúncia e informar que a foto “mostra uma imagem sexual minha”.
As novas atualizações do Google também permitem que os usuários selecionem várias imagens ao mesmo tempo e acompanhem o andamento de suas solicitações com mais facilidade. O objetivo é reduzir o sofrimento das vítimas. O Google reforçou sua política de uso proibido em IA generativa, que proíbe o uso da tecnologia para qualquer atividade ilegal ou potencialmente abusiva, incluindo a criação de imagens íntimas.
A batalha contínua contra o abuso digital
Especialistas alertam que, mesmo com a maioria das empresas tendo políticas que proíbem materiais ilegais, como o CSAM (material de abuso sexual infantil), os sistemas de proteção precisam de atualizações constantes. Como a Mindgard destacou, é um erro estratégico supor que usuários motivados não tentarão encontrar e explorar brechas.
Embora existam leis, como o Take It Down Act de 2025 nos Estados Unidos, que visam proteger as vítimas, grupos de defesa consideram o alcance dessas normas limitado. A luta contra o uso indevido da IA para criar e espalhar conteúdo abusivo é uma corrida constante, exigindo vigilância e melhorias contínuas das plataformas.
