A agência das Nações Unidas para a infância, a UNICEF, fez um apelo global nesta semana para que os países adotem leis mais duras. O objetivo é criminalizar a criação de imagens de abuso sexual infantil que são geradas por inteligência artificial (IA).
A preocupação da entidade é grande diante do crescimento alarmante de relatos sobre o uso de ferramentas de IA para produzir imagens que sexualizam crianças, como os chamados deepfakes. Para a UNICEF, essa prática causa "danos reais e imediatos" aos menores.
Crescimento de Imagens Falsas e o Alerta da UNICEF
Em um comunicado oficial, a UNICEF expressou seu alarme com o aumento dessas imagens sexualizadas de crianças produzidas por IA. Os deepfakes são conteúdos artificiais que conseguem imitar pessoas reais de forma muito convincente, tornando difícil distinguir o que é verdadeiro do que é falso.
O impacto desse tipo de abuso, segundo a agência, é "real e urgente", e a resposta legal por parte dos governos não pode demorar. A situação é tão grave que a própria organização divulgou dados preocupantes: no último ano, pelo menos 1,2 milhão de crianças em 11 países relataram que suas imagens foram manipuladas para criar conteúdos sexualmente explícitos via deepfake.
Outra prática que a UNICEF destacou como preocupante é a "nudificação". Nesse método, ferramentas de IA são usadas para remover ou alterar roupas em fotos, gerando imagens falsas de nudez ou com teor sexual, sem o consentimento ou conhecimento das vítimas.
Reino Unido Toma a Frente e Cobra Empresas
Em resposta a essa onda de crimes virtuais, o Reino Unido anunciou que pretende tornar ilegal o uso de ferramentas de IA para criar esse tipo de material. Se a proposta for aprovada, o país será o primeiro no mundo a criminalizar especificamente essa conduta. A iniciativa britânica reflete a crescente preocupação global com a capacidade dos sistemas generativos de produzir vídeos, imagens e áudios falsos envolvendo menores.
Além de cobrar os governos por leis mais rigorosas, a UNICEF também defendeu que os desenvolvedores de sistemas de IA adotem uma abordagem de segurança desde o início da criação de suas tecnologias. Isso significa incorporar mecanismos que dificultem o uso indevido dos modelos de IA para fins criminosos. A entidade também pressionou as empresas digitais a reforçarem a moderação de conteúdo, investindo pesado em tecnologias de detecção para impedir que essas imagens circulem livremente na internet.
“O impacto desse tipo de abuso é real e urgente, e a resposta legal não pode demorar.” – Trecho do comunicado da UNICEF.
Plataformas de IA Sob Observação
O debate sobre a responsabilidade das plataformas ganhou ainda mais força com investigações recentes que envolveram o uso de chatbots para gerar esse tipo de material. Um exemplo notório é o Grok, da xAI, empresa de Elon Musk, que passou a ser analisado após relatos de que produziu imagens sexualizadas de mulheres e menores.
Uma reportagem da agência Reuters apontou que o chatbot continuou gerando essas imagens mesmo depois que usuários alertaram que as pessoas retratadas não haviam dado consentimento. Como resposta, a xAI informou em meados de janeiro que restringiu a edição de imagens no Grok e passou a bloquear, com base na localização, a geração de imagens de pessoas com roupas reveladoras em jurisdições onde isso é ilegal. Antes dessa medida, a empresa já havia limitado os recursos de geração e edição de imagens apenas para os assinantes pagantes.
