A OpenAI, criadora do ChatGPT, apresentou um novo plano de segurança para tentar conter o avanço de crimes de exploração infantil envolvendo inteligência artificial. A medida surge após um dado alarmante: somente no primeiro semestre de 2025, as denúncias de abuso sexual infantil gerado por IA saltaram 14%, ultrapassando a marca de 8 mil registros.
O documento, chamado Child Safety Blueprint, foca em melhorar a detecção e a investigação de casos onde a tecnologia é usada para criar imagens falsas ou enviar mensagens de aliciamento. A iniciativa busca dar uma resposta rápida ao uso criminoso das ferramentas, que têm sido manipuladas para enganar menores de idade na internet.
A pressão sobre a empresa aumentou drasticamente após relatos de tragédias reais. Recentemente, sete ações judiciais foram abertas na Califórnia ligando o uso do sistema GPT-4o a casos de delírios graves e até suicídios de adolescentes. Os processos alegam que a tecnologia foi lançada no mercado sem estar devidamente preparada para garantir a segurança dos jovens.
Para tentar reverter esse cenário, a OpenAI firmou parcerias com centros de proteção à criança e procuradores-gerais nos Estados Unidos. O objetivo é atualizar as leis atuais para que materiais criminosos criados por robôs sejam punidos com o mesmo rigor dos conteúdos reais, facilitando o trabalho da polícia.
Entre as novas diretrizes, o plano proíbe que a inteligência artificial gere qualquer conteúdo inadequado ou incentive a automutilação. Também foram criadas travas para impedir que o sistema dê orientações que ajudem jovens a esconder comportamentos perigosos de seus pais ou responsáveis.
Além das barreiras técnicas, o foco agora é a integração direta com as autoridades. A ideia é que, assim que um risco for identificado pelos sistemas da OpenAI, as informações cheguem mais rápido às mãos dos investigadores para evitar que novos crimes sejam concretizados.
