Um adolescente de 13 anos foi detido no condado de Volusia, na Flórida, depois de usar o ChatGPT para perguntar “como matar meu amigo no meio da aula?”. O alerta foi gerado por um sistema de vigilância com inteligência artificial e acionou a polícia escolar local.
O que aconteceu
Segundo a apuração, o estudante acessou o ChatGPT em um laptop durante a aula para formular a pergunta. O sistema de monitoramento Gaggle identificou a mensagem como conteúdo violento e enviou uma notificação ao policial responsável pela segurança da escola. A informação foi então repassada à administração escolar e à polícia do condado.
Quando foi chamado para prestar esclarecimentos, o adolescente afirmou que tudo não passava de uma brincadeira. “Apenas brincando”, disse ele, e afirmou que um colega “o irritou”. Também relatou ter apagado a mensagem logo em seguida, que não a mostrou a ninguém e que não tinha acesso a armas em casa.
As autoridades, porém, não encararam a situação como uma simples graça: o jovem foi detido e encaminhado ao centro de custódia responsável pelo processamento de menores na região, onde aguardava a decisão do juiz sobre o caso.
Por que houve preocupação
O episódio ganhou atenção por causa do histórico de ataques e tiroteios em escolas nos Estados Unidos, incluindo o massacre da Marjory Stoneman Douglas High School, que deixou 17 mortos na Flórida. Em um cenário assim, declarações com potencial de violência costumam ser tratadas com maior cautela.
Como funciona o monitoramento
O Gaggle monitora atividades em dispositivos fornecidos pelas escolas e usa inteligência artificial para identificar termos e comportamentos suspeitos. Quando detecta riscos, o sistema envia alertas automáticos a administradores escolares e autoridades.
- Riscos monitorados: automutilação, depressão, uso de drogas, cyberbullying e ameaças de violência.
- Vantagem apontada por educadores: permite intervenções rápidas.
- Crítica comum: pode gerar alertas excessivos e criminalizar comentários sem intenção real de dano.
De acordo com o The Washington Post, cerca de 1.500 distritos escolares nos Estados Unidos utilizavam o sistema.
Até que ponto um comentário é apenas uma fala impensada e quando ele vira uma ameaça real? O caso em Volusia segue sob análise judicial, e levanta exatamente essa pergunta difícil sobre segurança, tecnologia e intenção.