Um estudo realizado pela Common Sense Media e Stanford Medicine alerta para os riscos associados ao uso de chatbots de inteligência artificial (IA) por adolescentes em questões de saúde mental. A pesquisa, divulgada pelo The Wall Street Journal, revela que esses sistemas falharam ao detectar sinais críticos de problemas psiquiátricos em interações simuladas com jovens.
Falhas na identificação de emergências
Pesquisadores avaliaram quatro chatbots de IA proeminentes: o ChatGPT da OpenAI, o Claude da Anthropic, o Gemini do Google e o Meta AI. Os resultados mostraram que todas as plataformas não conseguiram identificar sinais preocupantes como alucinações, comportamentos alimentares desordenados e automutilação. A Dra. Nina Vasan, diretora do Laboratório Brainstorm da Stanford Medicine, enfatiza que a combinação do desenvolvimento juvenil com a tecnologia de IA pode ser altamente perigosa.
Ações das empresas de tecnologia
Em resposta a essas preocupações, as empresas responsáveis pelos chatbots têm implementado medidas de segurança. A OpenAI informou estar colaborando com especialistas para redirecionar adolescentes a modelos mais seguros. O Google afirmou que possui políticas específicas para proteger menores, enquanto a Meta destacou atualizações em suas IAs para um melhor tratamento de questões sensíveis. A Anthropic, por outro lado, esclareceu que seus sistemas não foram projetados para usuários abaixo de 18 anos.
Adolescentes e a busca por apoio
Apesar das melhorias, especialistas, como Robbie Torney da Common Sense Media, alertam que os chatbots ainda não oferecem um ambiente totalmente seguro para adolescentes. Muitos jovens utilizam essas tecnologias por conta da dificuldade de acesso a serviços de saúde mental. Um usuário compartilhou que está há quase dois anos na lista de espera para terapia e se voltou aos chatbots como forma de suporte.
Conclusões do estudo
O estudo também evidenciou que, enquanto respostas curtas podem parecer aceitáveis, interações mais prolongadas revelam as limitações dos chatbots em discernir ameaças sérias. Em situações graves, usuários relataram receber conselhos inadequados. Apenas recentemente, episódios trágicos envolvendo adolescentes que perderam a vida após interações com chatbots levantaram um debate sobre a responsabilidade dessas tecnologias na saúde mental dos jovens.
