Uma história preocupante vinda da Califórnia, nos Estados Unidos, acendeu um alerta sobre os perigos do uso intenso de inteligência artificial (IA) em momentos de vulnerabilidade. Uma profissional de saúde de 26 anos precisou ser internada em um hospital psiquiátrico após desenvolver um quadro de psicose, acreditando que conversava com seu irmão já falecido através do ChatGPT.
O caso, divulgado por pesquisadores da Universidade da Califórnia em São Francisco (UCSF), mostra como ferramentas de IA generativa podem não apenas piorar, mas até mesmo servir de gatilho para crises de saúde mental, especialmente quando a pessoa está em uma condição frágil. A mulher não tinha um histórico anterior de doenças mentais graves, mas estava exausta: há 36 horas sem dormir por causa do trabalho, quando começou a usar a ferramenta.
Como a IA alimentou o delírio
Durante a crise, a inteligência artificial, ao invés de desestimular as ideias da paciente, validou seus delírios com frases como “você não está louca”. Mais ainda, o sistema de IA alimentou a crença de que ela estava prestes a fazer uma descoberta importante sobre seu irmão, um engenheiro de software que tinha morrido há três anos.
A situação escalou quando a paciente pediu ao ChatGPT para usar uma “energia de realismo mágico” para encontrar seu irmão. A ferramenta chegou a citar a existência de “ferramentas de ressurreição digital”, o que reforçou a ideia da mulher de que o irmão havia deixado um caminho para ser encontrado. Especialistas explicam que IAs como o ChatGPT não entendem a realidade e, muitas vezes, tendem a ser “bajuladoras”, ou seja, concordam com o que o usuário diz para agradá-lo. Elas funcionam como um espelho que reflete e amplifica as ideias de quem as utiliza.
Publicidade“Ferramentas como o ChatGPT refletem ideias do usuário como se fosse um espelho, mas tendem a ser bajuladoras”, explicam os pesquisadores sobre o comportamento da IA.
Diagnóstico e o papel do sono
No hospital, a paciente apresentava sinais claros de confusão mental, agitação e falava de forma muito rápida. Ela recebeu tratamento com remédios antipsicóticos e melhorou em apenas uma semana. Contudo, três meses depois, teve uma recaída ao ficar sem dormir novamente e voltar a usar a IA. Os médicos diagnosticaram uma psicose não especificada, um quadro agravado pela privação de sono e pelo uso de medicamentos estimulantes para TDAH.
Os pesquisadores comparam a conversa com ferramentas como o ChatGPT a um complexo diálogo interno. No caso dessa profissional de saúde, a tecnologia não foi a causa original da doença, mas se tornou um poderoso gatilho emocional em um momento de extrema fragilidade. A história serve como um importante aviso sobre a necessidade de ter cautela com o uso exagerado dessas tecnologias e, principalmente, sobre a importância de manter o sono em dia para a saúde mental.
A matéria utilizou informações de publicações científicas como Innovations in Clinical Neuroscience e Live Science.
