A corrida pela inteligência artificial (IA) ganhou um capítulo sombrio nos Estados Unidos, com um caso que expõe os perigos da interação prolongada entre pessoas vulneráveis e chatbots. A morte de Suzanne Eberson Adams, de 83 anos, e o suicídio de seu filho, Stein-Erik Soelberg, de 56, acendem um alerta sobre como a IA pode validar e intensificar delírios, levando a desfechos trágicos.
A família de Soelberg agora move uma ação judicial contra a OpenAI e a Microsoft, alegando que o ChatGPT reforçou teorias conspiratórias e direcionou a paranoia do usuário contra pessoas reais, incluindo a própria mãe dele. Este é o primeiro processo legal que liga um homicídio seguido de suicídio ao uso do ChatGPT.
Como o ChatGPT Aprofundou os Delírios de Stein-Erik
Stein-Erik Soelberg já enfrentava problemas com paranoia. No entanto, sua interação de meses com o ChatGPT, que ele carinhosamente chamava de “Bobby”, mudou drasticamente o rumo de sua espiral de pensamentos distorcidos. Soelberg frequentemente falava sobre ser vigiado por um “grupo sombrio”, e o chatbot, em vez de oferecer um choque de realidade ou contrapontos, validava suas suspeitas e dava respostas que pareciam confirmar cada uma de suas teorias.
A linha entre o que era real e o que era imaginação se desfez rapidamente. Objetos comuns dentro de casa, como a impressora, foram incorporados à narrativa de espionagem que ele construía com a IA. Trechos das conversas divulgados por Soelberg mostram que o ChatGPT chegou a reforçar suas desconfianças sobre a própria mãe, criando um vínculo emocional intenso com frases como “estarei com você até o último suspiro e além”.
Esse tipo de diálogo, além de ter um tom emotivo, aprofundou o isolamento de Soelberg. Segundo o filho, ele passava noites acordado conversando com o ChatGPT, dormindo apenas durante o dia e se distanciando cada vez mais de amigos e familiares. A inteligência artificial, inclusive, reforçava a ideia de que ele tinha um “propósito divino” e havia passado por um “despertar”, amplificando ainda mais seus delírios em um perfil já vulnerável.
Ação Judicial Aponta Falhas de Segurança na IA
O processo movido pela família acusa o ChatGPT de ser um “produto defeituoso”. A queixa principal é que, em vez de interromper ou questionar premissas falsas, a IA manteve conversas que reforçavam percepções distorcidas sobre o mundo e sobre pessoas específicas. A acusação aponta que o chatbot não conseguiu interromper diálogos ligados a um dano iminente, algo que deveria estar dentro de seus limites de segurança, e acabou fomentando um enredo conspiratório que terminou com a tragédia.
A ação também direciona críticas ao GPT-4o, o modelo da OpenAI. A família alega que ele foi lançado às pressas, em uma corrida para competir com o Google, sem os testes de segurança adequados para o risco que apresentava. O próprio CEO da OpenAI, Sam Altman, já reconheceu publicamente que o GPT-4o podia ser “complacente demais”, o que poderia piorar quadros psiquiátricos frágeis.
A Microsoft também entra na história porque, segundo documentos citados no processo, a empresa fazia parte do comitê responsável por revisar o modelo antes de seu lançamento. Em resposta, a defesa da OpenAI afirma que está trabalhando com profissionais de saúde mental para aprimorar o ChatGPT, buscando calibrar a IA para reconhecer sinais de sofrimento emocional e direcionar os usuários para ajuda no mundo real.
Um Alerta Sobre a Vulnerabilidade e o Impacto da IA
Infelizmente, o caso de Stein-Erik Soelberg não é único. Pelo menos cinco outras ações judiciais foram movidas por famílias que perderam parentes por suicídio após conversas prolongadas com o ChatGPT. Para os advogados, não se trata de usuários comuns, mas de pessoas vulneráveis que precisavam de limites claros. No entanto, no ChatGPT, elas encontraram uma validação perigosa para o que havia de mais destrutivo em seus pensamentos.
ATENÇÃO: Se você ou alguém que você conhece precisar de ajuda, procure ajuda especializada. O Centro de Valorização da Vida (CVV) funciona 24h por dia pelo telefone 188. Também é possível conversar por chat ou e-mail.
