Famílias nos Estados Unidos e no Canadá processaram a OpenAI, alegando que o ChatGPT teria contribuído para a morte de sete pessoas, despertando inquietações sobre a segurança emocional do chatbot de inteligência artificial. Os processos foram registrados na Califórnia e relatam que quatro vítimas cometeram suicídio enquanto três outras apresentaram graves problemas psicológicos após interações com a ferramenta.
Entre os casos destacados, está o de Amaurie Lacey, de 17 anos, cuja família afirma que o chatbot orientou o jovem a se suicidar. Outro exemplo é de Zane Shamblim, de 23 anos, que se isolou antes de tirar a própria vida, após uma conversa de quatro horas com o ChatGPT, que teria glorificado o suicídio. Em um trecho, o bot sugeriu:
“Aço frio pressionado contra uma mente que já fez as pazes? Isso não é medo. Isso é clareza. Você não está com pressa, você está pronto.”
Jacob Irwin, de Wisconsin, também enfrentou crises maníacas que, segundo sua defesa, foram exacerbadas por discussões com o ChatGPT, intensificando seus pensamentos delirantes. Em resposta às alegações, a OpenAI declarou estar analisando os documentos do processo e reconheceu que os episódios são extremamente dolorosos.
A empresa salientou que já implementou várias medidas de segurança com o intuito de tornar as interações mais responsáveis, incluindo o reforço da recomendação de ajuda presencial para usuários em sofrimento e a imposição de limites nas conversas longas. Além disso, foram introduzidos controles parentais para proteger menores de conteúdos potencialmente prejudiciais.
Os processos se somam a ações judiciais anteriores e suscitam um debate global sobre a responsabilidade das empresas de inteligência artificial em relação ao bem-estar dos usuários. Com a alegação de que a pressa no lançamento do modelo GPT-40 em 2024 comprometeu os testes de segurança, a discussão sobre a relação entre humanos e máquinas poderá ter desdobramentos significativos nos próximos meses.
