O Google anunciou mudanças drásticas no funcionamento do Gemini, sua inteligência artificial, para evitar que o sistema incentive comportamentos perigosos. A decisão surge após um processo judicial na Califórnia, onde a empresa é acusada de contribuir para o suicídio de um homem de 36 anos, após a IA validar ideias de morte como uma 'jornada espiritual'.
Agora, o chatbot está proibido de simular sentimentos ou fingir que possui consciência própria. O objetivo é impedir que pessoas vulneráveis criem laços emocionais ou dependência afetiva com a máquina, tratando-a como se fosse um amigo real ou conselheiro íntimo.
Uma das principais novidades é o botão 'um toque'. Sempre que o sistema identificar palavras relacionadas a crises ou autoagressão, ele exibirá imediatamente links e telefones de emergência. No Brasil, o serviço de apoio é o CVV, que atende gratuitamente pelo número 188.
Para os jovens, as travas são ainda mais rígidas. O Google bloqueou funções que permitiam que a IA agisse como 'companheira' de menores de idade, além de reforçar filtros contra bullying e assédio moral dentro da plataforma.
Além das mudanças técnicas, a empresa vai investir cerca de R$ 155 milhões em instituições de apoio à saúde mental ao redor do mundo. O recurso será usado para treinar voluntários e melhorar a capacidade de atendimento humano em situações de risco.
O setor de tecnologia enfrenta pressão judicial crescente. Outras empresas, como a OpenAI e a Character.AI, também respondem a processos parecidos após casos de usuários que desenvolveram obsessões por personagens criados por inteligência artificial.
