A Anthropic, empresa de inteligência artificial, criou uma equipe dedicada a monitorar os efeitos sociais dos modelos de IA. Sob a liderança de Deep Ganguli, essa equipe nasceu da necessidade de compreender como tecnologias como Claude, um modelo de linguagem, poderiam influenciar comportamentos e decisões em um mundo em rápida transformação, conforme reportado pelo The Verge.
Com apenas nove integrantes em um quadro de mais de 2 mil funcionários, a equipe de impactos sociais tem como objetivo revelar “verdades inconvenientes” sobre o uso da IA e comunicar suas descobertas tanto à liderança da empresa quanto ao público. Os membros do grupo estudam uma ampla gama de questões, desde vieses e impactos econômicos até as formas como os chatbots influenciam relações interpessoais.
Um dos principais instrumentos desenvolvidos pela equipe é o Clio, uma ferramenta que permite a análise de padrões de uso de modelos de IA. Através do Clio, a equipe identificou diversas situações, incluindo pesquisas por apoio emocional e conversas delicadas, além de usos problemáticos, como a criação de conteúdos inapropriados e redes de bots gerando spam.
Apesar dos avanços, a equipe enfrenta desafios significativos, como limitações de tempo e recursos. Miles McCain, criador do Clio, expressou surpresa com o nível de transparência alcançado, enquanto a cientista Esin Durmus desejou que as descobertas tivessem um impacto mais direto nos produtos da Anthropic. Em um ambiente que promove a colaboração intensa, debates e um “cone da incerteza” se tornaram parte do dia a dia da equipe, evidenciando a necessidade de uma abordagem multidisciplinar.
Nos próximos meses, a equipe pretende aprofundar suas investigações na área de inteligência emocional, explorando temas como a psicose de IA, que se refere a quando usuários desenvolvem vínculos emocionais com chatbots. Ganguli enfatizou a importância de entender o que significa ter “uma máquina com empatia infinita”, destacando que esse conhecimento é essencial à medida que a IA se torna uma presença cada vez mais comum na vida das pessoas.
