O ChatGPT, a inteligência artificial da OpenAI que virou febre, está gerando um novo tipo de preocupação entre especialistas em desinformação. O modelo mais recente da plataforma, o GPT-5.2, foi flagrado citando a Grokipedia – uma enciclopédia online criada por inteligência artificial da xAI, empresa de Elon Musk – como fonte em diversas de suas respostas. A descoberta, feita pelo jornal britânico The Guardian, acende um alerta sobre a possibilidade de conteúdos de baixa credibilidade ganharem força indiretamente através de sistemas de IA tão populares.
Os testes do Guardian revelaram que o ChatGPT usou a Grokipedia em pelo menos nove oportunidades ao responder a mais de uma dúzia de perguntas. Os temas abordados eram sensíveis e complexos, incluindo a estrutura política do Irã, detalhes sobre a força paramilitar Basij e a propriedade da Fundação Mostazafan. Além disso, a Grokipedia foi citada em informações biográficas sobre Sir Richard Evans, um historiador britânico famoso por atuar em um caso de difamação envolvendo um negacionista do Holocausto.
Especialistas estão em alerta. A Grokipedia, lançada em outubro com a ambição de ser uma rival da Wikipedia, já recebeu duras críticas por apresentar narrativas com vieses políticos em vários tópicos. Pesquisadores de desinformação temem que, ao ser citada por modelos de linguagem grandes como o ChatGPT, a Grokipedia possa ganhar uma "aura" de credibilidade indevida, facilitando a disseminação de informações duvidosas.
Grokipedia: Uma Enciclopédia Feita Por IA
Diferente da colaborativa Wikipedia, a Grokipedia tem uma característica peculiar: ela não permite que humanos editem seu conteúdo diretamente. Quem escreve e responde a pedidos de alteração é um modelo de inteligência artificial. Essa abordagem já rendeu à plataforma críticas de pesquisadores e da imprensa, que apontaram narrativas consideradas enviesadas em assuntos delicados, como casamento entre pessoas do mesmo sexo e a invasão do Capitólio dos Estados Unidos em 6 de janeiro de 2021.
Curiosamente, durante os testes do Guardian, o ChatGPT não citou a Grokipedia quando o objetivo era repetir informações obviamente falsas sobre esses assuntos mais polêmicos. As referências apareceram mais em tópicos "obscuros", onde o conteúdo da Grokipedia parece ter se infiltrado nas respostas do modelo de IA.
As Preocupações dos Especialistas e a Reação da OpenAI
A situação levanta sérias questões sobre como as IAs aprendem e qual a confiabilidade de suas fontes. Nina Jankowicz, uma renomada pesquisadora de desinformação, foi enfática ao afirmar que as informações da Grokipedia que ela e seus colegas analisaram se baseavam em fontes que eram "na melhor das hipóteses, não confiáveis e, na pior, desinformação deliberada". Para ela, quando modelos de linguagem citam essas fontes, a percepção de credibilidade desses sites aumenta significativamente entre os leitores.
"A maioria das pessoas não vai fazer o trabalho necessário para descobrir onde a verdade realmente está", disse Nina Jankowicz, reforçando o desafio de combater informações falsas.
A OpenAI, desenvolvedora do ChatGPT, defendeu-se por meio de um porta-voz ao The Guardian. A empresa afirmou que a busca na web do ChatGPT "tem como objetivo recorrer a uma ampla gama de fontes e pontos de vista disponíveis publicamente". A OpenAI garantiu que possui filtros de segurança para diminuir o risco de exibir links associados a "danos graves" e que mantém programas contínuos para remover informações de baixa credibilidade e campanhas de influência.
O Risco do 'Grooming' de Modelos de IA
Esse cenário não é totalmente novo. Especialistas em segurança digital já haviam alertado, no ano passado, para uma prática chamada "LLM grooming". Nela, redes de propaganda produzem grandes volumes de desinformação com o intuito de "alimentar" intencionalmente modelos de IA com conteúdos falsos. Um exemplo discutido pelo Congresso dos Estados Unidos em junho envolveu o Gemini, do Google, que teria repetido posições do governo chinês sobre abusos de direitos humanos em Xinjiang e políticas de Covid-19.
A dificuldade em corrigir informações falsas uma vez que elas são disseminadas por IAs é um obstáculo real. Nina Jankowicz relatou um caso em que um veículo de imprensa publicou uma citação falsa atribuída a ela. Mesmo após a correção, os modelos de IA continuaram a repetir a informação por um bom tempo. Esse episódio ilustra a persistência das "notícias" falsas no ecossistema digital.
Ao ser procurada pelo The Guardian, a Anthropic, responsável pelo modelo Claude (que também teria citado a Grokipedia em alguns tópicos), não respondeu. Já a xAI, empresa de Elon Musk e dona da Grokipedia, limitou-se a uma declaração provocativa: "A mídia tradicional mente".
