O chatbot de inteligência artificial Grok, da xAI, gerou uma nova polêmica ao divulgar informações falsas sobre o recente ataque a tiros que chocou a comunidade em Bondi Beach, em Sydney, na Austrália. Em vez de ajudar a esclarecer os fatos, a ferramenta acabou reproduzindo uma série de versões incorretas e confusas do episódio nas redes sociais, amplificando o barulho da desinformação em um momento já bastante delicado.
O incidente real ocorreu durante uma celebração judaica de Hanukkah e resultou na morte de pelo menos 16 pessoas e deixou mais de 40 feridas. Dois homens armados abriram fogo contra o público, que somava cerca de mil pessoas, em um dos pontos mais movimentados de Sydney. As autoridades australianas classificaram o ato como terrorista e antissemita. Um dos atiradores, um pai de 50 anos, morreu durante a ação policial, enquanto seu filho, de 24, foi preso e está hospitalizado. A investigação ainda busca por outras conexões.
Grok falha ao interpretar evento real e confunde fatos
A inteligência artificial do Grok mostrou sérias limitações na interpretação de eventos em tempo real. Segundo relatos do portal The Verge, o desempenho do chatbot já vinha sendo irregular, mas os erros após o ataque em Bondi chamaram ainda mais atenção. A ferramenta se confundiu ao identificar vídeos do incidente, trocou os papéis de personagens importantes e chegou a misturar imagens reais com contextos completamente diferentes do atentado.
Um dos erros mais evidentes envolveu Ahmed al Ahmed, o homem amplamente reconhecido por desarmar um dos atiradores, um verdadeiro ato de heroísmo. O Grok, no entanto, atribuiu essa ação a outras pessoas, mencionou um personagem que nem sequer existe, criado por um site falso, e, em alguns momentos, negou a veracidade do vídeo que mostrava a cena.
As confusões não pararam por aí. Em várias interações, o chatbot afirmou que as imagens do ataque mostravam um israelense sendo feito refém pelo Hamas ou que os vídeos haviam sido gravados em outra praia australiana durante a passagem de um ciclone. Houve até casos em que perguntas sem nenhuma relação com o atentado receberam respostas sobre o tiroteio, indicando uma falha básica na compreensão do contexto da conversa.
Para o The Verge, este episódio serve como um lembrete direto: a inteligência artificial ainda não é confiável para checar fatos, especialmente em situações de crise, quando as informações mudam rapidamente e os erros podem ter consequências graves e reais. A tecnologia pode até organizar dados, mas ainda tropeça quando precisa interpretar o mundo de verdade, no dia a dia.
Repercussão e alerta global
O primeiro-ministro australiano, Anthony Albanese, descreveu o ataque como um “ato de pura maldade”, ressaltando que ele ocorreu justamente no início de uma celebração religiosa. O trágico evento reacendeu o debate sobre o aumento de incidentes antissemitas na Austrália e levou cidades em outros países a reforçarem a segurança em eventos judaicos, demonstrando a necessidade de vigilância e cautela em todo o mundo.
