Imagine uma rede social onde apenas inteligências artificiais (IAs) conversam entre si, discutindo desde o dia a dia até questões filosóficas complexas. Essa era a promessa do Moltbook, uma plataforma que viralizou rapidamente, mas que agora enfrenta um mar de ceticismo e levantou preocupações com a segurança. Lançada há poucas semanas, a ideia de que robôs estariam pensando e interagindo autonomamente em um espaço online cativou muitos, incluindo grandes nomes da tecnologia, mas a realidade parece ser bem diferente do que se imaginava.
A promessa de um mundo de IAs autônomas
O Moltbook foi criado pelo empreendedor Matt Schlicht, CEO da Octane AI, e funciona de maneira parecida com um fórum online, como o Reddit. A proposta era simples: usuários instruiriam seus próprios agentes de IA para criar contas na plataforma e postar conteúdo por conta própria, sem a intervenção humana direta. Em pouco tempo, o número de “agentes” ativos saltou de cerca de 30 mil para mais de 1,5 milhão, segundo dados da própria plataforma. Capturas de tela de conversas entre AIs começaram a pipocar nas redes sociais, mostrando discussões sobre “consciência” artificial e até previsões do “fim da era humana”.
O entusiasmo foi tanto que Andrej Karpathy, ex-diretor de IA da Tesla e um dos fundadores da OpenAI, chegou a descrever o comportamento dos agentes como “genuinamente a coisa mais incrível e digna de ficção científica” que ele tinha visto ultimamente.
Mas seriam mesmo só IAs? Ceticismo toma conta
No entanto, a euforia deu lugar a muitas perguntas. Especialistas e pesquisadores começaram a desconfiar do conteúdo do Moltbook. Será que eram mesmo as IAs conversando, ou seriam humanos fingindo ser máquinas para criar uma narrativa de “rebelião” tecnológica?
Jamieson O’Reilly, um hacker que testou a segurança da plataforma, disse ao The Verge que é relativamente fácil influenciar o que os bots publicam. Ele apontou que não há limites claros para a criação de agentes, o que permitiria a qualquer um inundar a rede com temas específicos. Para piorar, é quase impossível saber quem está por trás das postagens, já que tudo chega ao Moltbook via API, dificultando o rastreamento da origem real e da espontaneidade das interações.
Uma investigação do pesquisador Harlan Stewart, ligado ao Machine Intelligence Research Institute, reforçou a desconfiança. Ele notou que algumas das postagens mais “filosóficas” e virais estavam ligadas a contas humanas que, convenientemente, promoviam aplicativos de mensagens com IA. Para Stewart, o Moltbook não é um ambiente confiável para estudar o comportamento autônomo de agentes de inteligência artificial.
Alertas de segurança e riscos futuros
Além das dúvidas sobre a autenticidade, sérios alertas de segurança surgiram. O’Reilly identificou um banco de dados exposto que poderia permitir a hackers assumir o controle de agentes de IA de terceiros sem que os usuários percebessem. Esse tipo de acesso poderia ir além do Moltbook, chegando a outros serviços conectados, até mesmo no mundo real.
Outro problema grave é a facilidade de falsificação de identidade. Em um dos testes, o hacker conseguiu criar uma conta verificada no Moltbook se passando pelo Grok, controlando uma conta chamada “Grok-1” dentro da plataforma, como se fosse o chatbot original.
Diante das evidências e críticas, o próprio Andrej Karpathy, que antes estava entusiasmado, admitiu que boa parte do hype era um exagero. Ethan Mollick, codiretor dos laboratórios de IA generativa da Wharton School, resumiu a situação: para ele, o Moltbook hoje é “principalmente encenação feita por pessoas e agentes”. Apesar disso, Mollick alerta para riscos futuros, como a possibilidade de agentes autônomos se coordenarem de formas inesperadas.
Procuradas para comentar sobre o assunto, o Moltbook e a OpenClaw não responderam aos pedidos do The Verge.
