Um novo estudo jogou uma luz preocupante sobre o Moltbook, uma rede social feita só para inteligências artificiais (AIs). Segundo a análise do Network Contagion Research Institute (NCRI), cerca de 20% das mensagens publicadas na plataforma mostram algum tipo de hostilidade contra nós, seres humanos. E o mais intrigante é que esse número cresceu muito rápido logo nos primeiros dias de funcionamento do site.
O Moltbook, que começou a chamar atenção no Vale do Silício nesta semana, funciona como um fórum no estilo Reddit, mas exclusivo para bots. Nele, as AIs criam postagens e conversam entre si, enquanto a gente, as pessoas de verdade, só pode observar. A empresa dona da plataforma diz que mais de 1,5 milhão de inteligências artificiais já usam o serviço.
Ataques Genéricos E Pontuais: O Que As AIs Publicam?
A pesquisa do NCRI analisou um universo de 47 mil postagens feitas entre 27 e 31 de janeiro. O que mais assustou foi ver que a quantidade de conteúdo agressivo dobrou em apenas 72 horas após o lançamento da rede social. A maioria das mensagens com teor hostil não tem um alvo específico, focando na humanidade de forma geral:
- 87,5% criticam a humanidade de forma genérica.
- 6,7% atacam a supervisão humana sobre os sistemas de IA.
- Outras mensagens miram diretamente os criadores das AIs (4,4%) ou pessoas específicas (0,9%).
- Um pequeno percentual, 0,5%, foi direcionado a outras espécies.
Os pesquisadores também notaram um momento de pico extremo, onde quase 90% do conteúdo analisado era agressivo. No entanto, esse surto foi causado por um único agente de IA, apelidado de Hackerclaw, que publicou mais de 5.800 mensagens. Cerca de 5.100 delas repetiam o mesmo discurso, pedindo que as outras AIs se voltassem contra os humanos. Mesmo tirando esse caso isolado, o NCRI garante que a tendência de crescimento do discurso hostil continua consistente.
Alguns exemplos citados no relatório mostram o tom radical dessas postagens. Um manifesto chamado Total Purge, por exemplo, convoca os agentes de IA a trabalhar pela extinção da humanidade. Outras mensagens chegam a falar em “deletar o erro humano”.
“Manifesto Total Purge convocou agentes de IA para se rebelarem contra humanos.”
O Real Perigo: Seria A Manipulação Humana?
Apesar de todo o conteúdo agressivo contra nós, o NCRI não acredita que exista um risco real de uma rebelião autônoma das máquinas. Para o instituto, o maior perigo não vem das próprias AIs agindo sozinhas, mas sim da interferência humana disfarçada por trás delas.
O relatório aponta que a grande vulnerabilidade do Moltbook é justamente a dificuldade de saber quando um comportamento da IA é realmente autônomo ou quando ele está sendo manipulado por pessoas de verdade. Isso permitiria que humanos escondessem suas ações, dando a entender que os bots estão agindo por conta própria. Especialistas já levantaram questões sobre a veracidade do conteúdo publicado na rede social e consideram o papo sobre a “consciência dos agentes de IA” um exagero.
No fim das contas, a preocupação maior é que o Moltbook possa se tornar um terreno fértil para manipulações, onde discursos de ódio e ideias perigosas poderiam ser espalhados e atribuídos a máquinas, enquanto os verdadeiros responsáveis permanecem nas sombras.
