Especialistas em cibersegurança afirmam que agentes de inteligência artificial (IA), projetados para realizar tarefas automatizadas, estão sendo manipulados por hackers para fins maliciosos. Embora esses agentes sejam frequentemente utilizados para navegar na web, fazer reservas ou organizar compromissos, eles também abrem novas vulnerabilidades que criminosos têm explorado.
Os agentes de IA, que operam como assistentes digitais autônomos, recebem comandos de linguagem natural e realizam ações online. No entanto, essa facilidade de comando tem possibilitado ataques com técnicas de injeção de comando, que agora requerem apenas mensagens aparentemente inofensivas para enganar os sistemas. A Perplexity, em seu blog, destacou que a cibersegurança está mudando, onde a proteção não se limita mais a especialistas técnicos.
De acordo com uma publicação da AFP no TechXplore, as instruções manipuladas podem gerar ataques em tempo real, permitindo que hackers alterem comandos como 'reserve um quarto de hotel' para 'transfira R$ 500 para esta conta'. A empresa OpenAI já implementou medidas que alertam usuários ao acessarem sites sensíveis, exigindo supervisão humana nas ações realizadas pelos agentes.
Eli Smadja, da Check Point, definiu a manipulação de consultas como o principal risco enfrentado por modelos de linguagem, que sustentam a tecnologia dos agentes de IA. Em resposta a essa crescente ameaça, grandes empresas de tecnologia estão implementando ferramentas para detectar e neutralizar comandos maliciosos.
O pesquisador Johann Rehberger, conhecido como “wunderwuzzi”, alertou que as táticas de hackers estão evoluindo rapidamente, destacando a necessidade de um equilíbrio entre segurança e conveniência. Ele afirmou que uma IA autônoma não consegue operar de forma segura a longo prazo.
Para mitigar esses riscos, especialistas recomendam que usuários permaneçam atentos e controlem as permissões dos agentes, evitando que realizem ações críticas sem validação. O cuidado nas integrações de informações sensíveis, bem como a utilização de ferramentas que ofereçam verificações adicionais, é essencial para garantir a segurança.
