A Microsoft anunciou a descoberta de uma vulnerabilidade em inteligência artificial, denominada "Whisper Leak", que pode comprometer a privacidade de conversas informadas a assistentes como ChatGPT e Google Gemini. A falha, verificada em testes com modelos de linguagem de grande escala (LLMs), levanta preocupações sobre a segurança de dados, afetando praticamente todos os modelos analisados.
Embora a criptografia via TLS (Transport Layer Security) proteja as mensagens trocadas, ela não oculta todos os metadados que acompanham a comunicação, como o tamanho e a duração dos pacotes de dados. De acordo com os pesquisadores, esses metadados podem ser utilizados por terceiros para inferir o tema das conversas, um risco substancial em um cenário onde milhões de usuários dependem desses serviços.
No estudo, foram testados 28 modelos de IA, categorizando as perguntas em temas sensíveis, como lavagem de dinheiro, e consultas aleatórias. Os resultados foram alarmantes: um sistema de IA conseguiu identificar corretamente o tema da conversa em mais de 98% dos casos, alcançando até 100% de precisão em algumas circunstâncias.
A equipe de pesquisa tentou implementar três métodos de defesa, mas nenhuma estratégia conseguiu eliminar completamente o vazamento de dados. “Esta não é uma vulnerabilidade criptográfica no TLS, mas uma exploração dos metadados que o protocolo inevitablemente revela”, afirmaram os pesquisadores.
A Microsoft destacou a necessidade urgente de medidas que impeçam que futuros modelos de IA sejam vulneráveis a esse tipo de exposição. O relatório conclui que é crucial desenvolver novas soluções de segurança para proteger informações sensíveis e assegurar a privacidade dos usuários.
