A tecnologia usada para criar vídeos e áudios falsos, os chamados deepfakes, agora está sendo usada para o bem. Startups de segurança digital decidiram criar suas próprias versões de conteúdos manipulados para treinar sistemas de inteligência artificial a identificar o que é real e o que é golpe.
O foco principal dessa corrida tecnológica é proteger grandes empresas de transferências bancárias fraudulentas. Criminosos têm usado a voz e o rosto de diretores para autorizar pagamentos ilícitos, que em alguns casos já ultrapassaram a marca de R$ 5 milhões em um único ataque.
Para o cidadão comum, o perigo mora na facilidade com que os bandidos agem. Com apenas nove segundos de áudio retirados de redes sociais como TikTok ou Facebook, golpistas conseguem criar uma voz idêntica à da vítima para enganar colegas de trabalho e sistemas de bancos.
As fraudes evoluíram tanto que até as famosas 'máscaras digitais' estão sendo usadas em reuniões de vídeo por aplicativos como o Zoom. Antigamente, pedia-se para a pessoa passar a mão na frente do rosto para bugar o sistema, mas as IAs atuais já conseguem imitar movimentos complexos sem nenhuma distorção.
Especialistas explicam que o treinamento funciona como uma sala de aula: os desenvolvedores mostram milhares de arquivos verdadeiros e falsos para o sistema. Com o tempo, o software aprende a notar falhas de áudio e imagem que são totalmente invisíveis para o olho humano.
No futuro, a ideia é que essa proteção funcione como um antivírus comum. A ferramenta deve ser instalada diretamente nos navegadores de internet e e-mails, analisando automaticamente qualquer vídeo ou mensagem de voz antes mesmo de você abrir o arquivo, garantindo que ninguém caia em conversas fiadas.
