A OpenAI, empresa por trás do famoso ChatGPT, acaba de comprar uma startup de segurança chamada Promptfoo. O objetivo é direto: garantir que a sua própria inteligência artificial não se torne uma arma nas mãos erradas, reforçando a segurança contra possíveis ataques.
A preocupação é que os chamados 'agentes de IA', que podem realizar tarefas sozinhos, sejam explorados por criminosos para acessar informações sigilosas ou manipular sistemas. A aquisição mostra que a própria criadora da tecnologia está atenta a esses riscos.
A Promptfoo é especialista em testar e encontrar vulnerabilidades em sistemas de inteligência artificial. Basicamente, o trabalho deles é 'atacar' a IA para descobrir suas fraquezas antes que os hackers o façam, funcionando como um controle de qualidade para a segurança.
A tecnologia da startup será integrada à plataforma empresarial da OpenAI. Com isso, a empresa poderá fazer testes de invasão automatizados, monitorando constantemente seus sistemas para identificar e corrigir falhas de segurança antes que virem um problema real.
Apesar de o valor da negociação não ter sido divulgado, a Promptfoo já era uma empresa relevante no mercado, com suas ferramentas sendo utilizadas por mais de 25% das 500 maiores empresas do mundo, segundo informações divulgadas.
