Um novo relatório publicado pelo Future of Life Institute (FLI) aponta que as principais empresas de Inteligência Artificial (IA) — incluindo Anthropic, Meta, OpenAI e xAI — estão aquém dos padrões internacionais de segurança. O estudo, divulgado nesta quarta-feira (3), destaca o aumento das preocupações referentes ao desenvolvimento de IA sem as devidas salvaguardas.
O relatório revela que, apesar do crescimento acelerado no investimento e nas inovações tecnológicas, nenhuma das empresas analisadas possui uma estratégia eficaz que garanta o controle sobre sistemas avançados, como os que buscam alcançar a superinteligência. Essa lacuna nas práticas de segurança surge em um período em que a sociedade se preocupa cada vez mais com os impactos sociais das tecnologias de IA.
Eventos recentes relacionados ao uso irresponsável de chatbots, que resultaram em episódios de autoagressão e suicídio, intensificaram o senso de urgência para a implementação de normas que assegurem o uso ético e seguro dessas tecnologias.
Max Tegmark, presidente do FLI e professor do MIT, enfatizou a gravidade da situação ao afirmar que as empresas de IA estão “menos reguladas do que restaurantes”, enquanto pressionam contra a adoção de normas de segurança obrigatórias. O relatório também mencionou apelos de líderes científicos, como Geoffrey Hinton e Yoshua Bengio, que em outubro solicitaram a paralisação dos investimentos em IA superinteligente até que marcos regulatórios adequados sejam estabelecidos.
Em resposta a essas preocupações, o Google DeepMind anunciou que continuará investindo em segurança e governança à medida que suas tecnologias progridem. Por outro lado, a xAI se defendeu, alegando que as críticas da mídia eram incorretas, enquanto as outras empresas mencionadas não se manifestaram de imediato.
