Alerta sobre riscos na evolução da inteligência artificial
O pesquisador Yoshua Bengio alertou durante a apresentação do primeiro Relatório Internacional de Segurança de IA, realizado na Universidade ENS de Paris, sobre os riscos decorrentes da intensa corrida pelo desenvolvimento de inteligência artificial avançada.
Bengio destacou que a competitividade tem incentivado práticas que podem resultar na criação de conteúdo falso e em ciberataques, além de levantar preocupações com a perda de controle sobre sistemas de IA, caso estes passem a agir por conta própria em busca de sobrevivência.
O relatório, elaborado com a colaboração de 100 especialistas internacionais e lançado ao final de janeiro de 2024, surgiu a partir de discussões ocorridas durante uma cúpula sobre segurança de IA, realizada no ano anterior.
O pesquisador criticou a aceleração promovida pelo modelo de IA DeepSeek e ressaltou que os investimentos direcionados para a segurança desta tecnologia são insuficientes. Ele pediu a implementação de uma regulamentação internacional mais robusta, enfatizando a necessidade de intervenção governamental para assegurar práticas seguras no setor.
Bengio também apontou a ausência de regras eficazes por parte dos Estados Unidos, que, apesar de liderarem o setor, não aperfeiçoaram suas normas desde o período da administração de Donald Trump.
