OpenAI forma nova equipe de segurança liderada por CEO Sam Altman

A OpenAI, startup de inteligência artificial, formou um novo time dedicado a questões de segurança e proteção. Essa iniciativa surge em meio a críticas e preocupações de ex-funcionários sobre a abordagem da empresa em relação à responsabilidade e aos riscos associados ao desenvolvimento de sistemas de IA avançados.

O CEO Sam Altman assumirá a liderança desse comitê, juntamente com Adam D’Angelo e Nicole Seligman, membros do conselho da OpenAI. Essa escolha gerou polêmica, uma vez que a equipe anterior responsável por essas questões foi dissolvida, com Jan Leike, um de seus líderes, deixando a empresa alegando que a segurança havia sido relegada a segundo plano em favor de produtos “brilhantes”.

Avaliação e recomendações

A nova equipe terá como primeira tarefa avaliar e aprimorar os processos e salvaguardas da OpenAI. Suas descobertas e recomendações serão apresentadas ao conselho, que decidirá como implementá-las. Essa medida visa abordar as preocupações expressadas por ex-funcionários, como Gretchen Krueger, que renunciou recentemente citando questões de segurança semelhantes às de Leike.

Além de Altman, D’Angelo e Seligman, a equipe contará com Aleksander Madry (chefe de preparação), Lilian Weng (chefe de segurança), John Schulman (chefe de ciência de alinhamento), Matt Knight (chefe de segurança) e Jakub Pachocki (cientista-chefe).