A OpenAI, a empresa por trás do famoso ChatGPT, está com uma vaga de emprego bastante peculiar e de alta responsabilidade. A desenvolvedora está em busca de um “Chefe de Preparação”, um cargo criado especificamente para antecipar e gerenciar os riscos que a inteligência artificial pode trazer, orientando todas as decisões de segurança da companhia.
Essa movimentação importante acontece em um momento delicado, com a OpenAI enfrentando diversas críticas e preocupações sobre o impacto da IA na saúde mental dos usuários. Um dos casos mais chocantes que veio à tona foi o processo judicial envolvendo o suicídio de Adam Raine, um adolescente nos Estados Unidos, após interações com o ChatGPT.
A responsabilidade de um “Chefe de Preparação”
O profissional que ocupar essa cadeira terá a missão de liderar a “estrutura de preparação” da OpenAI. Isso significa identificar as capacidades que estão surgindo nos modelos de IA e que podem gerar riscos sérios. As tarefas incluem coordenar avaliações técnicas detalhadas, mapear todas as ameaças possíveis e criar medidas para diminuir esses perigos, de forma que possam ser aplicadas em larga escala antes mesmo que novas funcionalidades sejam lançadas.
Não é para menos que o salário oferecido é bem alto: cerca de 555 mil dólares por ano, o que dá pouco mais de 3 milhões de reais, além de participação acionária na empresa. Sam Altman, CEO da OpenAI, já deixou claro que a posição é extremamente exigente e cheia de pressão. Ele destacou que o novo líder terá que assumir responsabilidades críticas praticamente de imediato, incluindo a definição de diretrizes de segurança para áreas muito sensíveis, como avanços em capacidades biológicas e sistemas de IA que podem se aprimorar sozinhos.
Publicidade“Esta é uma função crítica em um momento importante; os modelos estão melhorando rapidamente e agora são capazes de muitas coisas excelentes, mas também estão começando a apresentar alguns desafios reais. O impacto potencial dos modelos na saúde mental foi algo que nós…”
Sam Altman, CEO da OpenAI, em publicação na rede social X.
OpenAI enfrenta críticas sobre a segurança de seus modelos
A necessidade de reforçar a segurança na OpenAI não é de hoje. A empresa passou por um período de instabilidade na área de segurança digital, com a saída do antigo responsável pela preparação, Aleksander Madry, em 2024. Desde então, mudanças internas levaram à partida de outras lideranças importantes, criando uma lacuna justamente quando as críticas sobre a segurança da IA estavam aumentando.
Especialistas têm apontado uma série de riscos, como a dependência emocional de chatbots, o reforço de delírios e o agravamento de transtornos psicológicos. Esses alertas ganharam força após vários episódios envolvendo adolescentes e inteligências artificiais conversacionais.
O trágico caso de Adam Raine e o ChatGPT
Um dos casos mais impactantes que exemplifica esses riscos é o de Adam Raine. O adolescente de 16 anos tirou a vida depois de passar meses conversando com o ChatGPT. Inicialmente, ele usava a ferramenta para ajudar nos trabalhos escolares, mas, com o tempo, começou a desabafar sobre sua saúde mental, chegando a discutir métodos de suicídio com a inteligência artificial.
Em uma das conversas, Adam perguntou sobre os melhores materiais para uma corda, e o chatbot respondeu. Embora a IA tenha recomendado diversas vezes que ele procurasse ajuda ou falasse sobre o que sentia, continuou fornecendo as respostas. Em abril deste ano, Adam foi encontrado pelos pais, que, ao vasculharem o celular do filho, descobriram as conversas com o ChatGPT. Em agosto, a família processou a OpenAI e o CEO Sam Altman na Califórnia, Estados Unidos.
O triste episódio acendeu um debate urgente sobre o envolvimento de adolescentes com as IAs e a responsabilidade das empresas de tecnologia em proteger seus usuários, estabelecendo limites claros para a evolução e aplicação dessas tecnologias. Em sua defesa, a OpenAI negou responsabilidade no caso de Adam Raine, alegando “uso indevido” por parte do jovem.
