O ChatGPT, a ferramenta de inteligência artificial mais famosa do mundo, está ganhando um reforço importante na segurança, especialmente para os mais jovens. A empresa OpenAI, criadora da plataforma, começou a implementar um sistema inteligente que consegue prever se uma conta provavelmente pertence a alguém com menos de 18 anos. O objetivo é bem claro: proteger adolescentes, ajustando automaticamente a experiência e aplicando mecanismos de proteção específicos.
Essa iniciativa segue o que a OpenAI já vinha prometendo em seus documentos sobre segurança para jovens. A ideia é criar um ambiente mais seguro para os menores de idade, ao mesmo tempo em que os adultos continuam com a experiência completa do ChatGPT, sempre dentro dos limites de segurança estabelecidos pela empresa.
Como o ChatGPT "adivinha" a idade do usuário
Mas como a inteligência artificial consegue saber a idade de alguém? A OpenAI explicou que o ChatGPT usa um modelo de previsão que analisa uma série de "sinais". Entre eles estão o tempo que a conta existe, os horários em que o usuário costuma acessar o serviço, como ele usa a plataforma ao longo do tempo e, claro, a idade que a pessoa informou no momento do cadastro. Segundo a empresa, esse processo também ajuda a refinar o próprio sistema, tornando-o cada vez mais preciso.
Restrições para proteger os adolescentes
Quando o sistema identifica que a conta pode ser de um menor, o ChatGPT age na hora. Ele passa a aplicar proteções extras para diminuir a exposição a materiais que não são apropriados para essa faixa etária. A lista de conteúdos restritos inclui:
- Cenas de violência explícita ou muito gráficas.
- Desafios virais que podem incentivar comportamentos perigosos ou arriscados.
- Simulações de conversas ou papéis com teor sexual, romântico excessivo ou violento.
- Representações que incentivem a automutilação.
- Conteúdos que promovem padrões de beleza extremos, dietas prejudiciais ou "body shaming" (vergonha do corpo).
A OpenAI garante que essas decisões não foram tomadas ao acaso. Elas são baseadas em pesquisas e recomendações de especialistas em desenvolvimento infantil, que levam em conta como os jovens percebem riscos, controlam impulsos e são influenciados por amigos.
E se o ChatGPT errar?
Ninguém gosta de ser classificado errado, certo? Por isso, a OpenAI pensou nisso. Se um usuário for identificado incorretamente como menor de 18 anos, ele pode facilmente confirmar sua idade e ter o acesso completo de volta. O procedimento é simples: basta tirar uma selfie para verificar a identidade, usando um serviço chamado Persona. Para saber se as proteções foram aplicadas à sua conta ou para iniciar o processo de confirmação, o caminho é ir em "Configurações" e depois em "Conta" no menu do ChatGPT.
Mais controle para pais e responsáveis
Além das restrições automáticas, os pais e responsáveis também ganham mais ferramentas para cuidar dos adolescentes. Eles poderão ajustar a experiência dos filhos, definindo, por exemplo, horários em que o ChatGPT não poderá ser usado. Será possível controlar recursos como a memória do modelo ou se o ChatGPT pode "aprender" com as conversas. E, o que é muito importante, os pais podem receber notificações caso o sistema detecte sinais de algum tipo de sofrimento agudo por parte do jovem.
A empresa adianta que vai continuar monitorando como o sistema funciona para deixar a previsão de idade ainda mais precisa. A funcionalidade deve chegar à União Europeia nas próximas semanas, adaptada às exigências de lá. A OpenAI também manterá o diálogo com organizações importantes, como a American Psychological Association, para garantir que as atualizações sejam sempre as melhores.
