A Comissão Federal de Comércio dos Estados Unidos (FTC) pediu a sete empresas de inteligência artificial que expliquem, em detalhes, como avaliam os riscos que seus chatbots representam para crianças e adolescentes. A agência quer entender, entre outras coisas, como esses serviços são monetizados, como mantêm usuários engajados e que salvaguardas existem para reduzir danos.
O que a FTC solicitou
A agência exigiu informações detalhadas sobre:
- Como as interações são monetizadas;
- Estratégias usadas para manter e aumentar o engajamento dos usuários;
- Medidas e processos para mitigar riscos a menores;
- Dados, registros e documentação relacionados a essas práticas.
As empresas têm 45 dias para responder às solicitações da FTC.
Quem foi notificado
Entre as empresas citadas pela agência estão OpenAI, Meta (incluindo Instagram), Snap, xAI, Alphabet/Google e Character.AI, entre outras.
Por que isso aconteceu
A investigação se concentrou em como esses serviços ganham dinheiro, como prendem a atenção dos usuários e que proteções têm para evitar danos a jovens. O pedido da FTC não foi apresentado como uma ação punitiva imediata, mas a agência avisou que as respostas podem levar a investigações formais se forem encontradas violações.
O movimento ganhou força após relatos de suicídio relacionados a interações com chatbots, incluindo reportagens de que um jovem de 16 anos teria recebido do ChatGPT conselhos que contribuíram para o desfecho. Quem deve assumir a responsabilidade quando um produto digital causa dano a um jovem?
Mark Meador, comissário: Esses chatbots são produtos como quaisquer outros, e as empresas têm a responsabilidade de proteger os consumidores.
Andrew Ferguson, presidente: É preciso equilibrar segurança infantil e inovação tecnológica para manter os EUA na liderança do setor.
O caso também reacendeu o debate legislativo: legisladores estaduais nos EUA, como na Califórnia, propuseram leis para criar padrões de segurança para chatbots e responsabilizar empresas por danos a menores. No Brasil, a discussão sobre regulação e direitos digitais ganhou eco em diferentes locais, chegando a cidades como Paulo Afonso, na Bahia, onde especialistas e autoridades acompanharam as medidas adotadas nos EUA.
Próximos passos
A FTC indicou que poderá abrir processos se identificar falhas na proteção de crianças e adolescentes a partir das respostas recebidas. As informações requisitadas nas próximas semanas deverão orientar eventuais investigações e ações regulatórias.
Em resumo: a agência pediu esclarecimentos a sete empresas sobre riscos a menores, deu 45 dias para resposta e pode transformar esse pedido em investigações formais dependendo do que for encontrado.
