O Ministério Público Federal (MPF), junto com a Agência Nacional de Proteção de Dados (ANPD) e a Secretaria Nacional do Consumidor (Senacon), acendeu um alerta sério para a plataforma X (antigo Twitter). As instituições querem que a empresa tome medidas urgentes para frear o uso indevido do Grok, sua ferramenta de inteligência artificial, que estaria criando e espalhando imagens com conotação sexual.
Essa movimentação das importantes entidades veio depois de uma série de denúncias. Usuários do X relataram que imagens falsas de caráter sexual, criadas a partir de fotos de pessoas reais e sem o consentimento delas, estavam sendo geradas e circulando na plataforma através do Grok. É uma situação delicada que acende um alerta sobre a segurança digital e a privacidade de todos que usam a rede social.
O que as instituições pedem ao X?
Um documento divulgado na última terça-feira (20) detalha uma série de recomendações claras para a plataforma. Elas buscam garantir que o uso da inteligência artificial seja responsável e não cause danos aos usuários:
- Suspensão Imediata de Contas: Uma das exigências mais fortes é a suspensão imediata de todas as contas que forem pegas produzindo essas imagens. Isso vale para qualquer conteúdo sexual ou erotizado, seja de crianças e adolescentes ou de adultos, desde que criado sem a permissão das pessoas envolvidas pela ferramenta de IA.
- Filtro e Remoção de Conteúdo: A plataforma X precisa desenvolver, em no máximo 30 dias, procedimentos técnicos e operacionais capazes de identificar, revisar e tirar do ar todo conteúdo sexualizado indevido que tenha sido feito pelo Grok a partir de comandos de usuários e que ainda esteja circulando na rede.
- Canais de Denúncia Eficazes: MPF, ANPD e Senacon também querem que o X crie um canal transparente, fácil de usar e eficiente. Por ele, qualquer pessoa poderá reclamar quando seus dados forem usados de forma errada, abusiva ou ilegal – principalmente quando o Grok gerar imagens falsas de cunho sexual sem autorização. O sistema precisa garantir uma resposta rápida e adequada para essas denúncias.
Essas recomendações reforçam a preocupação das autoridades brasileiras com o avanço rápido da inteligência artificial e a necessidade de regulamentação para evitar abusos. O uso de IA para criar conteúdo sexualizado sem consentimento não só viola a privacidade das pessoas, mas também pode gerar sérios danos morais e legais. A expectativa é que o X responda prontamente para garantir um ambiente digital mais seguro e respeitoso para seus usuários, combatendo de frente a disseminação de conteúdo impróprio e ilegal gerado por IA.
