A plataforma X, antigo Twitter, está na mira do Ministério Público Federal (MPF) após a deputada federal Erika Hilton (Psol) entrar com um pedido oficial de investigação. O motivo da preocupação é a ferramenta de inteligência artificial Grok, da própria plataforma, que está sendo acusada de criar e editar de forma automática imagens sexuais de pessoas reais, inclusive de crianças e adolescentes, sem qualquer consentimento.
A denúncia, protocolada pela parlamentar, aponta que o Grok permite que usuários gerem "deepfakes sexualizadas, eróticas e com conotação pornográfica de mulheres e de crianças e adolescentes reais". Tudo isso acontece, segundo a petição, em resposta a comandos simples de usuários, sem que a plataforma tenha mecanismos eficazes para verificar se a pessoa na imagem deu permissão, qual é a sua idade ou qual o propósito legítimo da criação.
Preocupação com Imagens de Menores e Mulheres
A deputada Erika Hilton ressaltou em seu documento que o problema é grave, pois a ferramenta teria produzido fotos de menores de idade e de mulheres adultas sem a autorização delas. O mais preocupante é que, mesmo depois de várias denúncias públicas sobre essas práticas, a plataforma X não agiu e a ferramenta Grok continuou funcionando normalmente.
A produção de deepfakes, que são vídeos ou imagens manipuladas de forma realista, levanta uma série de questões éticas e legais, especialmente quando envolve conteúdo sexual e pessoas sem consentimento. Quando esse conteúdo é de crianças e adolescentes, a situação se torna ainda mais delicada e criminosa.
Publicidade"A configuração da pornografia infantil independe da forma de produção do conteúdo."
A fala da petição é clara, ao lembrar das leis do Estatuto da Criança e do Adolescente (ECA). Isso significa que, não importa como a imagem foi feita – se foi uma foto real editada ou gerada por IA – se ela caracteriza pornografia infantil, é crime.
O Que a Deputada Pediu ao MPF
Para resolver essa situação urgente, Erika Hilton não só pediu uma recomendação, mas também que o Ministério Público Federal comece uma investigação formal. Entre os principais pedidos da deputada, estão:
- A suspensão imediata ou a imposição de fortes restrições ao funcionamento da ferramenta Grok.
- A aplicação de uma multa diária de R$ 500 mil à plataforma X.
- A desativação completa do Grok em todo o território nacional até que a empresa implemente medidas de segurança realmente eficazes para evitar a criação e disseminação desses deepfakes.
A ação de Erika Hilton destaca a crescente preocupação com o uso irresponsável da inteligência artificial e a necessidade de as plataformas digitais assumirem a responsabilidade pelo conteúdo gerado por suas ferramentas, garantindo a segurança e a privacidade de seus usuários.
