As autoridades brasileiras, incluindo o governo federal e o Ministério Público Federal (MPF), concluíram que a plataforma X, antigo Twitter, não conseguiu comprovar que agiu de forma eficaz para impedir que a ferramenta Grok gere e espalhe imagens eróticas falsas. O Grok é uma inteligência artificial que consegue modificar fotos de pessoas sem o consentimento delas, transformando-as em conteúdo sexualizado.
De acordo com o g1, as informações que a empresa de Elon Musk apresentou não vieram acompanhadas de provas concretas. Além disso, testes feitos pelas equipes técnicas indicaram que ainda é bem fácil criar e compartilhar essas imagens sexualizadas sem autorização de quem aparece nelas.
O problema não é novo. Desde o fim do ano passado, muitas denúncias surgiram em vários países. A ferramenta Grok, da xAI (também de Musk), é acusada de atender a pedidos de usuários para pegar fotos de mulheres nas redes sociais e alterá-las, fazendo com que elas apareçam nuas ou de biquíni, por exemplo. No Brasil, pelo menos duas mulheres já disseram ter sido vítimas desses chamados “deepfakes”.
O caso está sendo acompanhado de perto por importantes órgãos brasileiros: a Agência Nacional de Proteção de Dados (ANPD), o MPF e a Secretaria Nacional do Consumidor (Senacon).
Plataforma não cumpriu as recomendações
No dia 20 de janeiro, a ANPD, o MPF e a Senacon já haviam recomendado que o X tomasse providências para impedir esse tipo de alteração feita pelo Grok. A plataforma chegou a dizer que removeu milhares de publicações com essas imagens e suspendeu centenas de contas que violaram suas regras.
“As informações fornecidas pela empresa não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade.”
Essa foi a avaliação das autoridades brasileiras, que consideraram as explicações do X insuficientes. Os testes confirmaram que a rede social ainda permite a criação e o compartilhamento de imagens sexualizadas ou erotizadas, sem consentimento, envolvendo crianças, adolescentes e adultos.
O MPF foi claro ao afirmar que a empresa não agiu com transparência e exigiu que o X envie relatórios mensais detalhando tudo o que está fazendo para evitar a produção desse tipo de conteúdo. A ANPD também pediu que a plataforma liste as medidas que adotou para resolver o problema e apresente provas que possam ser verificadas pelas autoridades.
Novo prazo e possíveis punições
Diante da falta de respostas satisfatórias, a ANPD e a Senacon deram um novo prazo de cinco dias úteis para o X. A empresa precisa melhorar e colocar em prática ações que realmente impeçam o Grok de criar esse conteúdo. Todas as providências tomadas deverão ser explicadas dentro desse período.
Se a determinação não for cumprida, a empresa pode enfrentar punições mais severas, como multas altas. Os responsáveis também podem responder pelo crime de desobediência. O MPF ainda pode aprofundar as investigações, o que pode levar a uma ação judicial para pedir reparação pelos danos que as imagens falsas causaram.
Investigações também na Europa
O X e o Grok não estão sob a mira apenas no Brasil. Na Europa, a atuação da plataforma também está sendo investigada. No dia 3 deste mês, por exemplo, escritórios da empresa na França foram alvo de buscas, em uma investigação preliminar que apura crimes como a disseminação de pornografia infantil e de deepfakes. A alteração de imagens pelo Grok também está sendo investigada no Reino Unido e em toda a União Europeia.
O Grok é desenvolvido pela xAI, outra empresa de Elon Musk. Recentemente, o bilionário anunciou a fusão da xAI com a SpaceX, sua companhia do setor aeroespacial. Essa operação promete criar um negócio avaliado em trilhões, com a SpaceX planejando sua estreia na bolsa de valores de Nova York ainda este ano.
