O YouTube implementou novas diretrizes em sua política de uso com o objetivo de restringir a disseminação de vídeos que utilizem a técnica de deepfake para reproduzir de maneira fidedigna relatos de menores de idade e outras vítimas de crimes narrando os aspectos violentos de suas experiências, incluindo as circunstâncias de suas mortes. Essa medida surge em resposta a preocupações acerca da integridade das vítimas e do impacto dessas representações nos familiares e na sociedade como um todo.
Com a crescente capacidade das inteligências artificiais em replicar vozes humanas e imagens, tornou-se possível criar vídeos extremamente realistas que podem causar confusão entre os espectadores quanto à autenticidade do conteúdo. Algumas famílias de vítimas impactadas por essas representações expressaram a percepção de tais conteúdos como repulsivos, o que sensibilizou a plataforma a adotar uma postura mais firme.
As novas regras estipulam que a violação destas resultará na remoção imediata do conteúdo em questão, bem como imporá limitações nas capacidades de publicação do canal responsável por um período determinado. A reincidência dentro de um intervalo de 90 dias poderá levar a sanções progressivamente mais severas, que podem culminar na exclusão definitiva do canal da plataforma.
Essa deliberação está alinhada a uma tendência mais ampla nas redes sociais de estabelecerem normativas específicas para lidar com conteúdos produzidos por meio de tecnologias de inteligência artificial. Medidas adicionais, como a exigência de identificar explicitamente vídeos gerados através de IA, têm sido adotadas, a exemplo do que ocorre no TikTok, visando manter a transparência e minimizar a confusão entre os usuários quanto à origem do que estão assistindo.
Adicionalmente, a iniciativa do YouTube também acompanha a implementação de políticas similares em relação a outros usos de IA, como a reprodução de vozes de músicos, enquanto estabelece normas menos restritivas para outros tipos de simulações de voz. A atualização das diretrizes da plataforma reflete assim uma atenção crescente às implicações éticas do uso de tecnologias emergentes na criação e distribuição de conteúdo digital.
