A deputada estadual Renata Souza (PSOL-RJ) denunciou na última quinta-feira (26) o que chamou de “racismo algorítmico” em uma ferramenta de inteligência artificial. A acusação foi publicada em suas redes sociais, gerando grande repercussão.
A deputada solicitou à IA que criasse a imagem de “uma mulher negra, de cabelos afro, com roupas de estampa africana num cenário de favela”. No entanto, a imagem resultante mostrou a personagem segurando uma arma de fogo.
O incidente ocorreu em meio a uma tendência popular de criar personagens ao estilo da Pixar usando software gratuito de IA. Embora Renata Souza não tenha especificado o nome da ferramenta em questão, a Microsoft disponibilizou recentemente um serviço que realiza tal tarefa.
A resposta da Microsoft
A Microsoft, empresa responsável pelo software, emitiu uma nota oficial. “Estamos investigando este relato e tomaremos as medidas adequadas para ajustar nosso serviço. Acreditamos na criação de tecnologias de IA confiáveis e inclusivas e estamos comprometidos em melhorar a precisão dos resultados”, afirmou a empresa.
O que é racismo algorítmico?
O termo “racismo algorítmico” se refere à reprodução de preconceitos e discriminações sociais em tecnologias digitais. O primeiro caso registrado ocorreu em 2010, com câmeras da Nikon que não reconheciam rostos asiáticos devido a um recurso destinado a evitar selfies com olhos fechados.
“O racismo algorítmico está aí. Essa lógica de criminalização das pessoas negras, nesses territórios de favelas e periferias, também está nos algoritmos”, alertou a deputada Renata Souza.
Por: Redação Portal ChicoSabeTudo
