Twitter é acusado de racismo por algoritmo da rede social priorizar rostos brancos em fotos; Plataforma se posiciona sobre o caso — entenda

O algoritmo que o Twitter usa para criar pré-visualizações de fotos tem sido alvo de grandes críticas. O mecanismo é utilizado para diminuir o espaço da imagem no tweet, dando uma prévia antes de abri-la por completo. Acontece que os usuários da rede social apontaram que o recurso de corte automático está inclinado a focar mais em rostos brancos em vez de negros, gerando acusações dos internautas de que a ferramenta teria um viés racista.

O primeiro a levantar essa questão foi o americano Colin Madland, que descobriu o problema enquanto destacava um erro no reconhecimento facial do Zoom. O software não mostrava o rosto de um colega negro nas ligações, e quando ele postou imagens da situação no Twitter, a plataforma cortou automaticamente para mostrar apenas Madland em destaque.

Outros seguiram com experimentos mais direcionados ao Twitter, e um tópico com fotos de políticos americanos — o ex-presidente, Barack Obama e o senador, Mitch McConnell — tornou-se especialmente viral ao mostrar que o algoritmo sempre cortava o ex-presidente. Na primeira montagem, a foto do senador branco está em cima, e a de Obama, embaixo. Na segunda montagem, a posição das imagens foi invertida.

Continua depois da Publicidade

Em repetidas experiências, o mesmo aconteceu. Vários usuários começaram a testar com diferentes fotos de pessoas brancas e negras. Na maioria das vezes, a fotografia de brancos continuou sendo priorizada — até mesmo no caso em que usaram uma imagem do desenho “Os Simpsons”, o personagem mais “claro” foi colocado em destaque.

Em nota, a conta oficial do Twitter explicou que fizeram uma série de testes antes de lançar o modelo e não encontraram evidências de preconceito racial ou de gênero. E ainda acrescentou: “Está claro que temos mais análises a fazer. Continuaremos compartilhando nossos aprendizados e medidas, e abriremos o código para que outros possam revisá-lo”. 

Continua depois da Publicidade

O diretor executivo de design da empresa, Dantley Davis, disse que estavam investigando a rede neural, mas fez alguns experimentos informais por conta própria, tuitando o resultado: “Não é um teste científico, pois é um exemplo isolado, mas aponta para algumas variáveis que precisamos analisar. Os dois homens agora têm os mesmos ternos e eu cobri suas mãos”. Na imagem, o recorte está em uma pessoa negra.