O Facebook disse na terça-feira que a principal rede social e o  Instagram , seu serviço de fotos, intensificarão os esforços para enfrentar os desafios que as minorias enfrentam em suas plataformas e examinar o potencial preconceito racial em seu algoritmo e produtos. 

A mudança ocorre no momento em que o Facebook está sob mais pressão para combater o conteúdo odioso em seu site, após o assassinato policial de George Floyd, um homem negro de 46 anos em Minneapolis. Grupos de direitos civis criticaram a empresa por não fazer o suficiente para lidar com o discurso de ódio, o que levou os principais anunciantes a suspender os gastos com o Facebook neste mês como parte de uma campanha.

Usuários negros e outras minorias também reclamaram que suas postagens sobre racismo foram erroneamente sinalizadas pela empresa como discurso de ódio. Mark Luckie, um ex-gerente do Facebook que é negro, também acusou a rede social de “fracassar” com seus usuários negros , observando que há uma teoria de que seu conteúdo é mais prejudicado do que outros grupos. 

“O movimento de justiça racial é um momento de real significado para nossa empresa”, disse Vishal Shah, vice-presidente de produto do Instagram em um comunicado. “Qualquer preconceito em nossos sistemas e políticas vai contra o fornecimento de uma plataforma para que todos se expressem.” 

O Instagram está criando uma nova equipe focada em “garantir justiça e desenvolvimento equitativo de produtos”. Chamada de equipe Equity, os funcionários do Instagram também oferecerão suporte a recursos que promovem a igualdade, como ferramentas que ajudam diversos negócios. A equipe trabalhará com a equipe de IA responsável do Facebook. O Facebook também está criando uma equipe de produtos de inclusão e recentemente lançou um conselho que ajudará a incorporar as opiniões dos usuários negros e outras minorias à medida que desenvolve novos produtos.

O Wall Street Journal , que relatou anteriormente sobre a criação das novas equipes, disse que estudar o preconceito racial foi uma questão “controversa” no Facebook e no Instagram no passado. Um estudo interno mostrou que os usuários cujas atividades sugeriam que eram negros tinham 50% mais probabilidade de ter suas contas desativadas do que outros usuários se o Instagram fizesse alterações em quais contas seriam excluídas ou suspensas. O Instagram tratou dessas preocupações, mas impediu mais pesquisas sobre o assunto.

O Facebook disse ao Journal que estava preocupado com o fato de a métrica usada para determinar a raça de um usuário não ser totalmente confiável. Como parte do estudo, os trabalhadores analisaram a “afinidade multicultural” dos usuários, que sugeriu aos anunciantes no passado se um usuário está interessado em anúncios relacionados às comunidades afro-americanas, hispano-americanas ou asiático-americanas. A rede social atribuiu aos usuários uma “afinidade multicultural” com base em sua atividade na plataforma. O Facebook não pede aos usuários que indiquem sua raça, portanto, usar essa métrica pode sugerir à rede social que é minoria. 

A empresa desativou a capacidade dos anunciantes de segmentar usuários por “afinidade multicultural” em 2017 por causa de preocupações de que os anunciantes poderiam usar a ferramenta para excluir pessoas de certas raças.  

O Facebook disse que seu trabalho para estudar e lidar com o potencial preconceito racial ainda está nos estágios iniciais, mas planeja compartilhar mais nos próximos meses. 

Deixe uma resposta

O seu endereço de email não será publicado. Campos obrigatórios marcados com *