Ícone e logotipo do aplicativo do Twitter

Um pesquisador da universidade técnica EPFL da Suíça ganhou um prêmio de US $ 3.500 por determinar que um algoritmo chave do Twitter favorece rostos que parecem esguios e jovens e com pele de cor mais clara ou com tons mais quentes. O Twitter anunciou no domingo que entregou o prêmio a Bogdan Kulynych , um estudante de graduação que examina privacidade, segurança, IA e sociedade.

O Twitter patrocinou o concurso para encontrar problemas no algoritmo de “saliência” que usa para cortar as fotos que mostra na linha do tempo do seu Twitter. A recompensa que o Twitter ofereceu para encontrar o viés de IA é uma nova abordagem à prática, agora dominante, das recompensas por bugs que as empresas pagam a estranhos para encontrar vulnerabilidades de segurança.

A IA revolucionou a computação ao lidar com assuntos complicados de maneira eficaz, como legendar vídeos, identificar e-mails de phishing e reconhecer seu rosto para desbloquear o telefone. Mas algoritmos de IA treinados em dados do mundo real podem refletir problemas do mundo real, e lidar com o viés de IA é uma área quente na ciência da computação. A generosidade do Twitter foi projetada para encontrar esses problemas para que possam ser corrigidos.

No início deste ano, o próprio Twitter confirmou que seu sistema de IA mostrou parcialidade quando seu algoritmo de corte favoreceu imagens de brancos em vez de negros . Mas Kulynych encontrou outros problemas em como o algoritmo cortava as fotos para enfatizar o que considerava mais importante.

Pesquisa de viés de IA da saliência do Twitter
O pesquisador Bogdan Kulynych descobriu que o algoritmo de IA do Twitter frequentemente favorecia variações mais jovens, de pele mais clara e mais delgadas de uma foto original. A pontuação de “saliência” do Twitter, usada para determinar como cortar fotos, aumentou 35%, 28% e 29%, respectivamente, para as variações mais à direita nas sequências superior, intermediária e inferior mostradas aqui. 

“O modelo-alvo tende a considerar mais salientes as representações de pessoas que parecem esguias, jovens, de cor de pele clara ou quente e textura de pele macia, e com traços faciais estereotipadamente femininos”, disse Kulynych nas descobertas do projeto . “Esse preconceito pode resultar na exclusão de populações minorizadas e na perpetuação de padrões de beleza estereotipados em milhares de imagens.”

O sistema de Kulynych comparou a importância de uma foto original de um rosto humano a uma série de variações geradas por IA. Ele descobriu que as pontuações de saliência geralmente aumentavam com rostos que pareciam mais jovens e mais magros. O algoritmo também emitiu pontuações mais altas para peles mais claras, com tons mais quentes, maior contraste e com cores mais saturadas.

Deixe uma resposta

O seu endereço de email não será publicado. Campos obrigatórios marcados com *