Facebook mostrando anúncios de emprego com preconceito de gênero: estudo

Pesquisadores da University of Southern California que examinaram os algoritmos de entrega de anúncios do Facebook e LinkedIn descobriram que os do Facebook foram distorcidos por gênero, além do que pode ser legalmente justificado por diferenças nas qualificações profissionais.

A tendência também se manteve em empregos de engenharia com salários mais elevados em empresas de tecnologia como a Netflix e a fabricante de chips Nvidia. Uma fração maior de mulheres viu os anúncios da Netflix do que os da Nvidia, o que é paralelo à divisão por gênero na força de trabalho de cada empresa.

Nenhuma evidência foi encontrada de preconceito semelhante nos anúncios de emprego veiculados pelo LinkedIn.

A autora do estudo, Aleksandra Korolova, professora assistente de ciência da computação da USC, disse que pode ser que o LinkedIn esteja fazendo um trabalho melhor em suprimir preconceitos deliberadamente, ou pode ser que o Facebook seja simplesmente melhor em pegar dicas do mundo real de seus usuários sobre desequilíbrios de gênero e sua perpetuação.

“Não é que o usuário esteja dizendo, ‘Oh, estou interessado nisso.’ O Facebook decidiu em nome do usuário se eles provavelmente se envolverão “, disse ela. “E só porque historicamente um determinado grupo não estava interessado em se envolver em algo, não significa que eles não deveriam ter a oportunidade de persegui-lo, especialmente na categoria de trabalho.”

O Facebook disse em um comunicado na sexta-feira que está tomando medidas significativas para lidar com questões de discriminação em anúncios.

“Nosso sistema leva em conta muitos sinais para tentar servir às pessoas anúncios nos quais elas estarão mais interessadas, mas entendemos as preocupações levantadas no relatório”, disse.

O Facebook prometeu revisar seu sistema de segmentação de anúncios em 2019 como parte de um acordo legal.

A rede social disse então que não permitiria mais anúncios de habitação, emprego ou crédito que visassem as pessoas por idade, sexo ou código postal. Ele também limitou outras opções de segmentação para que esses anúncios não excluíssem pessoas com base em raça, etnia e outras categorias legalmente protegidas nos EUA, incluindo nacionalidade e orientação sexual.

A segmentação de anúncios infinitamente personalizável é o pão com manteiga do Facebook, então qualquer limite colocado em seu processo pode prejudicar a receita da empresa. Os anúncios que os usuários veem podem ser ajustados aos detalhes mais granulares – não apenas onde as pessoas vivem e quais sites visitaram recentemente, mas se eles se envolveram nos últimos seis meses ou compartilham características com pessoas que compraram tênis novos recentemente, mesmo que nunca tenham expressado interesse em fazê-lo eles próprios.

Mas mesmo que os anunciantes não possam fazer a segmentação por conta própria, o estudo mostra o que os críticos vêm enfatizando há anos – que os próprios algoritmos do Facebook podem discriminar, mesmo que não haja intenção dos próprios anunciantes.

“Não vimos nenhuma evidência pública de que eles estão trabalhando nas questões relacionadas aos seus algoritmos que criam discriminação”, disse Korolova.

Como não é possível mostrar a todos os usuários todos os anúncios direcionados a eles, o software do Facebook escolhe o que considera relevante. Se mais mulheres mostrarem interesse em determinados empregos, o software aprenderá que deve mostrar às mulheres mais anúncios desse tipo.

O LinkedIn disse que as descobertas do estudo estão alinhadas com sua revisão interna da segmentação de anúncios de emprego.

“No entanto, reconhecemos que a mudança sistêmica leva tempo e estamos no início de uma longa jornada”, disse a empresa em um comunicado.

As leis dos EUA permitem que os anúncios sejam direcionados com base nas qualificações, mas não em categorias protegidas, como raça, sexo e idade. Mas as leis antidiscriminação são amplamente orientadas por queixas, e ninguém pode reclamar de ser privado de uma oportunidade de emprego se não soubesse que isso aconteceu com eles, disse Sandra Wachter, professora da Universidade de Oxford focado em direito de tecnologia.

“As ferramentas que desenvolvemos para prevenir a discriminação tinham um perpetrador humano em mente”, disse Wachter, que não participou do estudo da USC. “Um algoritmo está discriminando de maneira muito diferente, agrupando pessoas de maneira diferente e fazendo isso de uma forma muito sutil. Os algoritmos discriminam pelas suas costas, basicamente.”

Embora a Domino’s e a Instacart tenham requisitos de trabalho semelhantes para seus motoristas, a força de trabalho de entrega da Domino’s é predominantemente masculina, enquanto a Instacart’s é mais da metade feminina. O estudo, que analisou os anúncios de motoristas veiculados na Carolina do Norte em comparação com dados demográficos de registros eleitorais, descobriu que os algoritmos do Facebook pareciam estar aprendendo com essas disparidades de gênero e perpetuando-as.

A mesma tendência também ocorreu com empregos de vendas na varejista Reeds Jewelers, que mais mulheres viram, e na concessionária Leith Automotive, que mais homens viram.

Os pesquisadores pedem uma auditoria mais rigorosa de tais algoritmos e examinam outros fatores, como o preconceito racial. Korolova disse que auditorias externas como o estudo da USC podem fazer muito sem obter acesso aos algoritmos proprietários do Facebook, mas os reguladores podem exigir alguma forma de revisão independente para verificar se há discriminação.

“Vimos que as plataformas não são tão boas no autopoliciamento de seus algoritmos para consequências sociais indesejáveis, especialmente quando seus negócios estão em jogo”, disse ela.

FacebookTwitterLinkedin