O Twitter descobre que sua IA tende a eliminar negros, homens de fotos
O estudo por três de seus pesquisadores de aprendizado de máquina foi conduzido após críticas de usuários no ano passado sobre visualizações de imagens em postagens que excluem rostos de pessoas negras.
Ele encontrou uma diferença de 8% da paridade demográfica em favor das mulheres e um favor de 4% em relação aos indivíduos brancos.
O jornal citou várias razões possíveis, incluindo problemas com fundos de imagens e cor dos olhos, mas disse que nenhuma era uma desculpa.
“O cultivo baseado em aprendizado de máquina é fundamentalmente falho porque remove a agência do usuário e restringe a expressão do usuário de sua própria identidade e valores, em vez de impor um olhar normativo sobre qual parte da imagem é considerada a mais interessante”, escreveram os pesquisadores.
Para combater o problema, o Twitter recentemente começou a mostrar fotos de proporção padrão na íntegra – sem qualquer corte – em seus aplicativos móveis e está tentando expandir esse esforço.
Os pesquisadores também avaliaram se as plantações favoreciam os corpos das mulheres sobre as cabeças, refletindo o que é conhecido como “olhar masculino”, mas descobriram que não parece ser o caso.
As descobertas são outro exemplo do impacto díspar dos sistemas de inteligência artificial, incluindo tendências demográficas identificadas no reconhecimento facial e análise de texto, disse o jornal.
Trabalho de pesquisadores da Microsoft Corp e da Instituto de Tecnologia de Massachusetts em 2018 e um estudo posterior do governo dos EUA descobriu que os sistemas de análise facial identificam erroneamente as pessoas de cor com mais frequência do que os brancos.
Amazon Inc em 2018 descartou um AI ferramenta de recrutamento que mostrou preconceito contra as mulheres.
FacebookTwitterLinkedin
Source link
