Como o Google planeja testar a IA para viés usando uma nova escala de tons de pele de 10 tons
A empresa disse que seu novo Escala de tons de pele de monge substitui um padrão falho de seis cores conhecido como Fitzpatrick Skin Type, que se tornou popular na indústria de tecnologia para avaliar se os sensores de frequência cardíaca do smartwatch, inteligência artificial sistemas, incluindo reconhecimento facial e outras ofertas, mostram viés de cores.
Pesquisadores de tecnologia reconheceram que Fitzpatrick sub-representava pessoas com pele mais escura. A Reuters noticiou com exclusividade no ano passado que o Google estava desenvolvendo uma alternativa.
A empresa fez parceria com o sociólogo da Universidade de Harvard Ellis Monk, que estuda colorismo e se sentiu desumanizado por câmeras que não conseguiram detectar seu rosto e refletir seu tom de pele.
Monk disse que Fitzpatrick é ótimo para classificar diferenças entre peles mais claras. Mas a maioria das pessoas é mais escura, então ele queria uma escala que “faça um trabalho melhor para a maior parte do mundo”, disse ele.
Monk através do Photoshop e outras ferramentas de arte digital com curadoria de 10 tons – um número gerenciável para pessoas que ajudam train e avaliar os sistemas de IA. Ele e o Google entrevistaram cerca de 3.000 pessoas nos Estados Unidos e descobriram que um número significativo disse que uma escala de 10 pontos combinava com sua pele, assim como uma paleta de 40 tons.
Tulsee Doshi, chefe de produto da equipe de IA responsável do Google, chamou a escala Monk de “um bom equilíbrio entre ser representativo e ser tratável”.
O Google já está aplicando. Pesquisas de imagens do Google relacionadas à beleza, como “visual de maquiagem de noiva”, agora permitem filtrar os resultados com base no Monk. Pesquisas de imagens como “bebês fofos” agora mostram fotos com tons de pele variados.
A escala Monk também está sendo implantada para garantir que uma variedade de pessoas esteja satisfeita com as opções de filtro no Google Fotos e que o software de correspondência de rostos da empresa não seja tendencioso.
Ainda assim, Doshi disse que os problemas podem se infiltrar nos produtos se as empresas não tiverem dados suficientes sobre cada um dos tons, ou se as pessoas ou ferramentas usadas para classificar a pele dos outros forem influenciadas por diferenças de iluminação ou percepções pessoais.
FacebookTwitterLinkedin
Source link
