ONU condena o uso policial de perfis raciais derivados de ‘big data’

A polícia e os guardas de fronteira devem combater o perfil racial e garantir que o uso de “big data” coletados por meio de inteligência artificial não reforce os preconceitos contra as minorias, disseram especialistas das Nações Unidas na quinta-feira.

As empresas que vendem sistemas de criação de perfis algorítmicos para entidades públicas e privadas, muitas vezes usados ​​na seleção de candidatos a empregos, devem ser regulamentadas para evitar o uso indevido de dados pessoais que perpetuam preconceitos, disseram.

“É um meio tecnológico de rápido desenvolvimento usado pelas forças de segurança para determinar, usando big data, quem provavelmente fará o quê. E esse é o perigo”, disse Verene Shepherd, membro do Comitê da ONU para a Eliminação da Discriminação Racial Reuters.

Ouvimos falar de empresas que usam esses métodos algorítmicos para discriminar com base na cor da pele

“Ouvimos falar de empresas que usam esses métodos algorítmicos para discriminar com base na cor da pele”, acrescentou ela, falando da Jamaica.

Shepherd, uma historiadora, liderou os 18 especialistas independentes no esboço de uma “recomendação geral” aos 182 países que ratificaram um tratado internacional vinculante que proíbe a discriminação racial.

Minorias e ativistas reclamaram do uso crescente de inteligência artificial, reconhecimento facial e outras novas tecnologias, disse ela.

União Européia

“É amplamente utilizado nos Estados Unidos da América e recebemos reclamações de comunidades negras na União Europeia também. E na América Latina, onde os afrodescendentes e indígenas reclamam de perfis”, disse Shepherd, citando o Brasil e Colômbia.

Mundo

PM dinamarquês em lágrimas após visitar o fazendeiro de visons que

“Esses são os pontos críticos onde ouvimos falar que os casos de criação de perfil são mais comuns.”

Protestos contra o racismo e a brutalidade policial eclodiram nos Estados Unidos após a morte em maio de George Floyd, um afro-americano que morreu depois que um policial de Minneapolis se ajoelhou em seu pescoço por quase nove minutos.

Muitos policiais usam sistemas de perfis “preditivos” que levam a verificações de identidade, paradas de tráfego e buscas, com base em dados de prisões anteriores sobre um bairro, disse Shepherd.

O comitê recomenda que as pessoas que foram alvejadas mereçam uma compensação, disse ela, acrescentando: “Se eles viverem para contar a história, por sinal, porque sabemos que às vezes acaba mal”.