Software de reconhecimento facial para verificar o status de quarentena em teste nos estados australianos

Pouco conhecido firma de tecnologia Genvis Pty Ltd disse em um site para seu software que New South Wales (NSW) e Victoria, lar de Sydney, Melbourne e mais da metade da população de 25 milhões da Austrália, estavam testando seus produtos de reconhecimento facial. Genvis disse que os testes estão sendo conduzidos de forma voluntária.

O estado da Austrália do Sul começou a testar uma tecnologia semelhante, não Genvis, no mês passado, gerando avisos de defensores da privacidade em todo o mundo sobre o potencial de alcance da vigilância. O envolvimento de New South Wales e Victoria, que não revelaram que estão testando a tecnologia de reconhecimento facial, pode ampliar essas preocupações.

A Premier Gladys Berejiklian de NSW disse em um e-mail que o estado está “perto de testar algumas opções de quarentena para os australianos que retornam”, sem responder diretamente às perguntas sobre o software de reconhecimento facial Genvis. A polícia em NSW encaminhou as perguntas ao primeiro-ministro estadual.

A Polícia de Victoria encaminhou as perguntas ao Departamento de Saúde de Victoria, que não respondeu aos pedidos de comentários.

No sistema que está sendo testado, as pessoas respondem a solicitações de check-in aleatórias tirando uma ‘selfie’ no endereço residencial de quarentena designado. Se o software, que também coleta dados de localização, não verificar a imagem com uma “assinatura facial”, a polícia pode fazer uma visita ao local para confirmar o paradeiro da pessoa.

Embora a tecnologia tenha sido usada em WA desde novembro passado, mais recentemente foi lançada como uma ferramenta para permitir ao país reabrir suas fronteiras, encerrando um sistema em vigor desde o início da pandemia que exige que as chegadas internacionais passem duas semanas em quarentena do hotel sob vigilância policial.

Além da pandemia, as forças policiais expressaram interesse em usar software de reconhecimento facial, provocando uma reação de grupos de direitos humanos sobre o potencial de atingir grupos minoritários.

Embora a tecnologia de reconhecimento tenha sido usada em países como a China, nenhuma outra democracia foi relatada como considerando seu uso em conexão com procedimentos de contenção de coronavírus.

‘MANTENHA AS COMUNIDADES SEGURAS’

A presidente-executiva da Genvis, Kirstin Butcher, se recusou a comentar sobre os testes, além das divulgações no site do produto.

“Você não pode ter quarentena doméstica sem verificações de conformidade, se você está procurando manter as comunidades seguras”, disse ela em uma entrevista por telefone.

“Você não pode realizar verificações de conformidade física na escala necessária para apoiar planos de reabertura (social e econômica), portanto, a tecnologia deve ser usada.”

Mas os defensores dos direitos alertaram que a tecnologia pode ser imprecisa e pode abrir a janela para as agências de aplicação da lei usarem os dados das pessoas para outros fins sem que leis específicas os impeçam.

“Estou preocupado não apenas com o uso aqui, mas com o fato de que este é um exemplo do uso crescente desse tipo de tecnologia em nossas vidas”, disse Toby Walsh, professor de Inteligência Artificial da Universidade de NSW.

Walsh questionou a confiabilidade da tecnologia de reconhecimento facial em geral, que ele disse que poderia ser hackeada para fornecer relatórios de localização falsos.

“Mesmo se funcionar aqui … então valida a ideia de que o reconhecimento facial é uma coisa boa”, disse ele. “Onde isso termina?”

O governo da Austrália Ocidental disse que proibiu a polícia de usar dados coletados por software relacionado ao COVID para questões não relacionadas ao COVID. A polícia de WA afirma ter colocado 97.000 pessoas em quarentena domiciliar, usando o reconhecimento facial, sem incidentes.

“A lei deve impedir que um sistema de monitoramento de quarentena seja usado para outros fins”, disse Edward Santow, um ex-comissário australiano de Direitos Humanos que agora lidera um projeto de inteligência artificial de ética na Universidade de Tecnologia de Sydney.

“A tecnologia de reconhecimento facial pode parecer uma maneira conveniente de monitorar pessoas em quarentena, mas … se algo der errado com essa tecnologia, o risco de danos é alto.”

FacebookTwitterLinkedin