As lacunas de linguagem do Facebook ‘enfraquecem a triagem de ódio e terrorismo’

Os problemas que afetam a moderação de conteúdo do Facebook são sugeridos por documentos internos da empresa e sistêmicos, sugeridos por um denunciante.

Em Gaza e na Síria, jornalistas e ativistas sentem que o Facebook censura seu discurso, sinalizando postagens inofensivas em árabe como conteúdo terrorista.

Na Índia e em Mianmar, grupos políticos usam o Facebook para incitar à violência.

Tudo isso frequentemente escapa dos esforços da empresa para policiar suas plataformas de mídia social por causa da escassez de moderadores que falam os idiomas locais e entendem os contextos culturais.

Documentos internos da empresa da ex-gerente de produto do Facebook que virou denunciante, Frances Haugen, mostram que os problemas que afetam sua moderação de conteúdo são sistêmicos, e que o Facebook entendeu a profundidade dessas falhas por anos, sem fazer muito a respeito.

Suas plataformas não conseguiram desenvolver soluções de inteligência artificial que podem capturar conteúdo prejudicial em diferentes idiomas.

Como resultado, o conteúdo terrorista e o discurso de ódio proliferam em algumas das regiões mais voláteis do mundo.

Em outros lugares, as lacunas de linguagem da empresa levam a um policiamento zeloso da expressão cotidiana.

Esta história, junto com outras publicadas na segunda-feira, é baseada nas revelações de Haugen à Comissão de Valores Mobiliários, que também foram fornecidas ao Congresso de forma redigida por sua equipe jurídica.

As versões editadas recebidas pelo Congresso foram obtidas por um consórcio de órgãos de notícias, incluindo a Associated Press (AP).

Em uma declaração à AP, um porta-voz do Facebook disse que nos últimos dois anos a empresa investiu no recrutamento de mais funcionários com dialeto local e especialização em tópicos para reforçar sua capacidade de revisão globalmente.

Em se tratando de moderação de conteúdo em árabe, em particular, a empresa disse: “Ainda temos mais trabalho a fazer”.

Mas os documentos mostram que os problemas não se limitam ao árabe.

Em Mianmar, onde a desinformação baseada no Facebook tem sido repetidamente ligada à violência étnica, os relatórios internos da empresa mostram que ela falhou em impedir a disseminação de discursos de ódio direcionados à minoria da população muçulmana Rohingya.

Na Índia, os documentos mostram que os moderadores nunca sinalizaram discurso de ódio anti-muçulmano transmitido pelo grupo nacionalista hindu de extrema direita do primeiro-ministro Narendra Modi porque o Facebook não tinha moderadores e filtros automatizados com conhecimento de hindi e bengali.

Árabe, o terceiro idioma mais comum do Facebook, apresenta desafios específicos para os sistemas automatizados da empresa e moderadores humanos, cada um dos quais se esforça para entender dialetos falados exclusivos para cada país e região, seus vocabulários salgados com diferentes influências históricas e contextos culturais.

A plataforma ganhou muitos seguidores em toda a região durante a Primavera Árabe de 2011, mas sua reputação como um fórum para a liberdade de expressão em uma região cheia de governos autocráticos mudou desde então.

Dezenas de jornalistas palestinos tiveram suas contas deletadas.

Arquivos da guerra civil na Síria desapareceram.

Durante a guerra de 11 dias em Gaza em maio passado, o aplicativo Instagram do Facebook proibiu brevemente a hashtag #AlAqsa, uma referência à mesquita Al-Aqsa na Cidade Velha de Jerusalém, um ponto crítico do conflito.

A empresa mais tarde se desculpou, dizendo que confundia o terceiro site mais sagrado do Islã com um grupo terrorista.

Críticas, sátiras e até mesmo menções simples de grupos na lista de Organizações e Indivíduos Perigosos da empresa – uma pauta modelada no equivalente do governo dos Estados Unidos – são motivos para uma queda.

“Estávamos aplicando incorretamente o conteúdo de contraterrorismo em árabe”, diz um documento, observando que o sistema “limita os usuários de participarem do discurso político, impedindo seu direito à liberdade de expressão”.

A lista negra do Facebook inclui o partido governante de Gaza, Hamas, bem como o Hezbollah, o grupo militante que detém assentos no parlamento do Líbano, junto com muitos outros grupos que representam grandes faixas de pessoas e territórios em todo o Oriente Médio.

As lacunas e preconceitos de linguagem da empresa levaram à percepção generalizada de que seus revisores tendem a favor de governos e contra grupos minoritários.

Agências de segurança israelenses e vigilantes também monitoram o Facebook e o bombardeiam com milhares de ordens para derrubar contas e postagens palestinas enquanto tentam reprimir a incitação.

“Eles inundam nosso sistema, dominando-o completamente”, disse Ashraf Zeitoon, ex-chefe de política do Facebook para a região do Oriente Médio e Norte da África, que saiu em 2017.

Jornalistas e ativistas sírios que relatam a oposição do país também reclamaram de censura, com exércitos eletrônicos que apoiam o presidente Bashar Assad, sinalizando agressivamente os postos dissidentes para remoção.

Enquanto isso, no Afeganistão, o Facebook não traduz o discurso de ódio e as páginas de desinformação do site para o dari e o pashto, os dois principais idiomas do país.

O site também não possui um banco de termos de discurso de ódio e calúnias no Afeganistão, portanto, não pode construir filtros automatizados que detectam as piores violações.

Nas Filipinas, pátria de muitas empregadas domésticas no Oriente Médio, documentos do Facebook mostram que os engenheiros lutaram para detectar relatos de abusos por parte dos empregadores porque a empresa não conseguia sinalizar palavras em tagalo, o principal idioma filipino.

No Oriente Médio, a empresa confia demais em filtros de inteligência artificial que cometem erros, levando a “muitos falsos positivos e um retrocesso da mídia”, diz um documento.

Moderadores em grande parte não qualificados, confusos e às vezes confiando no Google Translate, tendem a responder passivamente às solicitações de remoção, em vez de fazer a triagem proativamente.

A maioria é marroquina e se perde na tradução dos mais de 30 dialetos árabes.

Os moderadores sinalizam postagens inofensivas em árabe como conteúdo terrorista 77% das vezes, disse um relatório.

Embora os documentos de Haugen sejam anteriores à guerra de Gaza deste ano, episódios desse conflito sangrento mostram o quão pouco foi feito para resolver os problemas sinalizados nos próprios relatórios internos do Facebook.

Ativistas em Gaza e na Cisjordânia perderam a capacidade de transmissão ao vivo.

Arquivos inteiros do conflito desapareceram dos feeds de notícias, um portal primário de informações.

Os influenciadores acostumados a dezenas de milhares de curtidas em suas postagens viram seu alcance despencar quando postaram sobre os palestinos.

“Isso me restringiu e me impediu de me sentir livre para publicar o que quero”, disse Soliman Hijjy, jornalista baseado em Gaza.

Defensores palestinos enviaram centenas de reclamações ao Facebook durante a guerra, muitas vezes levando a empresa a admitir erros.

Nos documentos internos, o Facebook relatou que errou em quase metade de todos os pedidos de remoção do idioma árabe apresentados para apelação.

Os documentos internos do Facebook também enfatizaram a necessidade de recrutar mais moderadores árabes de países menos representados e restringi-los a lugares onde tenham conhecimento de dialeto apropriado.

“É certamente da maior importância colocar mais recursos na tarefa de melhorar os sistemas árabes”, disse o relatório.

Enquanto isso, muitos em todo o Oriente Médio temem que os riscos das falhas do Facebook sejam excepcionalmente altos, com potencial para ampliar a desigualdade de longa data, esfriar o ativismo cívico e estimular a violência na região.

“Dissemos ao Facebook: você quer que as pessoas transmitam suas experiências em plataformas sociais ou deseja encerrá-las?” disse Husam Zomlot, o enviado palestino ao Reino Unido.

“Se você tirar a voz das pessoas, as alternativas serão mais feias.”