O fato de o Facebook não prestar atenção a idiomas diferentes do inglês está permitindo que o discurso de ódio floresça

Analisamos três aspectos da regulamentação do discurso de ódio na região Ásia-Pacífico ao longo de 18 meses. Primeiro, mapeamos a lei de discurso de ódio em nossos países de estudo de caso, para entender como esse problema pode ser combatido legalmente. Também verificamos se a definição de “discurso de ódio” do Facebook incluía todas as formas e contextos reconhecidos para esse comportamento perturbador.

Embora o Facebook tenha financiado nosso estudo, ele disse que, por motivos de privacidade, não poderia nos dar acesso a um conjunto de dados do discurso de ódio que remove. Portanto, não fomos capazes de testar a eficácia com que seus moderadores internos classificam o ódio.

Em vez disso, capturamos postagens e comentários das três principais páginas públicas LGBTQI + do Facebook em cada país, para procurar discursos de ódio que não foram percebidos pelos filtros de inteligência das máquinas da plataforma ou moderadores humanos.

Entrevistamos os administradores dessas páginas sobre sua experiência em moderar o ódio e o que eles achavam que o Facebook poderia fazer para ajudá-los a reduzir o abuso.

Eles nos disseram que o Facebook frequentemente rejeitava suas denúncias de discurso de ódio, mesmo quando a postagem violava claramente os Padrões da Comunidade. Em alguns casos, as mensagens que foram removidas originalmente seriam postadas novamente na apelação.

A maioria dos administradores de páginas disse que o chamado processo de “sinalização” raramente funcionava, e eles o consideraram enfraquecedor. Eles queriam que o Facebook os consultasse mais para ter uma ideia melhor dos tipos de abuso que veem postados e por que constituem discurso de ódio em seu contexto cultural.

O Facebook há muito tem problemas com a escala e o escopo do discurso de ódio em sua plataforma na Ásia. Por exemplo, embora tenha banido alguns extremistas hindus, deixou suas páginas online.

No entanto, durante nosso estudo, ficamos satisfeitos em ver que o Facebook ampliou sua definição de discurso de ódio, que agora captura uma gama mais ampla de comportamento de ódio. Também reconhece explicitamente que o que acontece online pode desencadear violência offline.

É importante notar que, nos países em que nos concentramos, o “discurso de ódio” raramente é proibido de forma legal e precisa. Descobrimos que outros regulamentos, como leis de segurança cibernética ou tolerância religiosa, podem ser usados ​​para agir contra o discurso de ódio, mas tendem a ser usados ​​para suprimir dissidentes políticos.

Concluímos que o problema do Facebook não é definir o ódio, mas ser incapaz de identificar certos tipos de ódio, como aquele postado em línguas minoritárias e dialetos regionais. Freqüentemente, também falha em responder apropriadamente às denúncias de usuários sobre conteúdo de ódio.

meios de comunicação relatórios mostram que o Facebook se esforça para identificar automaticamente o ódio postado em línguas minoritárias. Ele falhou em fornecer materiais de treinamento para seus próprios moderadores nos idiomas locais, embora muitos sejam de países da Ásia-Pacífico onde o inglês não é a primeira língua.

Nas Filipinas e na Indonésia em particular, descobrimos que grupos LGBTIQ + estão expostos a um nível inaceitável de discriminação e intimidação. Isso inclui ameaças de morte, ataques a muçulmanos e ameaças de apedrejamento ou decapitação.

Nas páginas indianas, os filtros do Facebook não conseguiram capturar emojis de vômito postados em resposta às fotos de casamento gay e rejeitaram alguns relatos muito claros de difamação.

Na Austrália, por outro lado, não encontramos discurso de ódio não moderado – apenas outros tipos de comentários insensíveis e inadequados. Isso pode indicar que menos abusos são postados ou há uma moderação mais eficaz em inglês do Facebook ou dos administradores da página.

Da mesma forma, em Mianmar, os grupos LGBTIQ + tiveram muito pouco discurso de ódio. Mas estamos cientes de que o Facebook está trabalhando duro para reduzir o discurso de ódio em sua plataforma lá, após ser usado para perseguir a minoria muçulmana Rohingya.

Além disso, é provável que a diversidade de gênero não seja um assunto tão volátil em Mianmar como é na Índia, Indonésia e Filipinas. Nesses países, os direitos LGBTIQ + são altamente politizados.

O Facebook deu alguns passos importantes para combater o discurso de ódio. No entanto, estamos preocupados que a Covid-19 tenha forçado a plataforma a se tornar mais dependente da moderação da máquina. Isso também em um momento em que só consegue identificar o ódio automaticamente em cerca de 50 idiomas – embora milhares sejam falados todos os dias em toda a região.

Nosso relatório para o Facebook descreve várias recomendações importantes para ajudar a melhorar sua abordagem de combate ao ódio em sua plataforma. No geral, instamos a empresa a reunir-se mais regularmente com grupos perseguidos na região, para que possa aprender mais sobre o ódio em seus contextos locais e idiomas.

Isso precisa acontecer junto com um aumento no número de especialistas em política do país e moderadores internos com experiência em línguas minoritárias.

Espelhando os esforços na Europa, o Facebook também precisa desenvolver e divulgar o canal de seu parceiro de confiança. Isso fornece organizações parceiras de denúncias de discurso de ódio visíveis e oficiais, por meio das quais as pessoas podem denunciar diretamente atividades de ódio ao Facebook durante crises como os ataques à mesquita de Christchurch.

De forma mais ampla, gostaríamos de ver governos e ONGs cooperarem para criar um teste de monitoramento de discurso de ódio regional na Ásia, semelhante ao organizado pelo União Européia.

Seguindo o EU Por exemplo, tal iniciativa poderia ajudar a identificar tendências urgentes no discurso de ódio em toda a região, fortalecer as parcerias locais de reportagem do Facebook e reduzir a incidência geral de conteúdo odioso no Facebook.

FacebookTwitterLinkedin