O Facebook congelou quando os comentários anti-vacina invadiram os usuários

Ao alterar a forma como as postagens sobre vacinas são classificadas nos feeds de notícias das pessoas, os pesquisadores da empresa perceberam que poderiam restringir as informações enganosas que os indivíduos viam sobre as vacinas COVID-19 e oferecer aos usuários postagens de fontes legítimas como a Organização Mundial da Saúde.

Em vez disso, o Facebook engavetou algumas sugestões do estudo. Outras mudanças não foram feitas até abril.

Quando outro pesquisador do Facebook sugeriu desativar alguns comentários em vacina postagens em março até que a plataforma pudesse fazer um trabalho melhor no combate às mensagens antivacinas que nelas se escondiam, essa proposta foi ignorada na época.

Os críticos dizem que o motivo pelo qual o Facebook demorou a agir com base nas ideias é simples: a gigante da tecnologia temia que isso pudesse afetar os lucros da empresa.

“Por que você não removeria os comentários? Porque o engajamento é a única coisa que importa”, disse Imran Ahmed, CEO do Center for Countering Digital Hate, um grupo de vigilância da Internet. “Isso atrai atenção e atenção é igual a olhos e olhos igual a receita de publicidade.”

Em um comunicado enviado por e-mail, o Facebook disse que fez “progressos consideráveis” este ano com o rebaixamento desinformação vacinal nos feeds dos usuários.

As discussões internas do Facebook foram reveladas em divulgações feitas à Securities and Exchange Commission e fornecidas ao Congresso de forma redigida pelo consultor jurídico da ex-funcionária do Facebook, que se tornou denunciante, Frances Haugen. As versões editadas recebidas pelo Congresso foram obtidas por um consórcio de organizações de notícias, incluindo a The Associated Press.

A coleção de documentos mostra que, em meio à pandemia COVID-19, o Facebook investigou cuidadosamente como suas plataformas espalham desinformação sobre vacinas que salvam vidas. Eles também revelam soluções sugeridas regularmente por funcionários comuns para combater o conteúdo antivacinas no site, sem sucesso. O Wall Street Journal relatou alguns dos esforços do Facebook para lidar com comentários anti-vacinas no mês passado.

A resposta do Facebook levanta questões sobre se a empresa priorizou a controvérsia e divisão sobre a saúde de seus usuários.

“Essas pessoas estão vendendo medo e indignação”, disse Roger McNamee, um capitalista de risco do Vale do Silício e um dos primeiros investidores no Facebook quem agora é um crítico vocal. “Não é um acaso. É um modelo de negócio.”

Normalmente, o Facebook classifica as postagens por engajamento – o número total de curtidas, não curtidas, comentários e novos compartilhamentos. Esse esquema de classificação pode funcionar bem para assuntos inócuos, como receitas, fotos de cães ou a última canção viral. Mas os próprios documentos do Facebook mostram que, quando se trata de questões divisórias de saúde pública, como vacinas, a classificação baseada no engajamento apenas enfatiza a polarização, a discordância e a dúvida.

Para estudar maneiras de reduzir a desinformação sobre as vacinas, os pesquisadores do Facebook mudaram a forma como as postagens são classificadas para mais de 6.000 usuários nos Estados Unidos, México, Brasil e Filipinas. Em vez de ver postagens sobre vacinas que foram escolhidas com base em sua popularidade, esses usuários viram postagens selecionadas por sua confiabilidade.

Os resultados foram surpreendentes: uma redução de quase 12% no conteúdo que fez as afirmações desmascaradas por verificadores de fatos e um aumento de 8% no conteúdo de organizações de saúde pública autorizadas, como a OMS ou os Centros de Controle de Doenças dos EUA. Esses usuários também tiveram uma redução de 7% nas interações negativas no site.

Os funcionários da empresa reagiram com exuberância ao estudo, segundo trocas internas constantes dos documentos do denunciante.

“Existe alguma razão para não fazermos isso?” um funcionário do Facebook escreveu em resposta a um memorando interno descrevendo como a plataforma poderia controlar o conteúdo antivacinas.

O Facebook disse que implementou muitas das descobertas do estudo – mas não por mais um mês, um atraso que ocorreu em um estágio crucial do lançamento global da vacina.

Em um comunicado, a porta-voz da empresa Dani Lever disse que os documentos internos “não representam o progresso considerável que fizemos desde aquela época na promoção de informações confiáveis ​​sobre COVID-19 e expandindo nossas políticas para remover COVID mais prejudiciais e informações incorretas sobre vacinas. “

A empresa também disse que levou tempo para considerar e implementar as mudanças.

No entanto, a necessidade de agir com urgência não poderia ter sido mais clara: naquela época, os estados dos Estados Unidos estavam distribuindo vacinas para os mais vulneráveis ​​- idosos e doentes. E as autoridades de saúde pública estavam preocupadas. Apenas 10% da população recebeu a primeira dose da vacina COVID-19. E um terço dos americanos estava pensando em pular totalmente a foto, de acordo com uma pesquisa do Centro de Pesquisa de Assuntos Públicos da Associated Press-NORC.

Apesar disso, os funcionários do Facebook reconheceram que “não tinham ideia” de quão ruim era o sentimento anti-vacina nas seções de comentários nas postagens do Facebook. Mas uma pesquisa da empresa em fevereiro descobriu que até 60% dos comentários sobre as postagens da vacina eram anti-vacina ou relutantes na vacina.

“Esse é um grande problema e precisamos corrigi-lo”, dizia a apresentação em 9 de março.

Pior ainda, os funcionários da empresa admitiram que não conseguiram entender esses comentários. E se o fizessem, o Facebook não tinha uma política em vigor para remover os comentários. O vale-tudo era permitir que os usuários lotassem as postagens de vacinas de agências de notícias ou organizações humanitárias com comentários negativos sobre as vacinas.

“Nossa capacidade de detectar (hesitação da vacina) em comentários é ruim em inglês – e basicamente inexistente em outro lugar”, disse outro memorando interno publicado em 2 de março.

Derek Beres, residente de Los Angeles, autor e instrutor de fitness, vê o conteúdo antivacinas prosperar nos comentários sempre que promove imunizações em suas contas no Instagram, que é propriedade do Facebook. No ano passado, Beres começou a apresentar um podcast com amigos depois que eles notaram teorias de conspiração sobre COVID-19 e vacinas circulando nas mídias sociais de influenciadores populares de saúde e bem-estar.

No início deste ano, quando Beres postou uma foto sua recebendo a foto do COVID-19, algumas pessoas nas redes sociais disseram que ele provavelmente morreria em seis meses.

“A seção de comentários é uma lixeira para tantas pessoas”, disse Beres.

Os comentários antivacinas no Facebook ficaram tão ruins que, mesmo enquanto importantes agências de saúde pública como a UNICEF e a Organização Mundial da Saúde instavam as pessoas a tomar a vacina, as organizações se recusavam a usar a publicidade gratuita que o Facebook havia fornecido para promover a inoculação, de acordo com o documentos.

Alguns funcionários do Facebook tiveram uma ideia. Enquanto a empresa trabalhava para elaborar um plano para conter todo o sentimento anti-vacina nos comentários, por que não desativar os comentários nas postagens?

“Muito interessado em sua proposta de remover TODOS os comentários in-line para publicações de vacinas como uma solução provisória até que possamos detectar suficientemente a hesitação da vacina nos comentários para refinar nossa remoção”, escreveu um funcionário do Facebook em 2 de março.

A sugestão não deu em nada até meados de abril, quando Lever disse que a empresa parou de mostrar prévias de comentários populares em postagens de vacinas.

Em vez disso, o CEO do Facebook, Mark Zuckerberg, anunciou em 15 de março que a empresa iria começar a rotular postagens sobre vacinas que as descreviam como seguras.

A mudança permitiu que o Facebook continuasse a obter alto engajamento – e, em última instância, lucrar – com os comentários antivacinas, disse Ahmed, do Center for Countering Digital Hate.

“Eles estavam tentando encontrar maneiras de não reduzir o engajamento, mas ao mesmo tempo dar a impressão de que estavam tentando fazer alguma coisa para limpar os problemas que causaram”, disse ele.

Não é realista esperar que uma empresa multibilionária como o Facebook mude voluntariamente um sistema que provou ser tão lucrativo, disse Dan Brahmy, CEO da Cyabra, uma empresa israelense de tecnologia que analisa redes de mídia social e desinformação. Brahmy disse que as regulamentações governamentais podem ser a única coisa que poderia forçar o Facebook a agir.

“A razão pela qual eles não fizeram isso é porque eles não precisaram”, disse Brahmy. “Se prejudicar os resultados financeiros, é reversível.”

A legislação bipartidária no Senado dos EUA exigiria que as plataformas de mídia social dessem aos usuários a opção de desligar os algoritmos que as empresas de tecnologia usam para organizar os feeds de notícias individuais.

O senador John Thune, R-South Dakota, um patrocinador do projeto, pediu ao denunciante do Facebook Haugen para descrever os perigos da classificação baseada no engajamento durante seu depoimento perante o Congresso no início deste mês.

Ela disse que há outras maneiras de classificar o conteúdo – por exemplo, pela qualidade da fonte ou cronologicamente – que serviriam melhor os usuários. O motivo pelo qual o Facebook não os considera, disse ela, é que reduziriam o engajamento.

“O Facebook sabe que quando escolhe o conteúdo … passamos mais tempo em sua plataforma, eles ganham mais dinheiro”, disse Haugen.

Os documentos vazados de Haugen também revelam que um número relativamente pequeno de usuários antivacinas do Facebook são recompensados ​​com grandes visualizações de página no sistema de classificação atual da plataforma de tecnologia.

Uma pesquisa interna do Facebook apresentada em 24 de março alertou que a maior parte do “conteúdo problemático da vacina” vinha de um punhado de áreas da plataforma. Nas comunidades do Facebook onde a desconfiança da vacina era maior, o relatório apontou 50% das visualizações de página antivacinas em apenas 111 – ou 0,016% – das contas do Facebook.

“Os principais produtores são, em sua maioria, usuários que publicam em série (hesitação da vacina) conteúdo para alimentar”, concluiu a pesquisa.

No mesmo dia, o Center for Countering Digital Hate publicou uma análise das postagens nas redes sociais que estimou que apenas uma dezena de usuários do Facebook foram responsáveis ​​por 73% das postagens antivacinas no site entre fevereiro e março. Foi um estudo que os líderes do Facebook disseram ao público em agosto que era “defeituoso”, apesar da pesquisa interna publicada meses antes que confirmou que um pequeno número de contas impulsiona o sentimento anti-vacina.

No início deste mês, uma pesquisa AP-NORC descobriu que a maioria dos americanos culpam as empresas de mídia social, como o Facebook, e seus usuários pela desinformação.

Mas Ahmed disse que o Facebook não deveria apenas assumir a culpa por esse problema.

“O Facebook tomou decisões que levaram as pessoas a receber informações incorretas que as levaram à morte”, disse Ahmed. “Neste ponto, deve haver uma investigação de assassinato.”

FacebookTwitterLinkedin