facebook: modelo de AI do Facebook atinge 65% de precisão para detectar vídeos deepfake – Últimas Notícias

São Francisco: alarmado com os crescentes vídeos forjados ou com deepfake em sua plataforma, Facebook organizou um Deepfake Detection Challenge e os resultados não foram muito animadores, pois o modelo de melhor desempenho alcançou uma precisão média de 65,18% em relação aos exemplos do mundo real.

Isso, no entanto, estabelece uma nova linha de base compartilhada como a inteligência artificial A comunidade (AI) continua trabalhando nessa tarefa difícil e importante, disse o Facebook.

O Deepfake Detection Challenge atraiu mais de 2.000 participantes, que treinaram e testaram mais de 35.000 modelos usando um novo conjunto de dados exclusivo criado para o desafio.

Testado em um conjunto de dados de caixa preta com exemplos desafiadores do mundo real que não foram compartilhados com os participantes, o modelo superior alcançou uma precisão média de 65,18%.

O Facebook fez parceria com outros líderes do setor e especialistas acadêmicos no ano passado para criar o Deepfake Detection Challenge.

“Ao criar e compartilhar um novo conjunto de dados exclusivo de mais de 100.000 vídeos, o DFDC permitiu que especialistas de todo o mundo se reunissem, comparassem seus modelos de detecção de deepfake, tentassem novas abordagens e aprendessem com o trabalho uns dos outros”, afirma o social rede disse em um comunicado.

O Facebook, em janeiro deste ano, anunciou políticas duras contra a disseminação de mídia manipulada em sua plataforma.

A empresa disse que removerá a mídia manipulada enganosa se ela tiver sido editada ou sintetizada além de ajustes de clareza ou qualidade.

Deepfakes são falsificações de vídeo que fazem as pessoas parecerem dizer coisas que nunca fizeram, como os populares vídeos forjados do CEO do Facebook, Zuckerberg, e da presidente da Câmara dos EUA, Nancy Pelosi, que se tornou viral no ano passado.

Os vídeos que não atendem aos padrões de remoção ainda são elegíveis para revisão por um dos verificadores de fatos independentes de terceiros do Facebook, que incluem mais de 50 parceiros em todo o mundo, verificando fatos em mais de 40 idiomas.

A empresa disse que também compartilhará detalhes sobre seus planos de código aberto do conjunto de dados brutos usado para construir o Deepfake Detection Challenge, com mais de 3.500 atores e 38,5 dias de dados.

“Isso ajudará os pesquisadores de IA a desenvolver novos métodos de geração e detecção para avançar o estado da arte neste campo. Além disso, esse conjunto de dados será aberto para uso em outros trabalhos de pesquisa em domínios de IA, bem como em deepfakes”, elaborou o Facebook .