Microsoft: Facebook faz parceria com Microsoft e MIT para combater 'deepfakes' – Últimas Notícias

Facebook fez parceria com Microsoft, Instituto de Tecnologia de Massachusetts (MIT) e outras instituições para combater os 'deepfakes' e comprometeu US $ 10 milhões na criação de ferramentas de código aberto que podem detectar melhor se um vídeo foi manipulado.

As técnicas do "Deepfake", que apresentam vídeos realistas gerados pela IA de pessoas reais fazendo e dizendo coisas fictícias, têm implicações significativas para determinar a legitimidade das informações apresentadas online.

"É por isso que o Facebook, a Parceria em IA, Microsoft e acadêmicos da Cornell Tech, MIT, Universidade de Oxford, Universidade da Califórnia-Berkeley, Universidade de Maryland, College Park e Universidade de Albany-SUNY estão se unindo para construir o Deepfake Desafio de detecção (DFDC) ", disse Mike Schroepfer, diretor de tecnologia, na quinta-feira.

O "Desafio de detecção do Deepfake" incluirá um conjunto de dados e uma tabela de classificação, além de concessões e prêmios, para estimular o setor a criar novas maneiras de detectar e impedir que mídias manipuladas via AI sejam usadas para enganar outras pessoas.

"Nenhum dado de usuário do Facebook será usado neste conjunto de dados. Também estamos financiando colaborações e prêmios de pesquisa para o desafio de ajudar a incentivar mais participação. No total, estamos dedicando mais de US $ 10 milhões para financiar esse esforço em todo o setor", Schroepfer disse em um comunicado.

O lançamento completo do conjunto de dados e o lançamento do DFDC ocorrerão na Conferência sobre Sistemas de Processamento de Informações Neurais (NeurIPS) em dezembro.

"Para passar da era da informação para a era do conhecimento, devemos fazer melhor ao distinguir o real do falso, recompensar conteúdo confiável sobre conteúdo não confiável e educar a próxima geração para sermos melhores cidadãos digitais", disse o professor Hany Farid, da UC Berkeley.

"O objetivo desta competição é construir sistemas de IA que possam detectar as leves imperfeições em uma imagem manipulada e expor sua representação fraudulenta da realidade", acrescentou Antonio Torralba, diretor do MIT Quest for Intelligence.

"Deepfakes" são falsificações de vídeos que fazem as pessoas parecerem dizer coisas que nunca fizeram, como os populares vídeos forjados do CEO do Facebook, Mark Zuckerberg, e da presidente da Câmara dos EUA, Nancy Pelosi, que se tornaram virais recentemente.

"Dados os desenvolvimentos recentes em poder gerar informações manipuladas (texto, imagens, vídeos e áudio) em escala, precisamos do envolvimento total da comunidade de pesquisa em um ambiente aberto para desenvolver métodos e sistemas que possam detectar e mitigar os males efeitos da multimídia manipulada ", observou o professor Rama Chellappa, da Universidade de Maryland.