PUBLICIDADE
Topo

Perto da eleição nos EUA, Facebook muda política e vai remover 'deepfake'

Jair Bolsonaro e Lula "protagonizam" cena de "A Usurpadora" em vídeo deepfake - Reprodução/Twitter Brunno Sarttori
Jair Bolsonaro e Lula "protagonizam" cena de "A Usurpadora" em vídeo deepfake
Imagem: Reprodução/Twitter Brunno Sarttori

Helton Simões Gomes

De Tilt, em São Paulo

07/01/2020 08h00

Sem tempo, irmão

  • Até agora, Facebook apenas diminuía o alcance das 'deepfakes'
  • Esses vídeos são alterados para fazer alguém dizer o que não disse ou...
  • ... aparecer em um lugar ou situações onde nunca estivera.
  • Às vésperas das eleições nos EUA, empresa anuncia que vai excluir essas mídias
  • Rede social quer evitar ser palco de campanhas de desinformação como em 2016

Um vídeo de Mark Zuckerberg surpreendeu o mundo no ano passado. Nele, o todo-poderoso do Facebook admitia que a empresa manipulava as pessoas e vendia os dados delas para grandes corporações. Seria chocante, mas... tudo não passava de uma montagem descarada, conhecida como deepfake.

Ela foi criada para dar ao CEO da rede social o gostinho amargo sentido por outras vítimas, já que o site recusou tirar do ar um vídeo igualmente falso, que mostrava a deputada Nancy Pelosi, presidente da Câmara dos Estados Unidos, falando como se estivesse bêbada. O presidente Donald Trump, adversário político dela, curtiu e compartilhou a peça. Agora, seis meses depois, o Facebook se deu conta da gravidade do problema e tomou uma decisão. Às vésperas da eleição presidencial nos EUA, anunciou que passará a excluir mídias manipuladas de sua plataforma, a fim de tentar evitar ser palco de campanhas de desinformação como as que ocorreram em 2016.

O anúncio foi feito nesta terça-feira (6) por Monika Bickert, vice-presidente de políticas de conteúdo do Facebook:

As manipulações de mídia podem ser feitas através de tecnologias simples como o Photoshop ou de ferramentas sofisticadas que usam inteligência artificial ou técnicas de "deep learning" para criar vídeos que distorçam a realidade - geralmente chamadas de deepfakes. Embora esses vídeos ainda sejam raros na Internet, eles representam um desafio significativo para nossa indústria e sociedade à medida que seu uso aumenta.

A política do deepfake

Ela tem razão. Os deepfakes ainda são raros e estão longe de virar a praga que dificultará ainda mais a distinção entre mentira e verdade na internet, conforme temem especialistas. Para quem ainda não está familiarizado, esses vídeos são alterados para fazer pessoas dizerem coisas que não falaram ou para colocá-las em lugares onde não estiveram.

Isso não deve ser confundido com a aplicação de filtros, como os de Instagram e Snapchat, que mudam ou acrescentam detalhes estéticos de uma cena. Neste caso, a adição de orelhas de gatinho ou de lábios esticados não chegam a comprometer ninguém.

Algumas empresas ainda encaram tudo como uma brincadeira. Criado no ano passado, o app chinês Zao deu a todo usuário o poder de colocar o rosto de uma pessoa em qualquer cena. Após críticas, o WeChat, maior plataforma de mensagens do país, proibiu a publicação dessas mídias criadas pelo Zao. O problema, porém, está só começando. A versão chinesa do megahit TikTok, o Douyin, já está testando sua própria ferramenta de deepfake.

Atualmente, essas mídias manipuladas são criadas com um objetivo que passa longe do de desestabilizar democracias. São mais usados em vinganças pornográficas, principalmente contra mulheres. Funciona assim: o rosto da moça é colocado no lugar da face de uma atriz pornô e, pronto, o estrago está feito.

O maior receio de especialistas, no entanto, é que essa técnica seja a próxima grande arma de desinformação política. A proximidade das eleições presidenciais nos Estados Unidos, que ocorrem em 2020, fez o Facebook se mexer. A empresa vai remover deepfakes, mas é provável que algumas peças que sejam identificadas como tal ainda sejam mantidas no ar, como os vídeos de Nancy Pelosi e de Mark Zuckerberg. Isso porque serão excluídos materiais que:

  • Sejam conteúdos editados para levar pessoas comuns a acreditar que alguém no vídeo disse algo que na verdade não disse; retoques na clareza ou qualidade das imagens não são considerados;
  • Sejam vídeos produzidos com sistemas de inteligência artificial ou de aprendizado de máquina (machine learning) que possam mesclar, substituir ou sobrepor qualquer conteúdo a um vídeo para que o produto final pareça autêntico.

A remoção, segundo o Facebook, será feita automaticamente. A rede social está desenvolvendo um sistema de aprendizado de máquina que detecta deepfakes ao comparar as imagens com uma grande base de conteúdos manipulados, que está sendo montada aos poucos.

A mudança no padrão de comunidade da rede social não abrange sátiras ou paródias, como as produzidas pelo jornalista e editor de vídeos Bruno Sartori. Uma das mais populares de suas criações mostra o presidente Jair Bolsonaro e o ex-presidente Luiz Inácio Lula da Silva nos corpos de personagens da novela mexicana "A Usurpadora".

É possível, claro, que um vídeo seja manipulado, mas não chegue a ser um deepfake. Isso pode ser feito ao inserir frases com informações incorretas ou tirando as imagens de contexto, para ficar apenas em dois exemplos básicos.

Caso algum conteúdo como esse seja denunciado ao Facebook, é possível que os verificadores da rede social o classifiquem como falso ou parcialmente falso. Nesse caso, o site não exclui a peça. Apenas reduz sua distribuição a usuários, ou seja, ela passa a ser enviada a menos pessoas. Além disso, indivíduos que tentem compartilhar o conteúdo ou que já tenham feito isso são avisados de que estão ajudando a distribuir mentiras. O Facebook acredita que essa tática tem um efeito pedagógico.

Se nós simplesmente removermos todos os vídeos manipulados identificados pelos verificadores de fatos, esses mesmos vídeos ainda estariam disponíveis em outros lugares da Internet ou em outras redes sociais. Ao deixá-los na nossa plataforma com uma identificação de que são falsos, estamos fornecendo contexto e informação importante para as pessoas.
Monika Bickert

Caça ao deepfake

O curioso é que esconder deepfakes era justamente a prática no Facebook até agora. Foi isso o que a rede social fez com o vídeo falso sobre Nancy Pelosi. A mudança de conduta é um desdobramento de uma iniciativa lançada por diversas empresas de tecnologias, entre as quais Facebook e Microsoft, no ano passado.

A rede social investiu US$ 10 milhões para criar ferramentas úteis na detecção das deepfakes. Identificar automaticamente essas mídias manipuladas é um problema para as máquinas. Elas não possuem uma base de dados para treinar e aprender a distinguir um vídeo verdadeiro de um falso. Uma das atividades que consumirá o dinheiro do Facebook é a construção de um desses bancos de deepfake.

SIGA TILT NAS REDES SOCIAIS

Facebook