Topo

App


Novo app agrava problema ético do deepfake, que troca rostos em vídeos

Página do app Zao, de troca de rostos (deepfake) na App Store chinesa - Reprodução
Página do app Zao, de troca de rostos (deepfake) na App Store chinesa Imagem: Reprodução

Gabriel Joppert

Colaboração para Tilt

02/09/2019 14h11

Sem tempo, irmão

  • Lançado na sexta, aplicativo Zao troca rostos em vídeos e viralizou rapidamente
  • Em segundos e a partir de apenas uma foto, app coloca usuário dentro de filmes e séries
  • Empresa atualizou política de privacidade no domingo após reclamações em massa
  • Preocupação com facilidade e qualidade dos "deepfakes" volta à tona

Já há algum tempo falamos do riscos da técnica conhecida como "deepfake", que consiste na troca de rostos de uma pessoa no corpo de outra em uma foto ou vídeo, usando inteligência artificial para deixar o truque mais verossímil. De cara, já vimos ser usado para pornôs falsos com celebridades. Antes complexa, a ténica agora está ao alcance de usuários comuns.

Lançado na última sexta-feira (30), o Zao rapidamente subiu ao topo das listas de aplicativos gratuitos mais baixados na China. Funciona assim: após ser alimentado com algumas fotos do usuário, ele consegue em poucos segundos inserir o rosto dele em cenas de filmes ou séries famosas, no lugar do rosto de estrelas como Leonardo DiCaprio ou Hugh Jackman.

No Twitter, o usuário @AllanXia demonstrou o poder do Zao: montagens foram feitas usando uma única foto dele. A qualidade das montagens fez com que as cenas viralizassem rapidamente na internet e, quase com a mesma velocidade, surgiram queixas em relação à privacidade dos usuários e a preocupação com o mau uso das imagens geradas.

A primeira versão do app dava aos desenvolvedores o direito "livre, irrevogável, permanente, transferível e re-licenciável" para todo o conteúdo gerado pelos usuários.

Após milhares de avaliações negativas do aplicativo na AppStore do iOS chinês, a empresa soltou, no domingo (1), uma declaração de que estava atualizando os termos e que usaria as imagens dos rostos e os minivídeos resultantes apenas para melhorar o próprio aplicativo e outros fins pré-aprovados pelos usuários.

"Nós entendemos a preocupação com privacidade. Recebemos o retorno e iremos consertar os problemas que não levamos em consideração, o que levará algum tempo", dizia a declaração no perfil do ZAO no Weibo.

O Zao pertence à Momo Inc., empresa chinesa que tem um aplicativo de encontros e streaming de vídeo, e que está listada na bolsa de valores nos EUA.

Por enquanto, como medidas de "contenção de danos", a empresa chinesa Tencent —dona do mais popular serviço de mensagens no país, o Wechat— anunciou que está removendo qualquer conteúdo do Zao de sua plataforma.

O aplicativo ainda não está disponível no Brasil para iOS e nem para Android e, contatada pelo Tilt, a empresa ainda não deu retorno sobre uma possível data de lançamento.

O Zao tem até um gerador de memes! Como será quando este tipo de tecnologia estiver ao alcance de todos?

'Deepfakes'?

O Zao impressionou os usuários pela rapidez, qualidade e facilidade da troca de rostos nos vídeos. Em vez de necessitar dezenas de imagens, ele usa apenas uma ou então ajuda o usuário a captar certas expressões para mapear o rosto. Como o aplicativo já tinha uma série de cenas padrão para serem usadas, a velocidade de criação e a qualidade dos vídeos foi aprimorada. O Zao não consegue trocar o rosto com qualquer cena escolhida.

Os vídeos "deepfake" já vem, há alguns anos, chamando a atenção pelo seu potencial para gerar desinformação —como mostrado com um vídeo falso de Mark Zuckerberg— ou para ferir direitos de privacidade e imagem, como no citado caso das famosas retratadas em vídeos pornô usando o recurso.

Letras miúdas

Políticas de privacidade potencialmente abusivas são comuns em aplicativos gratuitos e que viralizam rapidamente. Um caso similar recente foi o do FaceApp. O aplicativo foi lançado em 2017, mas teve um novo surto de popularidade este ano. Similarmente ao Zao, ele usa fotos e filtros de inteligência artificial para alterar os rostos dos usuários, mas para criar versões mais velhas delas.

O aplicativo gerou polêmica e preocupações dos usuários após chamarem atenção ao fato de que a sua política de privacidade permitia que eles usassem as imagens enviadas pelos usuários para praticamente qualquer fim. A empresa respondeu declarando que não armazena as imagens por mais de 48 horas nem compartilha os dados com terceiros.

SIGA TILT NAS REDES SOCIAIS

App