PUBLICIDADE
Topo

Deepfake: nova técnica descobre se foto de pessoa é falsa pelos olhos

iStock
Imagem: iStock

Nicole D'Almeida

Colaboração para Tilt

20/03/2021 13h07

Cientistas da computação da Universidade de Buffalo, nos Estados Unidos, desenvolveram uma ferramenta capaz de identificar deepfake, ou seja, imagens super-realistas falsas de pessoas fazendo ou dizendo coisas que nunca fizeram.

De acordo com o artigo publicado em outubro de 2020 e divulgado recentemente pelo "The Next Web", as imagens são detectadas analisando a luz refletida nos olhos das pessoas.

Os pesquisadores explicam que em fotos reais os reflexos nas córneas são iguais; afinal, estão vendo a mesma coisa. Já em deepfakes sintetizadas por GANs (modelos de rede de adversário generativo, na sigla em inglês), os reflexos costumam ser diferentes, mostrando diferentes formas geométricas ou localização incompatíveis dos reflexos, por exemplo.

Sistema consegue criar imagens de deep fake ao analisar o reflexo dos olhos da pessoa da imagem; à esquerda, uma foto verdadeira; enquanto a da direita é falsa - Shu Hu, Yuezun Li, and Siwei Lyu - Shu Hu, Yuezun Li, and Siwei Lyu
Sistema analisa imagens de deepfake pelo reflexo dos olhos; à esquerda, uma foto verdadeira; enquanto a da direita é falsa
Imagem: Shu Hu, Yuezun Li, and Siwei Lyu

A nova ferramenta se mostrou 94% eficaz na detecção de imagens deepfake retiradas do ThisPersonDoesNotExist, um repositório de imagens criado com a arquitetura StyleGAN2. Mas há ainda diversas limitações.

A tecnologia só se provou eficaz em imagens no modo retrato, ou seja, a pessoa olhando para a câmera. Outras fotos têm menor probabilidade de reflexos visíveis nos olhos das pessoas, explicam os pesquisadores. Além disso, a ferramenta depende de uma fonte de luz refletida nos dois olhos.

Análise de fontes de luz refletidas nos olhos; quanto maior o número, maior a probabilidade de a imagem ser deepfake - Shu Hu, Yuezun Li e Siwei Lyu - Shu Hu, Yuezun Li e Siwei Lyu
Análise de fontes de luz refletidas nos olhos; quanto menor o número, maior a probabilidade de a imagem ser deepfake
Imagem: Shu Hu, Yuezun Li e Siwei Lyu

Por conta dessas limitações, a tecnologia não será capaz de detectar deepfakes mais sofisticados, apenas as imagens mais rudimentares. Mas, os cientistas estão planejando melhorar a eficácia da ferramenta.

O que é deepfake?

Deepfakes são imagens alteradas digitalmente usando GANs, um tipo de inteligência artificial (IA). O software criador de deepfake pode ser usado para substituir o rosto de uma pessoa pelo rosto de outra em vídeos e imagens.

Além disso, essa tecnologia é capaz de criar rostos humanos a partir do nada. Em 2019, o site ThisPersonDoesNotExist ilustrou como os GANs podem ser usados.

Errata: o texto foi atualizado
Diferentemente do que foi informado na legenda de uma das fotos, na análise de fontes de luz refletidas nos olhos, quanto menor o número, maior a probabilidade de a imagem ser deepfake --e não quanto maior o número, maior a probabilidade. O texto foi corrigido.