Como a IA fabrica memórias falsas e reescreve a sua história

Um exemplo dessas consequências é o termo DeepFake. O processo envolve a criação de conteúdos de áudio ou vídeo fabricados que podem ser utilizados para fins maliciosos e disseminação de desinformação.

Vídeos de Drauzio Varella e Pedro Bial vendendo pílulas contra a calvície, que viralizaram no Instagram e TikTok, são exemplos desse fenômeno. Os dois nunca gravaram esses conteúdos - muito menos deram permissão. Criminosos fabricaram esses vídeos para aplicar golpes na Internet.

Embora o conceito de DeepFakes esteja difundido, ainda assim continuam criando uma espécie de realidade paralela e afetam como as pessoas percebem o mundo. Porém, quero discutir nesta coluna um efeito ainda mais sutil, pouco discutido, mas que está presente no dia a dia de todos nós: as edições e criações feitas por IA que modificam conteúdos reais de nossas vidas.

Diferente daquilo que é totalmente fabricado, essas alterações acontecem, muitas vezes, sobre imagens autênticas. Há uma série de aplicativos que oferecem ferramentas para remover pessoas das fotos, inserir sorrisos, mudar o fundo da imagem ou até simular um clima diferente do dia em que ela foi tirada.

A situação fica especialmente mais sensível com as IAs que criam vídeo. A partir de uma fotografia, o modelo inventa uma continuidade da vida que nunca existiu.

São edições e animações aparentemente inofensivas, feitas pela própria pessoa para melhorar a imagem ou trazer mais imersão por meio da criação de um vídeo. O problema é que essas alterações podem distorcer memórias genuínas e reconfigurar experiências vividas.

Nesta semana está acontecendo a conferência ACM CHI, principal fórum acadêmico de pesquisas na área de interação humano-computador. Um dos artigos que ganhou o prêmio de melhor trabalho foi justamente o que mostrou que as fotos e vídeos editados por IA podem implantar memórias falsas e distorcer a realidade.

O projeto foi conduzido por um time de pesquisadores do MIT Media Lab e contou com a participação de Elizabeth Loftus, uma pesquisadora renomada na área de memória humana.

A partir de diferentes experimentos, os autores apresentaram evidências de que a exposição aos conteúdos alterados por IA, especialmente em formato de vídeo, aumenta significativamente a formação de memórias falsas - lembranças de eventos que não ocorreram ou que são distorcidos da realidade.

Embora seja um estudo inicial, ele nos ajuda a antecipar cenários futuros de consequências que podem acontecer com o avanço da tecnologia, especialmente para a nossa cognição.

Gosto de estudar sobre as memórias falsas porque elas explicam muito sobre a nossa cognição e o funcionamento do próprio cérebro. Muitas vezes assumimos que a nossa memória é como se fosse um gravador capaz de registrar com fidelidade os acontecimentos de nossas vidas.

Mas a memória é mais complexa, delicada e limitada do que isso. Quando lembramos de algo, não estamos dando play em uma gravação. O que fazemos é uma reconstrução - muitas vezes imprecisa - do passado. Um processo que pode ser contaminado por nossas emoções e manipulações externas.

Um dos estudos mais conhecidos sobre memórias falsas foi realizado justamente pela Elizabeth Loftus. Em um experimento clássico, ela convenceu os participantes de que eles tinham se perdido em um shopping quando eram crianças - um fato totalmente inventado.

O mais interessante é que, com o passar do tempo, muitos desses indivíduos passaram a se lembrar da situação com detalhes, como emoções sentidas e pessoas envolvidas. A história de vida deles mudou a partir de uma manipulação externa.

No ano passado, escrevi que a inteligência artificial era como uma caixinha de multiversos. Quis dizer que a tecnologia estava se tornando tão precisa na criação e manipulação de conteúdos sintéticos que seria possível reescrever fatos do presente para que servissem a determinadas narrativas.

Hoje, percebo que o desafio vai além: preservar o passado pode ser tão difícil quanto distinguir o que ainda é real no presente. Se a fronteira entre o vivido e o fabricado está sendo demolida, como manteremos intacta nossa capacidade de formar memórias genuínas enquanto a tecnologia nos oferece versões aprimoradas da nossa própria história?