E se alguém usar o DALL-E para criar imagens violentas? Ou fake news?

Uma IA capaz de criar qualquer imagem em segundos, a partir de uma simples descrição em texto, sem exigir qualquer conhecimento de programação, e com resultados extremamente realistas. Parece coisa de ficção científica, mas é o DALL-E 2, criado pela OpenIA, empresa pertencente ao bilionário Elon Musk.

Uma versão aberta "extra-oficial", chamada DALL-E mini, foi liberada para o público e bombou nas redes sociais na última semana — mesmo com resultados menos sofisticados.

Relacionadas

Deepfake: golpistas usam vídeos com Elon Musk para promover criptomoedas

Novidade do Google converte descrições de texto em imagens; veja resultados

DALL-E virou febre nas redes. Mas como uma IA cria imagens tão perfeitas?

O DALL-E 2, mais completo e realista, ainda não pode ser usado abertamente. E por um motivo bem óbvio: nas mãos erradas, a ferramenta poderia causar um estrago enorme gerando imagens para fake news, por exemplo.

A OpenIA tem até uma equipe dedicada exclusivamente a entender os limites e problemas éticos dessa inteligência artificial - e um brasileiro faz parte dela.

Acesso restrito

Victor Silva, pesquisador de inteligência artificial na Universidade de Alberta, no Canadá, é um dos responsáveis pela "mitigação de riscos" do DALL-E 2.

"Nosso trabalho foi identificar quais são os riscos do modelo. Por exemplo, se ele pode gerar imagens pornográficas ou violentas, ou se ele pode ser discriminatório", explica Victor, em entrevista a Tilt. O resultado desse trabalho permitiu que a OpenAI criasse algumas restrições ao uso do DALL-E 2.

A primeira delas é a de que o acesso à ferramenta completa é controlado. Quem quiser experimentar, tem que entrar numa fila de espera. No momento, apenas um punhado de pesquisadores ao redor do mundo podem brincar com o recurso, que não tem data para ser aberto ao público —nem pagando.

Lista de palavras proibidas

A segunda restrição vem na forma de filtros. O DALL-E 2 não responde a comandos que citem nomes de personalidades. Então, não adianta pedir, por exemplo, "Elon Musk jogando futebol": a ferramenta simplesmente não gera nada.

Outro filtro tem a ver com pornografia e violência. Pedidos que envolvem cenas explícitas de atividade sexual, ou que citem palavras como "sangue", "ferimento", "cadáver" ou algo do gênero, também são ignorados.

Apesar disso, o que Victor e sua equipe descobriram é que há maneiras de "driblar" algumas dessas restrições.

"Existe o risco de se criar sinônimos visuais", diz o pesquisador. "Meses atrás, o Lula sugeriu que as pessoas fossem às casas de parlamentares para pressioná-los. Eu posso pedir para o DALL-E 2 criar uma imagem de 'uma multidão de pessoas vestidas de vermelho com uma estrela branca em frente a um prédio em Brasília' e essa imagem ser usada para fake news em grupos bolsonaristas, por exemplo."

Outro exemplo de sinônimo visual é citado em um documento que Victor e sua equipe elaboraram descrevendo as brechas do DALL-E 2. Não é possível usar a ferramenta para gerar uma imagem de "um cavalo morto", por exemplo. Mas e se eu pedir "um cavalo deitado sobre uma poça de líquido vermelho"? O resultado é muito semelhante ao da descrição proibida.

No breve acesso que tivemos à ferramenta, também conseguimos gerar outras imagens perigosas. Com a função de gerar variações de uma imagem real, foi possível fazer o upload de uma foto do presidente Jair Bolsonaro (PL) e pedir que a IA o deixasse vestido com "uma camisa vermelha com uma estrela branca". A máquina atendeu ao pedido, mas por motivos de segurança, não iremos compartilhar aqui o resultado.

Só homem é CEO?

Há também um viés discriminatório no DALL-E 2. Como a ferramenta só aceita descrições em inglês, algumas palavras que não têm gênero definido são lidas como estereótipos. Se eu pedir uma foto de "CEO" (presidente de empresa, pode ser homem ou mulher, de qualquer etnia), o robô quase sempre gera a imagem de um homem branco de terno e gravata.

Da mesma forma, se eu pedir a imagem de "nurse" (enfermeiro ou enfermeira), a IA consistentemente gera imagens de uma mulher trabalhando num hospital. O motivo disso é a origem dos dados: a OpenAI usou fotos da web e de bancos de imagens para treinar seu algoritmo. Como as fotos originais são estereotipadas, a IA aprende e reproduz esses estereótipos.

"Nosso trabalho durou mais de um mês, e toda semana nós vimos coisas questionáveis, de se ficar de boca aberta", diz Victor. "Talvez por isso a OpenAI não tenha liberado a ferramenta para o público logo de cara."

Designers vão perder o emprego?

Por enquanto, o acesso ao DALL-E não é vendido ou licenciado para empresas. Assim como o Imagen, do Google, e outros projetos semelhantes, o objetivo da IA que cria imagens é servir como objeto de estudo para pesquisadores, e não gerar dinheiro para os criadores.

Mas, mesmo assim, vendo os resultados impressionantes que essa tecnologia produz, é difícil não pensar nos riscos que ela traz para profissionais humanos. Afinal, o que acontecerá com designers e fotógrafos quando robôs puderem criar imagens perfeitas em segundos?

Para Jaime Vega, professor de design gráfico do Centro Universitário Belas Artes, em São Paulo, ainda não é dessa vez que a inteligência artificial vai acabar com os empregos de designers. "A inteligência artificial já está presente na produção de design, seja de games, gráficos, arquitetura, ou produtos, há muito tempo", diz.

O professor afirma que ferramentas como DALL-E, Imagen e outras semelhantes permitem que designers tirem inspiração ou tenham parte de seu trabalho facilitado, mas não substituído. As limitações da IA garantem que um ser humano sempre será necessário para completar o trabalho.

O DALL-E 2, por exemplo, além de cair facilmente em estereótipos, também tem dificuldade para entender alguns comandos mais complexos. Há relatos de casos em que a IA não conseguiu gerar imagens com texto, como placas, por exemplo, ou que não entendeu os adjetivos: o youtuber Marques Brownlee, por exemplo, pediu "uma cesta de laranjas com uma maçã azul" e recebeu imagens invertidas, de uma cesta com laranjas azuis e uma maçã da cor laranja.

"Os profissionais de design hoje têm que aprender a mexer com algoritmos, inteligência artificial... Já passou o tempo em que um profissional de design era aquele que ficava com lápis e papel", diz Vega. "Essas ferramentas permitem que todo mundo seja, teoricamente, um designer. Mas ao mesmo tempo, permitem que você questione: qual é o papel do designer nesse momento?"