PUBLICIDADE
Topo

Por que até o Vaticano está preocupado com inteligência artificial

Papa Francisco pediu estudo sobre como levar mais ética para o desenvolvimento de inteligência artificial - Remo Casilli/Reuters
Papa Francisco pediu estudo sobre como levar mais ética para o desenvolvimento de inteligência artificial Imagem: Remo Casilli/Reuters

Helton Simões Gomes

De Tilt, em São Paulo

28/02/2020 12h25

Sem tempo, irmão

  • Papa Francisco decidiu que Vaticano deveria tratar da ética na inteligência artificial
  • Preocupação é que máquinas espertas atuem com preconceitos bastante humanos
  • Igreja criou seis princípios para que robôs não perpetuem discriminação
  • Duas gigantes tech, IBM e Microsoft, já endossaram ação do Vaticano
  • Na prática, Igreja Católica não quer que tecnologia se sobreponha ao ser humano

Primeiro, foram ativistas. Depois, empresas e legisladores. Agora, é o Vaticano que está tentando um jeito de controlar a inteligência artificial (IA), máquinas espertas programadas para fazer atividades que sempre foram tarefa dos seres humanos.

A pedido do Papa Francisco, um órgão ligado à Igreja Católica criou seis princípios que esses sistemas devem seguir. Duas gigantes da tecnologia assinaram o documento: IBM e Microsoft, que enviaram, respectivamente, seu vice-presidente executivo John Kelly e seu presidente Brad Smith para a cerimônia desta sexta-feira (28) em Roma.

O sumo pontífice também estaria lá se não estivesse indisposto. Diante de tudo isso, fica a pergunta: por que até o Vaticano entrou na onda de se preocupar com inteligência artificial?

O documento ganhou o nome de "Chamado de Roma por ética na IA" e foi elaborado pela Academia Pontifícia para a Vida, braço da Igreja Católica para promover princípios morais e teológicos em diversos assuntos, da biotecnologia à tecnologia.

"É necessária uma ampla conscientização do uso, significado e impacto das tecnologias, porque o desenvolvimento tecnológico afeta toda a família humana", afirma Monsenhor Vicenzo Paglia, presidente da academia.

Além dos executivos e do clérigo, participaram do evento o diretor-geral da FAO (organização da ONU para alimentação), Dongyu Qu, e a ministra da Inovação da Itália, Paola Pisano. "A IBM nunca havia assinado um chamado do Papa antes. Mas estes não são tempos comuns em tecnologia", afirmou o vice-presidente da empresa.

vaticano - Divulgação/IBM - Divulgação/IBM
Participantes da assinatura do documento em que o Vaticano pede ética na inteligência artificial: diretor-geral da FAO, Dongyu Qu; presidente da Microsoft, Brad Smith; presidente da Academia Pontifícia da Vida, Monsenhor Vicenzo Paglia; ministra da Inovação da Itália, Paola Pisano; John Kelly, presidente da IBM.
Imagem: Divulgação/IBM

Máquinas não são ruins

No documento, a Igreja Católica reconhece a importância das máquinas inteligentes. "A IA oferece um enorme potencial quando se trata de melhorar a coexistência social bem-estar pessoal, aumentando as capacidades humanas e possibilitando ou facilitando muitas tarefas que podem ser realizadas de forma mais eficiente e eficaz."

Ainda assim, manifesta a preocupação de que ferramentas como essa sejam usadas para privilegiar certos grupos sociais em detrimento de outros.

A condição fundamental de liberdade e dignidade deve ser protegida e garantida ao produzir e usar sistemas de IA. Isso deve ser feito salvaguardando os direitos e a liberdade dos indivíduos para que eles não sejam discriminados por algoritmos devido à sua 'raça, cor, sexo, idioma, religião, opinião política ou outra, origem política ou outra, origem nacional ou social, propriedade, nascimento ou outro status'

O pé atrás da Igreja Católica ecoa diversos casos em que ferramentas de IA tomaram decisões preconceituosas. Normalmente, isso acontece porque essas plataformas são treinadas com dados coletados em uma realidade em que a discriminação é a regra.

No ano passado, órgãos dos EUA abriram investigação para apurar atitudes preconceituosas perpetuadas por máquinas. Uma delas aconteceu com o cartão de crédito da Apple, gerenciado pelo banco Goldman Sachs. Um homem acusou a empresa de conceder à sua mulher uma linha de crédito muito menor que a dele, ainda que os dois tivessem renda e gastos similares.

Em outro episódio, pesquisadores da Universidade de Berkeley descobriram um viés em um programa da United Health, uma rede de administração de hospitais que é dona da Amil no Brasil. Ele indicava qual paciente precisava de cuidados mais imediatos, de acordo com suas condições de saúde. Para o programa, pessoas brancas tinham prioridade sobre as negras e assim podiam "furar" a fila para tratamento de problemas renais e diabetes.

vaticano2 - Divulgação/IBM - Divulgação/IBM
Presidente da Academia Pontifícia da Vida, Monsenhor Vicenzo Paglia, durante assinatura do documento em que o Vaticano pede ética na inteligência artificial
Imagem: Divulgação/IBM

O algoritmo não havia sido criado para considerar a raça dos pacientes. Na verdade, ele previa as pessoas com maior probabilidade de gastar mais com saúde com base no histórico médico. Só que esses dados estavam contaminados por uma diferença social diretamente ligada à raça, já que negros historicamente gastam menos com saúde do que brancos.

Não levar essa distorção em conta fazia com que a nota de pacientes brancos fosse elevada ao mesmo patamar de negros, ainda que estes estivessem mais doentes.

Máquinas não são ruins. Não há nada inerentemente mau na IA. As máquinas que os humanos criam simplesmente refletem quem somos como pessoas e como sociedade. As máquinas de IA aprendem com nossos dados e são treinadas por nós. Olhar para elas é como olhar no espelho. Como essas máquinas são usadas é uma questão de escolha humana. Ou seja, é uma escolha de como as pessoas podem e devem regular essas máquinas
John Kelly, vice-presidente executivo da IBM

Para contornar problemas como esses, o Vaticano pede por mais ética no desenvolvimento de IA. "Devemos iniciar o desenvolvimento de cada algoritmo com uma visão 'algor-ética', uma abordagem de ética por design", diz. Para isso, pede que sejam seguidos seis princípios:

  1. Transparência: os sistemas de IA devem ser explicáveis, ou seja, ele deve ter suas decisões explicadas de forma razoável para que leigos em tecnologia possam entender; também deve ser exposta a motivação para a criação das regras que irão guiar o serviço;
  2. Inclusão: na hora de criar uma IA, as necessidades de todos os seres humanos devem ser levadas em consideração;
  3. Responsabilidade: os desenvolvedores de máquinas inteligentes devem trabalhar com responsabilidade e transparência;
  4. Imparcialidade: os criadores de IA devem atuar sem quaisquer viés para resguardar a justiça e a dignidade;
  5. Confiabilidade: os sistemas de IA devem trabalhar de maneira confiável;
  6. Segurança e privacidade: os sistemas de IA devem ser criados tendo segurança em mente e respeitar a privacidade dos usuários.

Essas diretrizes não são muito diferentes das que a própria IBM ou a Microsoft já adotam para orientar seus serviços. São similares ainda àquelas que a União Europeia criou para enquadrar empresas que desenvolver inteligência artificial.

De um lado, as empresas querem evitar que seus produtos virem uma dor de cabeça no futuro. Do outro, os burocratas da UE tentam impedir que serviços públicos gerem desconfiança entre cidadãos. Já a intenção da Igreja Católica é outra.

Papa tecnológico

Não é a primeira vez que o papa Francisco trata de assuntos tecnológicos. O sumo sacerdote já pediu mais ternura na internet. "O mundo digital pode ser um ambiente rico em humanidade, uma rede não só de fios, mas de pessoas", afirmou em 2014 no Dia Mundial das Comunicações da Igreja Católica.

No fim do ano passado, ele afirmou que a tecnologia e a globalização estão homogeneizando os jovens de todo o mundo a ponto de sua singularidade e sua individualidade cultural estarem se tornando espécies ameaçadas.

Ele disparou críticas contra a "tendência crescente de desmerecer valores e culturas locais pela imposição de um modelo unitário" de valores para os jovens, em uma referência à influência de filmes e das redes sociais. "Isto produz uma devastação cultural que é tão grave quanto o desaparecimento de espécies de animais e plantas", disse.

Executivos do mundo da tecnologia também já foram recebidos pelo Papa Francisco. Mark Zuckerberg, executivo-chefe do Facebook, e sua esposa, Priscilla Chan, foram ao Vaticano em agosto de 2016; Tim Cook, chefe da Apple, esteve por lá em janeiro daquele ano; um mês depois foi de Kevin Systrom, cofundador do Instagram e à época executivo-chefe do app.

Naquele mesmo ano, o papa afirmou que as redes sociais e as mensagens de texto são "um dom de Deus" se usados com sabedoria. Mas fez uma ressalva.

As redes sociais são capazes de favorecer as relações e promover o bem da sociedade, mas podem também levar a uma maior polarização e divisão entre as pessoas e os grupos (...) Não é a tecnologia que determina se a comunicação é autêntica ou não, mas o coração do homem e a sua capacidade de fazer bom uso dos meios ao seu dispor
Papa Francisco

SIGA TILT NAS REDES SOCIAIS