Topo

Chegou a hora de impor ética a robô esperto e sem controle; UE dá 1º passo

Helton Simões Gomes

Do UOL, em São Paulo

09/04/2019 13h05

Resumo da notícia

  • Plataformas de inteligência artificial já estão em bancos, hospitais e construtoras
  • O uso desses sistemas automatizados levanta questões éticas
  • Exemplos: decisões pouco transparentes e que podem ser enviesadas ou preconceituosas
  • Para começar a lidar com a questão, a União Europeia traçou 7 diretrizes
  • Além disso, vai levar essa discussão a outros países e a grupos, como G7 e o G20

Sistemas inteligentes que executam tarefas de modo automático sem qualquer intervenção humana estão se popularizando não só entre companhias de tecnologia, mas também entre firmas de outros setores que, procurando inovar ou reduzir custos, viraram adeptas da inteligência artificial. Com isso, não é raro ver bancos, construtoras e hospitais recorrendo a algoritmos para realizar ações antes executadas por seres humanos.

O uso dessas plataformas levanta, no entanto, diversas questões éticas, como a tomada de decisões enviesadas (e até preconceituosas) ou que se baseiam em critérios pouquíssimos claros para quem não tem acesso aos programas de computador. Algumas empresas até tentaram contornar a questão, mas não havia surgido ação internacional coordenada entre países. Até agora. A União Europeia deu nesta segunda-feira (8) o primeiro passo para enquadrar as empresas que desenvolvem sistemas de inteligência artificial.

Como ponto de partida para uma série de ações, a UE estipulou sete pontos para que uma inteligência artificial seja confiável:

  • Supervisão humana: a AI deve promover sociedades mais igualitárias, garantindo direitos fundamentais em vez de reduzir a autonomia humana; para atingir esse objetivo, essas plataformas devem permitir que pessoas possam intervir em seu funcionamento.
  • Robustez e segurança: algoritmos de AI devem ser seguros, confiáveis e robustos o suficiente para lidar com erros ou inconsistências durante qualquer etapa de seu funcionamento;
  • Privacidade e governança de dados: a AI deve garantir que cidadãos tenham pleno acesso a seus dados pessoais, ainda mais em situações em que essas informações possam ser usadas para prejudicá-los ou gerar decisão discriminatórias contra eles;
  • Transparência: a AI não pode ser caixa preta que produza decisões inexplicáveis ou incompreensíveis; ela deve ser criada para que as decisões tomadas possam ser explicadas, ainda que sejam produto de complexas operações algorítmicas;
  • Diversidade e não-discriminação: um sistema inteligente deve ser construído considerando que as pessoas têm níveis diferentes de habilidades e necessidades; a ideia aqui é garantir que seu uso seja acessível para todos;
  • Bem-estar social: plataformas de AI devem ser usados para produzir mudanças sociais positivas, garantindo tanto a sustentabilidade quando a responsabilidade ecológica;
  • Prestação de contas: a AI deve conter mecanismos para garantir a responsabilização de seus desenvolvedores pelos resultados gerados.

A dimensão ética da IA não é um item de luxo ou um complemento. É somente com confiança que nossa sociedade pode se beneficiar plenamente dessas tecnologias
Andrus Ansip, chefe digital da Comissão Europeia

"Uma inteligência artificial ética é uma proposta do tipo ganha-ganha, que poder ser uma bem-vinda vantagem competitiva para a Europa: ser líder em inteligência artificial focada nos seres humanos em que as pessoas podem confiar", explicou Ansip.

Os pontos propostos por ele foram elaborados com a ajuda de 52 especialistas acadêmicos, órgãos setoriais e empresas, como Google, SAP, Santander e Bayer. A princípio, estes tópicos estão sendo tratados apenas como orientação a quem cria plataformas de inteligência artificial. Não possuem, portanto, força de lei - não há obrigação de segui-los nem punição para quem resolver não adotá-los.

Só que eles fazem parte de um plano maior da UE. No segundo semestre, o bloco europeu lançará um programa em que empresas, inclusive de fora da Europa, administradores públicos e organizações poderão se voluntariar para seguir à risca os sete princípios descritos acima.

O intuito da UE é transformar essa abordagem no início de uma discussão global, não restrita apenas aos 28 países membros do bloco. A Comissão Europeia pretende fechar cooperações com Japão, Canadá e Singapura, além de levar o assunto para o G7 (grupo dos países ricos) e o G20 (grupo dos países em desenvolvimento, do qual o Brasil faz parte).

No começo de 2020, especialistas em AI irão avaliar os resultados do projeto-piloto. Com eles em mãos, a UE irá estabelecer os próximos passos. Em paralelo a isso, todos os países europeus membros do bloco começarão a criar modelos comuns para compartilhamento dados criados por centros de inovação.

Mais Inteligência artificial