Robôs que analisam finanças pessoais terão supervisão humana

Os órgãos reguladores estão começando a mostrar para os robôs quem é que manda.

Depois de gastar bilhões de dólares em tecnologias de ponta de inteligência artificial, bancos e seguradoras da Europa realizam um exame mais rigoroso das ferramentas que usam para ajudar a erradicar fraudes, verificar a solvência de candidatos a empréstimos e automatizar as decisões sobre reclamações.

VEJA TAMBÉM:

• O problema das assistentes virtuais terem voz de mulher
• Como aranhas adestradas para saltar melhorarão os robôs

As regras da União Europeia que entram em vigor a partir desta semana vão enfatizar a supervisão humana e a proteção do consumidor, o que pode criar dificuldades para as empresas que estão tentando elaborar as ferramentas do futuro.

"As empresas que desenvolvem tecnologias de IA terão que levar em conta e incorporar as questões de proteção de dados no processo de design", disse David Martin, diretor jurídico sênior do grupo de defesa do consumidor BEUC, que tem sede em Bruxelas, em entrevista.

As regras poderiam ser um obstáculo para os programadores que buscam desenhar algoritmos cada vez mais sofisticados. Isso pode afetar as empresas da UE que competem contra rivais nos EUA e na Ásia no desenvolvimento de novas tecnologias, de acordo com Nick Wallace, analista sênior de políticas do Centro para Inovação de Dados, instituto de pesquisa independente e sem fins lucrativos com sede em Bruxelas.

"Para um modelo algorítmico ser transparente para uma pessoa, inclusive para uma pessoa com uma boa compreensão de algoritmos, ele precisa se manter dentro de certo nível de complexidade", disse Wallace. "Quanto mais abstrações tiver, sem falar de mais pontos de dados, mais difícil será para qualquer pessoa se sentar, ler tudo e analisar a decisão."

Órgãos reguladores em todo o mundo estão tentando acompanhar a pressa do setor financeiro para automatizar tudo, desde mesas de negociação até decisões de empréstimo e centros de atendimento ao cliente.

O setor bancário investirá US$ 3,3 bilhões em IA e em tecnologias relacionadas neste ano, tornando-se o segundo setor que mais investe nisso depois do varejo, segundo estimativas da International Data Corporation. O investimento total nessas tecnologias crescerá para US$ 52,2 bilhões até 2021, contra cerca de US$ 19 bilhões neste ano, de acordo com o IDC.

O Regulamento Geral de Proteção de Dados da UE, que entrará em vigor no dia 25 de maio, exigirá que as empresas obtenham o consentimento das pessoas quando seus dados pessoais forem usados para automatizar determinados tipos de decisão que tenham consequências importantes, como a concessão de um empréstimo.

Os clientes terão o direito de exigir que um funcionário humano da empresa intervenha e analise uma decisão. Os clientes também terão acesso aos detalhes sobre um processo automatizado para se proteger de práticas discriminatórias.

"As grandes empresas reconhecem que isso é um desafio e que o direito à privacidade e o direito à proteção dos dados precisam ser levados em consideração no desenho e no desenvolvimento de todos os tipos de produto ou serviço", disse John Bowman, diretor sênior em Londres da Promontory Financial Group, subsidiária da International Business Machines (IBM), em entrevista.