Topo

Por que o serviço de cartão de crédito da Apple é investigado por promover sexismo

Apple Card, produto bancário da Apple - Divulgação
Apple Card, produto bancário da Apple Imagem: Divulgação

11/11/2019 15h46

Usuários têm relatado que mulheres estão recebendo limites de crédito menores que os dos homens, e algoritmo usado está sendo investigado por uma agência reguladora.

A agência reguladora de Wall Street abriu uma investigação contra a Apple, depois de a empresa ter sido acusada por usuários nos EUA de oferecer limites de crédito muito maiores a consumidores homens do que a mulheres com seu cartão de crédito Apple Card.

O influente programador dinamarquês David Heinemeier Hansson foi um dos que iniciaram a discussão no Twitter, onde chamou o funcionamento do cartão de "sexista".

"Minha mulher e eu fazemos declaração conjunta de Imposto de Renda, vivemos no mesmo imóvel e estamos casados há muito tempo. Mesmo assim, os algoritmos da Apple acham que eu mereço um limite de crédito 20 vezes maior que o dela", afirmou, em um tuíte que teve milhares de compartilhamentos, acrescentando que não recebeu nenhuma resposta convincente do atendimento ao consumidor da Apple, apenas que a questão era definida pelo algoritmo.

Até mesmo Steve Wozniak, cofundador da Apple (mas que não trabalha na empresa desde os anos 1980), afirmou que o mesmo aconteceu com ele e sua mulher e também criticou a dificuldade em corrigir erros nos algoritmos das empresas de tecnologia atualmente.

"(Eu e minha mulher) temos diferença de 10 vezes em nosso limite de crédito no Apple Card", afirmou. "Um gerente humano de nível (hierárquico) inferior deveria ter autorização para corrigir sua situação", agregou em resposta a Hansson.

"Mas esses valores bons não se estendem a companhias de tecnologia atualmente. (...) Vai saber o que é o algoritmo. Claramente, um humano tomaria as atitudes corretas, mas a tecnologia é mais importante que pessoas nos dias de hoje."

Investigação

O Departamento de Serviços Financeiros do Estado de Nova York (DFS, na sigla em inglês), órgão público encarregado de regular serviços e produtos bancários, de seguradoras e similares, acionou o banco Goldman Sachs, que emite os cartões.

A empresa, que também é um dos maiores grupos de investimento do mundo, publicou, no Twitter, um comunicado afirmando que "não tomamos nem tomaremos decisões baseadas em fatores como o gênero".

Também afirmou que as contas de crédito do Apple Card funcionam "individualmente" e que cada caso "é avaliado de modo independente".

Leo Kelion, editor de tecnologia da BBC, explica que só o acesso aos computadores do Goldman Sachs esclareceria a situação. "O fato de que parece haver uma correlação entre gênero e crédito não necessariamente significa que um está causando o outro", afirma. "Mesmo assim, a suspeita é de que uma parcialidade não intencional tenha se embrenhado no sistema".

Ele explica que é possível que os algoritmos tenham levado em conta séries históricas de dados que indicassem as mulheres como um risco financeiro maior, o que poderia fazer com que o sistema baixasse o crédito para mulheres em geral.

Ou pode ser que haja problemas na forma como os algoritmos estão sendo alimentados atualmente. "Por exemplo, com casais, talvez haja mais probabilidade de homens pedirem empréstimos apenas em seu próprio nome, em vez de fazê-lo em conjunto com seu cônjuge, e o algoritmo pode não ter sido ajustado para levar esse tipo de coisa em consideração", diz Kelion.

O DFS, por sua vez, afirmou que qualquer discriminação, intencional ou não, "viola as leis de Nova York" sobre serviços financeiros e que sua investigação pretende "garantir que todos os clientes sejam tratados de maneira equitativa, sem importar seu gênero".

A BBC contatou o Goldman Sachs a respeito do caso, mas não obteve resposta até o momento. No sábado (9), a empresa afirmou à agência Bloomberg que "suas decisões de crédito se baseiam na solvência do cliente, e não em fatores como gênero, raça, idade, orientação sexual ou qualquer outro aspecto proibido por lei".

O Apple Card foi lançado em agosto e é o primeiro cartão de crédito da empresa, que oferece também nos EUA produtos como empréstimos e contas por meio de seu banco online Marcus.

A empresa até agora não se pronunciou oficialmente sobre a polêmica.

Não é a primeira tecnologia questionada a respeito de possíveis práticas discriminatórias nos EUA. Em outubro, a gigante médica United Health Group também passou a ser investigada pelo DFS por um algoritmo acusado de favorecer clientes brancos em relação a negros. A empresa afirmou ao Wall Street Journal que o algoritmo é apenas uma entre as múltiplas ferramentas usadas para analisar as necessidades dos pacientes.

Para Jonathan Williams, da consultoria Mk2, "houve muitos passos, nos últimos cinco ou seis anos, para melhorar as explicações por trás de decisões tomadas por técnicas de 'machine learning'", em que máquinas usam grandes quantidades de dados para prever comportamentos ou estipular regras. "Mas, em alguns casos, isso ainda não é tão bom quanto deveria ser".

Direitos da mulher