Por que inteligência artificial ainda é discriminatória com as mulheres

O Comitê Executivo sobre Igualdade de Oportunidades para Mulheres e Homens, da Comissão Europeia, analisou, em relatório de março de 2020, os riscos potenciais da Inteligência Artificial (IA), como discriminação de gênero na tomada de decisão. Para os autores do documento, a IA espelha nossa sociedade, o comportamento humano.

A forma de evitar a discriminação por meio dos sistemas de IA é garantir que as pessoas envolvidas com ela, por trás do desenvolvimento e da administração dos algoritmos, tenham formação de mundo condizente com a diversidade, respeitando a pluralidade própria da sociedade.

Relacionadas

"Ana Estrada luta pela eutánasia: vida é um direito, não um dever"

Projota no BBB: o curioso caso do homem que não era para casar

(Mal)trate o ficante: existe protocolo de segurança no amor?

Se os dados coletados e usados como base são enviesados por gênero, a IA tomará, por consequência, decisão enviesada. O próprio algoritmo, codificado por humanos, vai refletir o preconceito dos desenvolvedores. Ou ainda pode ser que não haja discriminação por parte de quem desenvolve o programa, mas a base de dados utilizada por ele ser antiga, representando, portanto, uma realidade não mais observada.

Um sistema de recrutamento alimentado por dados de dez anos atrás vai refletir desequilíbrio ou desigualdade ainda maior entre homens e mulheres no mercado de trabalho. Logo, é de se esperar que haja mais currículos masculinos, com critérios que felizmente já não são —ou pelo menos não deveriam ser — usados, como a preferência por mulheres sem filhos e/ou solteiras.

Ainda que tenha melhorado, a realidade continua difícil para as mulheres no âmbito profissional. O tempo estimado pelo Fórum Econômico Mundial é de mais de dois séculos para que elas estejam em igualdade de condições com os homens no ambiente de trabalho. A projeção foi divulgada em edição recente do "Global Gender Gap Report", que considerou as condições do mercado de trabalho em 149 países.

Uma das formas eficazes para diminuir a distância entre homens e mulheres é estimular a igualdade de gênero nos cargos de liderança. Entre 1997 e 2018, segundo a consultoria Great Place to Work (GPTW), a participação feminina nos cargos de liderança das 150 melhores empresas para trabalhar saltou de 11% para 42%.

A mulher como líder envia um recado poderoso para toda a organização. Contribui dessa forma para combater os vieses inconscientes, que, por serem comuns no dia a dia, também são reproduzidos pela Inteligência artificial. Afinal de contas, a IA é o espelho do mundo real.

Os vieses inconscientes são visões preconcebidas sobre as mulheres. É como se estivessem formalizados, já que têm a mesma força das regras escritas. Como estão arraigados, por serem repetidos há muitos anos, eles prejudicam as mulheres, incluindo seu desenvolvimento profissional. Quem nunca ouviu que "mulher não tem pulso para liderar"? Ou ainda que "mulher é muito sensível para liderar"?

Basta ver o número baixo de mulheres como chefes de Estado e de governo: apenas 20 países em todo o mundo, de acordo com a campanha deste ano da "ONU Mulheres" para o Dia Internacional da Mulher.

O braço da ONU (Organização das Nações Unidas) dedicado à mulher observa que a maioria dos países de maior sucesso no combate à pandemia tem uma comandante feminina. Dinamarca, Finlândia, Alemanha, Islândia e Nova Zelândia são alguns exemplos de parâmetros que devem ser perseguidos.

A ONU estabeleceu os Princípios de Empoderamento das Mulheres (WEP, na sigla em inglês) que devem ser trabalhados pelas organizações. Entre eles estão liderança corporativa sensível à igualdade de gênero no mais alto nível; tratamento de todas as mulheres e de todos os homens de forma justa no trabalho, respeitando e apoiando os direitos humanos e a não discriminação; e promoção da educação, da capacitação e do desenvolvimento profissional das mulheres.

Sobre esse último princípio, sua relevância é ainda maior em programação e desenvolvimento de softwares, uma área de amplo predomínio masculino. São esses profissionais os responsáveis técnicos pelos sistemas de IA. O aumento da presença feminina traria uma visão de mundo diversificada, criando inclusive obstáculo para os vieses inconscientes. Há empresas que adotam como política interna o estímulo à presença/contratação de mulheres para essas atividades.

Uma possibilidade aventada no relatório da Comissão Europeia é que a Inteligência Artificial seja não discriminatória desde sua concepção (non-discrimination by design). Os próprios algoritmos, no processo de tomada de decisão, incorporariam o tratamento igualitário de gênero previsto na legislação. Essa seria uma forma de evitar a discriminação toda vez que os sistemas de IA tomassem decisões envolvendo dados de homens e mulheres.

Os cientistas estão estudando como isso — e se isso — seria possível. De qualquer forma, já adiantaram que deve haver a participação humana na tomada de decisão da IA, especialmente quando esta tiver que escolher com base na correlação de dados baseada no gênero.

Ou seja, mais uma vez, para que a IA não seja discriminatória, o mundo real também não deve ser. A Inteligência Artificial nada mais é do que um espelho da sociedade.

*Camilla Jimene é sócia do Opice Blum, Bruno e Vainzof Advogados Associados; Rebeca Trigo é estagiária de Proteção de Dados, Privacidade e Serviços de DPO do mesmo escritório; e Bruno Toranzo, da área de Comunicação, é jornalista e graduado em Direito