PUBLICIDADE
Topo

Noah Scheffel

ANÁLISE

Texto baseado no relato de acontecimentos, mas contextualizado a partir do conhecimento do jornalista sobre o tema; pode incluir interpretações do jornalista sobre os fatos.

Quão artificial é essa inteligência?

Noah Scheffel

Noah é homem trans, mãe de uma filha, e pai de outra. É fundador do EducaTRANSforma, maior agente nacional de capacitação gratuita e de consultoria em empregabilidade para pessoas transgênero em tecnologia. Iniciou carreira na área de TI muito jovem e atuou por mais de 15 anos como coordenador de tecnologia, buscando inovação por meio da diversidade e desenvolvendo produtos e serviços representativos para a sociedade, criados por todas as pessoas. Atualmente é head de diversidade e inclusão em uma empresa de investimentos. Trabalha diariamente para fomentar o senso de pertencimento de todos os recortes sociais e suas interseccionalidades. Mas foi em casa que ganhou seu maior prêmio ao ouvir da filha de 7 anos: "Mãe, tenho muito orgulho de ti por causa de quem tu é pro mundo."

21/06/2021 06h00

Não é de hoje que se fala em algoritmos racistas, em que tecnologias de inteligência artificial são usadas por órgãos governamentais internacionais para identificar e rastrear pessoas. O problema disso é que a inteligência artificial só reproduz aquilo que aprendeu com os seres humanos. E somos uma sociedade racista, elitista, xenofóbica, capacitista e lgbtfóbica. Então imagine tudo que ela aprendeu conosco.

Há casos e organizações que lutam contra o uso da inteligência artificial pelo preconceito que ela reproduz, e já existem diversas pesquisas que demonstram o quão racistas, excludentes e preconceituosas ações baseadas em inteligência artificial podem ser. Homens negros são parados pela polícia, por instrução desta tal inteligência, por parecerem suspeitos, para dar um simples exemplo. Nota a proximidade com o comportamento da sociedade?

O que acontece agora é que o avanço dessa tecnologia excludente aos perfis que não se enquadram no "socialmente aceito" deu um passo além, utilizando a inteligência artificial para reforçar estereótipos ao fazê-la classificar o gênero e orientação sexual das pessoas através da aparência, do timbre da voz, e da forma como se movimentam. Parece filme de ficção científica, mas não é.

Apesar de isso tudo parecer distante demais da nossa realidade, infelizmente está mais próximo do que você pensa. Alguns anos atrás, o smartwatch da Apple não funcionava em peles negras. Atualmente, os aplicativos de bancos digitais não reconhecem a selfie de pessoas transgênero. Essa exclusão através da tal inteligência artificial não está tão distante assim: o problema do login no banco acontece comigo toda vez que formato meu celular.

Na semana passada foi anunciado que Congonhas e Santos Dumont terão a 1ª ponte aérea biométrica do mundo. Imaginem a situação: para embarque, a identificação da pessoa passageira dispensa cartão de embarque ou apresentação de documento de identidade, e se baseia no reconhecimento facial, onde a pessoa passageira tem sua imagem atual comparada com foto e dados existentes nas bases do nosso governo.
O nome desse projeto em específico é "Embarque + Seguro 100% Digital", e segundo o governo federal, "o objetivo é tornar mais eficiente, ágil e seguro o processo de embarque nos aeroportos".

Mas seguro para quem?

Olhe a foto abaixo e se pergunte: você acha que o governo vai deixar a pessoa do lado esquerdo da foto embarcar num avião, quando na base governamental a foto da direita estiver registrada como a correta?

O colunista de Ecoa Noah Scheffel - Arquivo pessoal - Arquivo pessoal
Imagem: Arquivo pessoal


Esse à esquerda sou eu hoje. À direita, é como eu estou registrado no governo, mas não me representa enquanto indivíduo.

Mais uma vez estamos ignorando que a inteligência artificial não contempla toda a diversidade de existências porque ela foi ensinada por nossa sociedade estruturalmente limitada e preconceituosa. Enquanto isso, ao utilizarmos essa inteligência artificial, vamos continuar classificando estereótipos sociais baseados nos nossos próprios estereótipos sobre gênero, raça e tantas outras subjetividades humanas, e excluindo as demais existências.

Por isso é tão importante que quem desenvolve os algoritmos de inteligência artificial faça parte destes recortes que são socialmente excluídos. É impossível querer que não os utilizemos em uma era que é movida pela tecnologia. O que precisamos é que essa tecnologia seja regulamentada e que seja criada, desenvolvida e produzida por pessoas de diferentes perfis e perspectivas, trazendo ao máximo a diversidade como ponto focal.
Do contrário vamos permitir que uma máquina artificial nos diga quem somos, e precisamos ser mais inteligentes que ela para não deixar isso acontecer.

** Este texto não reflete, necessariamente, a opinião do UOL