Indústria da IA ficou rica com algo que ninguém pediu, diz estrela da IA
Como muitos especialistas da área, a cientista cognitiva etíope Abeba Birhane não tem dúvida de que a inteligência artificial é uma revolução sem precedentes. Mas, como poucos de seus pares, ela usa o respeito que conquistou na área para mostrar como essa revolução beneficia alguns escolhidos, enquanto deixa milhões para trás.
Membro do Órgão Consultivo de IA do Secretário-Geral da ONU e eleita uma das 100 pessoas mais influentes da IA pelas revistas Time e Wired, ela não fala da boca para fora. Birhane já fez duas das mais respeitadas instituições de ensino norte-americana passarem vergonha ao provar que elas criaram um banco com imagens racistas e misóginas para treinar algoritmos.
MIT e NYU não só tiraram do ar um acervo com 80 milhões de imagens, como pediram desculpas.
A indústria da IA se tornou rica, poderosa e influente devido a tecnologias que ninguém pediu. Temos que mudar essa mentalidade de a IA ter sido dada generosamente pelas empresas para beneficiar as pessoas. Temos que tratá-las como ferramentas do capitalismo que permitem às empresas ganharem mais dinheiro para gerar mais renda ao custo de algoritmos racistas e discriminatórios, do meio ambiente e do trabalho mal pago.
Abeba Birhane
A professora do Trinity College Dublin, na Irlanda, participa nesta quinta-feira (7) do PrograMaria Summit, evento que promove ações para impulsionar a jornada de mulheres no mundo da tecnologia
A pesquisadora participou de uma conversa sobre gênero, raça e tecnologia com a professora Kizzy Terra. A live vai ao ar partir das 19h (veja aqui). Leia abaixo os principais trechos da conversa.
Quem pediu?
O maior truque que a indústria da IA aplicou é nos fazer acreditar que a tecnologia foi desenvolvida de bom coração para a sociedade. Na realidade, essa indústria está numa queda braço por dominância e influência. A indústria da IA se tornou rica, poderosa e influente devido a tecnologias que ninguém pediu. Temos que mudar essa mentalidade de que a IA foi generosamente dada pelas empresas para beneficiar as pessoas.
Temos que tratá-las como ferramentas do capitalismo que permitem às empresas ganharem mais dinheiro para gerar mais renda ao custo de algoritmos racistas e discriminatórios, do meio ambiente e do trabalho mal pago.
Isso nos permite pensar a indústria da IA como qualquer outra indústria, sejam farmacêuticas ou de mídia.
Na engenharia, se uma empreiteira constrói uma rua, ela é sujeita a testes de estresse antes de pedestres ou carros serem autorizados a passar por lá. Por que deveria ser diferente com a indústria de IA? Por que isentá-la de regulamentações, responsabilidade ou de demandas por mais transparência? Não vejo por que ela não deveria ser responsável pelas tecnologias que está produzindo.
Benefícios para poucos, danos para o resto
As pessoas dizem que a AI pode beneficiar a sociedade e ajudar a humanidade a avançar. Mas, quando você olha a distribuição de benefícios e danos, há uma disparidade massiva. A IA beneficia poucas pessoas, como CEOs, grandes corporações ou os desenvolvedores dos algoritmos.
Toda a IA comete erros. Mas, quando esses sistemas falham, boa parte do dano é descarregado desproporcionalmente nas pessoas que estão à margem da sociedade.
Os algoritmos de emprego discriminam com base em nomes, classe, gênero, sexualidade e assim por diante. Análises de como a OpenAI recomenda trabalhos com base em currículos mostram isso. O experimento considerou documentos com conteúdo igual e mudou só o nome dos candidatos, que variava para mulheres e homens e eram associados a pretos, latinos, afroamericanos e asiáticos. Trabalhos top como engenharia de software eram direcionados a homens brancos e asiáticos. Já empregos como os de cuidados domésticos eram enviados a mulheres latinas e negras.
Alunos usam IA sem saber como ela é feita
A IA generativa realmente revolucionou a educação, não necessariamente de forma positiva. Algumas instituições de ensino já criaram suas próprias políticas. Umas proíbem a IA, outras liberam o estudante para usar quando quiser. Mas falta uma coisa.
Na hora de ensinar, nós tendemos a pensar que há uma hierarquia: por terem mais poder, os professores dizem algo, e os alunos devem apenas fazer. Essa dinâmica tem que mudar. Precisamos treinar os alunos a serem adultos capazes de pensar criticamente. No caso das AI generativas, a avaliação é sobre se são boas ou não, se escrevem bem, se criam bons códigos ou se ajudam com a lição de casa. E isso só leva em conta o algoritmos em si.
Nós estamos perdendo a conversa de quão falhas e pouco confiáveis esses sistemas são. Os alunos que querem usá-los até sabem que esses sistemas alucinam, mas ainda assim produzem quantidades massivas de informação não confiável.
Também não estamos ensinando a enorme quantidade de energia para alimentar esses sistemas. Os sistemas generativos requerem 10 vezes mais energia que uma busca do Google. Essa energia gigantesca está amplificando a crise ambiental.
Outra coisa é que os dados, essenciais para qualquer sistema, são fornecidos sem consenso pelas comunidades criativas, acadêmicas ou mesmo por pessoas comuns. Além disso, esses dados são lapidados por trabalhadores explorados e mal pagos da América do Sul, África ou Índia.
Temos que ensinar sobre o ecossistema que sustenta a AI generativa, não apenas falar sobre os modelos. Assim, os alunos podem tomar decisões informadas sobre usar ou não esses sistemas.
Tecnologias da moda não servem pra nada
Em algumas tecnologias, como a clonagem de voz, os perigos excedem os benefícios. Eu só posso pensar em como ela vai ser usada para espalhar informações erradas, em atividades criminosas ou fraudes. Em resumo: para enganar pessoas. Só vai ser usada para imitar pessoas, celebridades ou políticos. Não há benefício nenhum.
Além disso, tecnologias que prometem prever motivações políticas, níveis de criminalidade ou estados cognitivos internos (da ansiedade à felicidade) e são baseadas em vídeos ou em expressões faciais são geralmente só pseudociências que se escondem atrás da bandeira da IA. Deveriam ser banidas.
Mudar o objetivo da IA
Mudar o objetivo da IA é uma das maneiras de garantir que ela beneficie a sociedade. Pense no sistema de justiça criminal. A AI é usada para policiar, investigar ou punir pessoas —e geralmente os alvos são aquelas que já são marginalizadas. Até o jeito que o crime é definido segue o status quo: tendemos a mirar os crimes de beira de estrada.
Mas, se você olhar os dados, vai ver que os maiores delitos são cometidos por grandes organizações, que roubam a renda de muitas pessoas. Poderíamos usar IA para identificar essas organizações e garantir que fossem responsabilizadas.
Ou, em vez de construir um algoritmo que preveja a probabilidade de alguém cometer um crime após sair da prisão, por que não fazer um sistema de IA que ajude ex-detentos a se inserirem na sociedade? Isso requer rejeitar ou repensar estruturas capitalistas.
Reportagem
Texto que relata acontecimentos, baseado em fatos e dados observados ou verificados diretamente pelo jornalista ou obtidos pelo acesso a fontes jornalísticas reconhecidas e confiáveis.
Deixe seu comentário
O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.