Há 10 anos, Safiya Noble, uma mulher negra norte-americana, procurou no Google o termo "garotas negras". Seu objetivo era encontrar dicas para pensar atividades que pudessem entreter suas sobrinhas pré-adolescentes. Os resultados, no entanto, a chocaram: só conteúdos de pornografia.

Foi ali que Noble decidiu mergulhar na mecânica por trás dos resultados de busca no Google. Em uma década estudando e acompanhando o desenvolvimento tecnológico, ela percebeu que o mesmo padrão de racismo e se repete em outras plataformas, como Facebook e Instagram.

O resultado de seus anos de investigação está no livro "Algoritmos da Opressão", publicado no Brasil em 2021. Noble destrincha outras questões sobre opressões dentro das ferramentas e tecnologias que vão além dos algoritmos.

Por videochamada, a pesquisadora concedeu uma entrevista exclusiva para a reportagem de Tilt. Confira a seguir.

Tilt: Existe neutralidade no desenvolvimento de algoritmos?

Safiya Noble: Muita gente acha que os resultados de busca são neutros, que eles são um reflexo do que é mais popular naquela comunidade ou na nossa sociedade. Mas eu comecei a observar as identidades de garotas de cor [nota da edição: ela usou a expressão "girls of color"], ou seja, garotas negras, latinas, asiáticas, e tentar entender por que os resultados para esses termos eram pornográficos ou uma representação sexualmente explícita.

Quando comecei esse trabalho, as pessoas me diziam que os algoritmos por trás de ferramentas de buscas eram apenas matemáticos e a matemática não pode ser racista ou sexista. Bom, passaram-se 10 anos e hoje nós sabemos que os algoritmos e a inteligência artificial podem ser programados de formas terrivelmente racistas, predatórias, degradantes, sexistas e misóginas.

Tilt: O quanto a tecnologia e os algoritmos já prejudicaram as minorias?

SN: É muito perigoso deturpar a representação das pessoas de forma racista, homofóbica, islamofóbica, porque as narrativas que circulam são desumanizadoras. Quando há desumanização dessas pessoas, elas ficam mais suscetíveis a violência e a políticas públicas ruins. Por isso é tão importante entender o papel que essas plataformas ocupam na nossa sociedade.

Mas não devemos pensar apenas em plataformas específicas, porque sabemos que empresas como Google e Facebook estão engajadas em práticas lucrativas em cima de conteúdo degradante e prejudicial a minorias. Sabemos porque isso é pauta todos os dias. Mas esquecemos que elas estão criando legados, consequências de longo prazo, de décadas, séculos de ideias racistas e sexistas contra pessoas vulneráveis no mundo.

Há um efeito cumulativo porque essas ideias são construídas a partir de sistemas muito perigosos. Temos muito trabalho a fazer quando pensamos em como vamos reparar e remediar esses efeitos sobre as pessoas que foram vítimas dessas tecnologias.

Tilt: Você fala muito sobre a representação de meninas nos resultados de buscas e plataformas. Como os pais podem proteger as crianças? Colocar limites no uso de plataformas ajuda?

SN: Os pais estão fazendo o melhor que podem. Temos que lembrar que as empresas donas de plataformas se tornaram tão poderosas no mundo todo a ponto de estarem envolvidas na crise da democracia e na ascensão de governos de extrema direita. Elas estão envolvidas na propagação do fascismo e da desinformação. Não há dúvidas de que empresas como o Google e seus produtos, como o YouTube, têm um papel na radicalização das pessoas. E isso é assustador.

As pessoas estão preocupadas com seus filhos e consigo mesmas, sentindo uma perda de controle sobre o que está acontecendo. Podemos conscientizar nossas crianças sobre isso, mas precisamos lutar por melhores escolas, universidades públicas, saúde pública, imprensa pública.

Essas empresas de tecnologia fizeram muito para tirar dinheiro de todas as instituições públicas de que as sociedades precisam para terem democracias saudáveis e alcançar objetivos de direitos humanos e civis. Elas não pagam impostos e se tornaram substitutas das escolas e de outras instituições importantes. Precisamos trabalhar muito nessas frentes, lutar para proteger nossas instituições, que não são perfeitas, mas são nossas, pertencem ao povo, e podem ser repensadas de maneiras que as grandes empresas de tecnologia não fariam.

Tilt: Por que essas grandes empresas lucram com opressões?

SN: O racismo e o sexismo são grandes negócios no mundo todo. Nos Estados Unidos, o país inteiro foi construído nas costas de pessoas africanas escravizadas e sobre terras ocupadas, então o "império americano", por assim dizer, só existe por causa de trabalho gratuito ou barato e terras roubadas. Essa é a alma de vários negócios pelo mundo.

A indústria de tecnologia diz estar fora desse tipo de prática, mas, se você olhar a cadeia de suprimentos globais desse setor, vemos que elas dependem de indústrias baratas de extrativismo de minerais que são exportados do Congo, por exemplo. E elas também manufaturam seus produtos em lugares que têm pouca ou nenhuma legislação trabalhista.

A indústria de tecnologia cria produtos viciantes para as pessoas se tornarem hiper consumidoras e depois descartam-nos em partes do mundo que não conseguem lidar com esse desperdício. Estamos falando de uma cadeia produtiva que vai muito além de algoritmos e inteligência artificial. É sobre uma economia inteira do setor de tecnologia.

Tilt: Alguns autores consideram essas empresas como sendo de publicidade e não de tecnologia. O que você acha sobre essa ideia?

SN: Acho que elas de fato produzem tecnologia. Um tipo de tecnologia que molda nosso comportamento, modifica nossas ações e consegue ser muito precisa na compreensão dos consumidores de forma política, econômica e, às vezes, social. O que os anunciantes querem é que as pessoas vejam seus anúncios e essas empresas ajudam a chamar atenção dos consumidores e direcionar produtos e serviços.

Mas agora os anúncios estão ficando tão específicos sobre os nossos hábitos, o lugar onde a gente mora, as coisas que a gente faz. Eles tentam entender a psicologia por trás das pessoas, para direcionar os produtos e serviços. Esse é o modelo que essas empresas aplicam, todas elas, mas é um modelo muito invasivo e muito manipulador.

Tilt: É eficaz pedir para as pessoas não usarem as ferramentas do Google ou do Facebook, por exemplo?

SN: Muitas dessas ferramentas já estão embrenhadas em outros sistemas. Por exemplo, eu sou professora e a instituição onde eu trabalho tem toda sua infraestrutura tecnológica apoiada no Google. Então eu não tenho escolha. Eu preciso usar esses produtos do Google para fazer o meu trabalho. Pedir para as pessoas individualmente pararem de usar pode ser quase impossível, é pedir muito. Então, não culpe as pessoas que usam. Para algumas pessoas no mundo, a única experiência de internet que elas têm é no Facebook.

Uma saída melhor do que deletar as redes sociais ou parar de usar esses produtos é pressionar as nossas instituições para parar de integrar essas ferramentas à nossa rotina de trabalho. Não deveríamos ter um monopólio, uma única empresa que domina as redes sociais ou as ferramentas de busca. No meu trabalho, digo que deveríamos ter centenas de buscadores especializados em diferentes áreas.

Antes da internet existir, milhares e milhares de anos atrás, já havia gente que trabalhava para preservar o conhecimento e tornar as informações acessíveis para o mundo. Existem sistemas eficientes que não são impulsionados pelo lucro e nós devemos impulsionar essas iniciativas para não ficarmos dependentes das ferramentas das Big Techs.

Tilt: Recentemente, o Facebook foi investigado pelo Wall Street Journal e está na mira do Congresso dos EUA. Como está o clima em torno das investigações aí nos EUA?

SN: Eles [o Facebook] certamente devem muito a muita gente e a muitos países e deveriam pagar pelos danos que seus produtos causaram. Quando empresas petrolíferas derramam petróleo no mar, elas têm que limpar e lidar com o dano ambiental causado. A mesma coisa deveria acontecer nesse caso.

[Nos EUA] existem órgãos reguladores que protegem os consumidores de algoritmos predatórios e preditivos que causam preços diferenciados entre as pessoas. Essa é outra questão desse modelo de publicidade de vigilância dessas empresas. Definitivamente deveríamos tornar a publicidade de vigilância ilegal. É uma prática discriminatória.

Temos evidência suficiente hoje de como essas empresas facilitaram o crescimento do autoritarismo e dificultaram o desenvolvimento de uma democracia multirracial. Se olharmos essas evidências, veremos que temos mais dados e mais tecnologia do que nunca na história, mas também temos mais opressões e injustiças civis, econômicas e políticas que vêm no pacote.

Tilt: O debate sobre a regulamentação das redes sociais também tem crescido aqui no Brasil. Quais semelhanças você vê entre os nossos países?

SN: O que temos em comum no Brasil e nos EUA é o uso manipulativo do Facebook e do WhatsApp. Precisamos nos perguntar o quanto essas tecnologias facilitaram a propagação de discursos de ódio contra minorias a ponto de colocar a vida dessas pessoas em risco. Em muitas partes do mundo, na verdade, precisaremos reimaginar o papel imenso que essas empresas têm na política local e na economia.

Tilt: Houve um tempo em que a vida online e a vida offline eram coisas separadas. Ainda existe esse limite ou isso se perdeu? Como a pandemia afetou esse limite?

SN: A ideia de que a internet é efêmera e um lugar que não o aqui e agora, fora da nossa realidade material, é puramente falsa. A pandemia realmente exacerbou condições que já existiam no mundo: muita gente já não tinha acesso a saúde, moradia, emprego para sustentar a si mesmo e à família.

Ao mesmo tempo, vimos que um dos setores que mais lucrou durante a pandemia foi o de tecnologia. Não apenas lucraram como continuaram sem pagar impostos e, quando você não paga impostos para sistemas que sustentam milhões de pessoas, eles ficam ainda mais frágeis.

Então, o que me pareceu mais exploratório foi como as empresas de tecnologia foram capazes de correr com outras soluções de serviços e produtos quando a única solução de que nós precisávamos era a disseminação em massa de informações científicas de qualidade, para que as pessoas fossem se vacinar o mais rápido possível para salvar suas vidas e de suas famílias e comunidades. Precisávamos de recursos para profissionais de saúde, para professores, para famílias que perderam absolutamente tudo. E tudo isso foi esquecido pelo setor de tecnologia, que apenas disse: 'por que não vendemos um software para os professores?'

Temos muito a aprender com a pandemia e não acho que essa será a primeira crise que nos mostra como somos vulneráveis, como nossos recursos são escassos e como eles estão concentrados em uma pequena parte da população, nos bilionários e em empresas que não prestam serviços públicos. Precisamos investir tempo, dinheiro e recursos nas mãos das pessoas que foram mais prejudicadas, porque essas serão as pessoas que nos ajudarão a imaginar um jeito diferente e melhor de seguir em frente.