Difícil pensar em crise para quem continua crescendo e lucrando na casa dos bilhões, mas em 2021 o escrutínio sobre o Facebook e Mark Zuckerberg foi sem precedentes.

Primeiro, um apagão em outubro deixou as três principais marcas de sua empresa (Instagram, WhatsApp e Facebook) fora do ar por horas, expôs nossa dependência do conglomerado e fez muita gente repensar sua relação com os apps.

Em novembro, vieram os chamados Facebook Papers, milhares de documentos internos vazados pela ex-funcionária Frances Haugen, que mostraram que o grupo sabe que o Instagram, usado por 2 bilhões de pessoas no mundo, faz mal para a saúde mental de jovens garotas. Além disso, o conglomerado tem conhecimento de que o Facebook facilita ações criminosas de cartéis, de grupos de tráfico humano e toma decisões moralmente questionáveis, como fazer vista grossa para governos autoritários e certas personalidades.

Conhecer mais de perto as entranhas do gigante pode nos levar a outros capítulos. Muitos desconfiam da guinada iniciada com a Meta, novo nome do grupo, mas está em curso um movimento global para estabelecer regras claras.

Este é um debate que corre há tempos, mas que ganhou força depois que Haugen, especialista em produtos algorítmicos e ex-gerente de integridade cívica do Facebook, defendeu, perante o Congresso dos EUA, que os desenvolvedores precisam direcionar os códigos para evitar que sejam viciantes e perigosos — e enquanto isso não acontecer por vontade das empresas, que seja feito por pressão de agências reguladoras, segundo os entrevistados ouvidos pela reportagem.

"Uma mídia social mais segura, com liberdade de expressão e mais agradável é possível. O que espero que todos tirem dessas divulgações é que o Facebook pode mudar, mas claramente não o fará por conta própria", disse Haugen.

"Quando percebemos que a indústria do tabaco estava escondendo o mal que fazia, o governo tomou uma atitude. Quando percebemos que carros eram mais seguros com cinto, o governo tomou uma atitude. Quando o nosso governo aprendeu que os opioides estavam tirando vidas, tomou uma atitude. Eu imploro que agora façamos a mesma coisa", pediu.

Procurada por Tilt, a Meta não quis indicar ninguém para entrevista, mas publicamente já declarou que concorda com a regulação e que "é hora de começar a criar normas padrão para a internet".

"É sempre melhor deixar para os líderes eleitos o desenhar essas linhas sociais. E é por isso que passamos muitos anos defendendo que o Congresso aprovasse regulamentos atualizados", disse Dani Lever, gerente de comunicação da companhia, à mídia americana.

Terminamos o ano com um novo problema na mesa: como fazer essa regulação.

As revelações sobre bastidores da maior rede social do mundo em 2021 expuseram uma urgência que vai além de Facebook, Instagram e WhatsApp: os algoritmos ditam o que vamos ler, ver, ouvir, comprar. Eles são mal compreendidos pelos próprios funcionários das empresas —o termo "caixa preta" foi usado para falar da falta de transparência do Facebook, por exemplo. E os limites para contê-los são extremamente sensíveis.

"As redes sociais reorganizam toda a nossa vida e impactam na política. Não é muito claro como fazem isso, mas estão consolidando identidades sociais", afirma Pablo Ortellado, professor de políticas públicas na USP (Universidade de São Paulo). "Falta um modelo de regulação regulada [conceito do direito]: o Estado dá as diretrizes e pune as empresas se elas não implementarem as regras."

A regulação é necessária, porque mergulhamos em um sistema tão elaborado de influência e persuasão movido a tecnologia que dificilmente ações individuais vão resolver.

É o que Shoshana Zuboff, professora emérita da Universidade de Harvard, chama de "capitalismo da vigilância". As empresas de tecnologia, defende ela, se apropriaram da vigilância pregada por George Orwell em "1984". Usam a experiência humana para gerar dados, influenciar comportamentos e vender informações. O controle social deixa de vir do Estado e passa a ser um modelo de negócio.

Lembra do que Sundar Pichai disse quando foi sabatinado no Congresso dos EUA em 2018? O Google monitora tudo o que você vê, clica e por onde anda, porque você deixa. "Para todos os serviços que oferecemos, damos transparência e oportunidades de escolha e controle", falou o CEO. A afirmação não convenceu os congressistas, que questionaram se o executivo realmente acreditava que os usuários tinham conhecimento destas questões, já que a maioria não lê os termos de uso das redes sociais, seja pela linguagem técnica demais ou por serem documentos muito longos. Na hora, Pichai desconversou.

Para Zuboff, o Google é a Ford do capitalismo de vigilância. Ou seja, símbolo de um modelo de produção industrial que gigante das buscas inaugurou ao digitalizar nossos dados e achar um jeito de ganhar muito dinheiro com algoritmos alimentados por eles. Ele é o ponto de partida de uma poderosa forma de capitalismo, diz a escritora em "A Era do Capitalismo de Vigilância".

Não é que somos o produto de um serviço grátis. Zuboff nos vê como fornecedores de matéria-prima (dados da nossa navegação) para o produto (a previsão do nosso comportamento) vendido para anunciantes que querem influenciar nossas escolhas.

"É tecnologia por acidente", resume James Williams, pesquisador de ética tecnológica avançada da Universidade de Oxford e autor do livro "Liberdade e Resistência na Economia da Atenção". "O que está sendo vendido é a publicidade, a capacidade de capturar e redirecionar a nossa atenção."

Depois de trabalhar uma década no Google, ele aprendeu os meandros da lógica de mercado das big techs. Ficou tão impressionado, que passou a estudar como elas podem moldar nosso futuro. Virou especialista em autonomia e bem-estar humano e hoje dedica-se a ensinar "como evitar que as tecnologias digitais nos distraiam dos nossos verdadeiros propósitos", tema do seu livro.

Em entrevista exclusiva a Tilt, Williams explicou que a regulação serve para garantir, no mínimo, que os indivíduos tomem decisões sem que os algoritmos interfiram em seus verdadeiros desejos. "As plataformas são a forma mais poderosa e centralizada de influência na história da humanidade", afirmou.

Além disso, como ficou claro durante o "apagão do Facebook", se hoje somos dependentes até economicamente desses serviços, precisamos ser protegidos de falhas. "O impacto quando elas caem é como falta de água ou de energia elétrica em uma casa", ressalta. As ferramentas passam a ser comparáveis a serviços básicos que precisa ser garantidos pelo Estado.

Se estamos falando de máquinas de persuasão, a primeira coisa a saber é o quanto ela é persuasiva para escolher o que queremos da regulamentação, diz Williams. "O que nós queremos que façam por nós? Perdemos muito tempo com coisas pequenas nesse debate, nos perguntando se certa pessoa deve ser banida ou não, se uma postagem deve ser derrubada ou não. Nós sabemos que a publicidade é o grande propósito dessas empresas e a plataforma está ali para agir sobre nós, não para informar ou comunicar."

E se o jogo de influência não fica apenas no campo da publicidade, as empresas precisam ser cobradas pelos efeitos que causam no andamento da sociedade.

Assim como uma empresa que derrama óleo no mar deve limpar a sujeira e ser responsabilizada, as redes sociais também precisam reparar os danos que causaram. "Essas empresas certamente devem muito a vários países e pessoas, e devem pagar pelos danos e pelos males que seus produtos causaram", acredita Safyia Noble, professora associada da UCLA (Universidade da Califórnia e Los Angeles, nos EUA) e autora do livro "Algoritmos da Opressão", em entrevista a Tilt.

Não faltam exemplos de como as redes sociais já foram usadas para incitar linchamentos, ecoar vídeos extremistas, atrapalhar o combate à pandemia e ameaçar a democracia. Elas mudam a maneira como criamos relações afetivas e podem direcionar ideias, decisões e atitudes. "Viram espaços da chamada esfera pública, onde se formam as opiniões que interferem no estabelecimento das maiorias", lembra Sérgio Amadeu da Silveira, sociólogo e professor da UFABC (Universidade Federal do ABC).

Nesse sentido, há quem defenda que as redes sociais devem seguir as regras da democracia e ser monitoradas. Mas por quem?

A regulação, segundo os especialistas consultados por Tilt, serve para estabelecer as diretrizes que forçam as redes sociais a funcionar a favor dos internautas, não contra eles, e traz a responsabilidade também para os governos e a sociedade. Muitas propostas esbarram no medo de eliminar conteúdos demais numa tentativa de evitar visões extremistas. O limite é sempre tênue, mas alguns caminhos são discutidos:

Na prática, a mudança é um desafio. Nenhum país conseguiu estabelecer essa regulação sem cair na censura. Em parte, defendem os críticos, isso acontece porque governos e sociedade não têm informações suficientes sobre o que está causando os problemas.