ENTREVISTA: ‘Toleramos abusos dos nossos direitos numa escala massiva’, diz ativista contra big techs

O monopólio das big techs matou o poder de escolha do consumidor na internet, fazendo de nós usuários passivos que toleram a má qualidade das redes sociais – porque simplesmente não temos para onde ir. Essa é a conclusão da consultora e estrategista Tanya O’Carroll, que atua em temas ligados à responsabilização de empresas de tecnologia, direitos humanos e justiça social. 

À frente do movimento People Vs. Big Tech, O’Carroll propõe a imaginação de um futuro diferente para a internet que não seja dominado pelas empresas de tecnologia do Vale do Silício. E essa missão não cabe apenas à sociedade civil e especialistas do campo dos direitos digitais, mas envolve também políticos, governantes, profissionais da área de tecnologia e usuários.

Em conversa com o Intercept Brasil em São Paulo, O’Carroll também contou sobre o processo que está movendo contra a Meta no Reino Unido. Caso seja vitoriosa, a ação pode mudar a maneira como usamos as redes sociais. Com o julgamento marcado para março, O’Carroll está processando a empresa pelo direito de contestar o uso de seus dados para publicidade direcionada, ou seja, dirigida especificamente a um público, considerando características demográficas, como idade, localização, nível de renda, interesses de consumo etc. 

Na prática, sua ação desafia o que está no cerne do modelo de negócios da Meta e de outras plataformas: a coleta massiva de dados de usuários com a finalidade de vender os dados para anunciantes fazerem marketing micro-direcionado. O micro-direcionamento é um tipo de publicidade digital que usa dados pessoais online para direcionar conteúdo publicitário com base nos interesses específicos identificados na análise destes dados. 

Para ela, manter a discussão ao redor das dificuldades de moderação de conteúdo é conveniente para as plataformas e dá a elas quase que um passe livre para dizer que estão sempre tentando. Em vez disso, ela propõe ações que ataquem o modelo de negócios das empresas.

Mas para além de consertar as redes sociais que existem no mercado hoje, O’Carroll vê um futuro promissor em protocolos como o do Bluesky, que permitem interação com outras redes sociais e um maior poder de decisão dos usuários.

Leia a entrevista na íntegra:

Intercept Brasil – Você está processando o Facebook. Em que pé está esse processo? E a grande pergunta é: quão possível é para outras pessoas fazerem o mesmo?

Tanya O’Carroll – Pois é. É um processo em andamento que teve início em novembro de 2022, e o julgamento será em março de 2025, então está se aproximando. A ação essencialmente diz que o Facebook é a praça pública de algumas bilhões de pessoas no planeta – e que é ilegítimo que sejamos todos forçados a aceitar vigilância como condição para acessarmos essa praça global. A ação usa um dispositivo específico da Regulação Geral de Proteção de Dados do Reino Unido, mas também da legislação de proteção de dados europeia, que basicamente diz que todos temos o direito à contestação ao uso de nossos dados para nos atingir com marketing direcionado. 

E esse é o ponto interessante sobre esse caso. Historicamente, no mundo analógico, quando pensamos em marketing direcionado, pensamos em correspondências chegando pelo correio. Online, são pessoas, newsletters, posts, anúncios, é o spam. Mas claro, quando você pára para pensar, há cada vez mais  jurisprudência e políticas mostrando que estamos certos, que toda a publicidade online é marketing direcionado. 

‘Se ganharmos o direito de acessar as redes sociais sob nossos próprios termos, sem vigilância, é realmente uma mudança para a internet’.

Quando você se inscreve no Facebook, você está na verdade se inscrevendo em uma empresa de marketing direcionado. Eles pegam todos seus dados, sabem tudo sobre você e vendem o acesso ao seu perfil a anunciantes. Essa é a definição de marketing direcionado. Então, se estivermos certos, todas as pessoas que estão sob leis de proteção de dados [seja a lei europeia ou a do Brasil] terão esse direito à contestação, o que criaria um precedente para que todos possam acessar as redes sociais livres da vigilância. Isso não significa uma rede social sem publicidade. O Facebook ainda pode ter anúncios como modelo de negócio, mas os anúncios não seriam direcionados diretamente para mim com base no fato de que sou uma mulher, ou que eu li isso, que cliquei naquilo e todos os dados intrusivos que eles têm sobre nós. Então, é um caso bem importante e, se eu ganhar, poderia abrir um precedente. 

E você acha que ele pode ser replicado ao redor do mundo?

Eu acho que sim, onde houver proteção de dados, algo semelhante à  GDPR. Tenho muita curiosidade de saber se esse exato dispositivo está na lei brasileira. Há pessoas que estão apresentando queixas sob o mesmo dispositivo em alguns países na Europa. 

Para mim, é o calcanhar de Aquiles de toda a máquina [das empresas de redes sociais]: se ganharmos o direito de acessar as redes sociais sob nossos próprios termos, sem vigilância, é realmente uma mudança para a internet.

E o que isso significaria para nós enquanto usuários? O que seria diferente no Facebook? 

Nós estamos vivendo num momento muito interessante porque essa questão exige, basicamente, uma reimaginação de redes sociais. Há muito tempo, no melhor dos casos, estamos pedindo que as plataformas façam um pouco menos de merda conosco. Sejam um pouco menos merda. E claro, o Cory Doctorow é muito bom com o seu conceito de merdificação das big techs (enshittification, no original em inglês), mas nós estamos presos nas plataformas e elas só estão ficando mais e mais e mais merdas. Então, se eu ganhar este caso, teremos uma coisa muito simples: que todos possamos entrar nas redes sociais, usar nosso direito à contestação e experimentar uma versão de rede social onde os anúncios são menos intrusivos.

Isso remove essa atual discriminação em massa que ocorre em plataformas como o Facebook. Um estudo no Reino Unido mostrou que mulheres têm menos probabilidade de verem anúncios de emprego para engenharia e mais probabilidade de receberem anúncios para vagas como secretária. E isso vai contra a lei britânica de igualdade no trabalho. Mas, nesse tipo de anúncio, não era o anunciante que estava excluindo as mulheres; era o algoritmo decidindo para quem iria mostrá-lo. E é isso que todo esse ecossistema de anúncios faz. É algorítmico, é discriminação em massa em ação.

Então, acho que isso cairia. Fundamentalmente, isso desafia o modelo de negócio das empresas, entrando numa questão maior, sobre qual o futuro das redes sociais e como reformamos nossa praça pública.

Um grande foco no movimento que você está liderando, o People vs. Big Tech, é sobre usuários retomarem o controle, ou devolver ao usuário o controle de suas experiências nas plataformas. Isso passa por uma mudança nos modelos de negócios em que você não deixa mais que plataformas ditem o que as pessoas veem e como. Existe alguma iniciativa que você considere que teve sucesso nisso até agora? Tem algo que te deixa animada nesse contexto de devolver o controle ao usuário?

Logo depois da decisão da Suprema Corte aqui no Brasil [em suspender o X], você teve mais de um milhão de usuários migrando para o Bluesky. Essa ascensão meteórica do Bluesky – com um time de 17 pessoas, eles têm 12 milhões de usuários agora – é um sinal real da intervenção do mercado, de uma correção de curso no mercado, não é? O que temos no momento com as redes sociais é um fracasso do mercado. Quando você tem “merdificação”, em que o incentivo das plataformas não é mais de prover às pessoas um produto que elas queiram ou que seja seguro, é um produto ruim, uma merda para as pessoas, então o que você precisa é de política, de lei, regulação, proteção do consumidor e essas coisas. De verdade, você vê que há uma oportunidade de mercado. Há um vácuo em que as pessoas querem um serviço melhor. As pessoas ainda querem acessar a internet. As pessoas ainda querem redes sociais. Elas querem redes sociais melhores, certo? 

É aí que o Bluesky é animador, não só porque é um concorrente do Twitter, não só porque parece o Twitter mas sem o Elon Musk. O que é animador sobre ele é o protocolo. 

E como isso funciona? 

Assim como temos um protocolo para e-mail, que permite que eu usando Gmail consiga falar com você usando Hotmail, que permite que possamos todos nos comunicar, possamos trocar de provedores. Em vez de ter redes sociais no quintal de uma única empresa, nós teríamos uma arquitetura ou infraestrutura aberta na qual as pessoas podem construir em cima, onde as pessoas podem levar seus amigos e mudar seu grafo social [a estrutura das relações de uma conta ou perfil] de uma empresa para a outra. 

Se eles não gostarem do que o Bluesky, por exemplo, estiver fazendo, eles podem se mudar. E o Bluesky diz que construiu a empresa partindo do pressuposto de que eles mesmos são um adversário futuro. Aprendendo com Elon Musk, né? 

‘Se ganharmos o direito de acessar as redes sociais sob nossos próprios termos, sem vigilância, é realmente uma mudança para a internet’.

Admitindo a possibilidade de que as empresas mudam de mãos e que eventualmente… quando você para para pensar, é semelhante à democracia. Nós construímos instituições democráticas que sejam capazes de resistir a uma tomada autocrática, certo? É o que o Brasil viveu nos últimos anos. E o interessante é que agora as pessoas estejam pensando sobre as redes sociais da mesma maneira. 

Você as constrói usando arquitetura e design para que sejam resistentes a um déspota digital que chega e decide que amanhã eles vão mudar os algoritmos de ranqueamento e que agora estas determinadas pessoas têm liberdade de expressão e estas outras não.

O lado ruim do Bluesky é que eles são, de novo, um grupo de pessoas aleatórias ligadas à tecnologia no Vale do Silício. Quem são eles? Eu acho que eles têm intenções muito boas, mas o que eu estou interessada em ver agora é como os nossos políticos apoiam a jornada de uma rede social baseada em protocolos a partir de onde já está acontecendo, de como o mercado está fazendo. Como apoiamos isso para que seja uma visão para redes sociais como uma infraestrutura digital pública, que é possível. 

E qual é o papel que você vê para os governos?

Hipoteticamente, se pegarmos algo como o protocolo do Bluesky, ele pode ser governado por algo como o W3C. Ele pode ser governado globalmente, assim como o resto da internet, como os protocolos para e-mail, por exemplo. E a partir disso, há uma série de perguntas de governança que ainda não foram respondidas, mas que são possíveis de serem abordadas, onde nós temos uma infraestrutura digital realmente pública e, em cima disso, temos regulação e leis que apoiem, que garantam que num sistema descentralizado, nós teremos moderação de conteúdo descentralizada ou sistemas de recomendação descentralizados.

Você conhece esse conceito de pluralidade algorítmica? Está pegando fogo na França e na Europa. A ideia é, basicamente, que você não tem uma mídia. Você tem uma pluralidade de mídia, essa é a ideia de mídia em si. Então inicialmente, nós temos o algoritmo do Facebook, o algoritmo do TikTok… e esse único algoritmo de cada empresa está fazendo todos os tradeoffs entre engajamento, sobre o que é censura excessiva, sobre qual é o equilíbrio certo para discurso de ódio. A gente não deveria ter uma única versão desse algoritmo. Nós precisamos de um mercado de opções – você pode querer algo diferente se você se refere a sistemas de recomendação para menores de 18 anos, por exemplo. E eu posso escolher um algoritmo que me mostre visões de mundo diferentes da minha. Eu posso não estar interessada em ver o que pessoas como eu leem. E existiria um algoritmo para isso. 

LEIA TAMBÉM:

• Este pesquisador ‘seguiu o dinheiro’ das big tech para o jornalismo – e chegou a 424 veículos no Brasil
• O caso de amor entre Trump e as big techs
• Facebook Papers: as provas que faltavam para mostrar como a rede manipulou você

Esse conceito de pluralidade algorítmica encoraja isso, e as políticas públicas devem apoiar isso. Como fazemos isso de maneira que seja saudável, contribuindo para um debate público plural que seja menos predatório e viciante, menos focado em vigilância? Todas essas coisas são possíveis. 

Mas ao mesmo tempo, já deveríamos ter aprendido a lição a essa altura. Sempre haverá consequências não intencionais e não devemos seguir esse caminho assumindo que tudo seja uma utopia e que só porque as pessoas têm boas ideias, vai dar tudo certo. Quais serão as novas fazendas de bots russas? Quem serão as pessoas que vão chegar e assumir o controle desse novo espaço? Quais são as estruturas de poder ali? É nesse sentido que não podemos esperar que o poder público acorde 15 anos depois de o mercado ter feito algo. Precisamos de políticos e do poder público pensando agora sobre como criar apoios para que esse ecossistema surja, sobre o que ele precisa fazer e quais as proteções que as pessoas precisam. 

Falando sobre o People vs. Big Tech. Existem muitas coisas para serem consertadas na internet. No manifesto do movimento, vocês se concentram em três grandes áreas. Por que focar nestas áreas?

Isso partiu da compreensão de que a conversa que plataformas de tecnologia querem ter há mais de 15 anos é a de moderação de conteúdo. Mas falar em moderação de conteúdo é muito conveniente para elas porque é complicado. O que deve e o que não deve permanecer online varia de país a país, dependendo das leis locais. Então isso coloca essas plataformas num lugar onde elas podem dizer ‘ah, é complicado, é caso a caso, estamos fazendo nosso melhor, mas você não consegue imaginar o quão difícil é’. 

E aí acabamos com abordagens que parecem com o jogo da toupeira em fliperama, que consiste em tirar do ar pequenos pedaços de conteúdo que aparecerão em outro lugar amanhã. O que eu penso muito sobre, e vejo que muita gente pensa, é: como movemos a discussão política para longe da moderação de conteúdo – que pode dar muito errado porque você acaba criminalizando conteúdo que você não tinha a intenção de criminalizar – e em direção ao modelo de negócios? 

Porque liberdade de expressão não é o mesmo que liberdade de alcance. É aí que o algoritmo desempenha um papel importante ao amplificar conteúdo para milhões de pessoas. Um conteúdo maluco que não seja ilegal mas que é profundamente danoso, pode ainda ser um discurso protegido, mas o que nós queremos é que ele pare de alcançar milhões de pessoas, que ele pare de ser ativamente promovido.

‘Pare com lucro sobre vigilância’ e ‘arrume nossos feeds’ são pontos que focam no modelo de negócio.’

Pesquisas internas da Meta mostraram que 64% das pessoas que entraram em grupos extremistas no Facebook o fizeram porque o próprio algoritmo de recomendação da Meta estava mandando essas pessoas para lá. E essa é a grande coisa que estamos tentando fazer, é o que precisamos abordar em vez de conteúdo.

Então, ‘pare com lucro sobre vigilância’ e ‘arrume nossos feeds’ são pontos que focam no modelo de negócio. É a receita de publicidade que impulsiona o engajamento e o fato de que os sistemas de recomendação são otimizados para o engajamento.  Na nossa visão, se não começarmos por aí, não atacaremos o problema real. Ficaríamos nesse jogo da toupeira com conteúdo.

E de alguma maneira isso é mais “consertável”, certo? Porque envolve ajustes técnicos em vez de concordar sobre quais conteúdos ficam e quais saem.

Exatamente, e nos ajuda a deixar de lado esse debate muito difícil que será diferente na Tanzânia, nos EUA, no Reino Unido. E a terceira parte da nossa estratégia reconhece que não é suficiente fazer com que as plataformas se comportem um pouco melhor. Queremos consertar o modelo de negócio que achamos que está quebrado, mas também vemos que muito do problema vem da dominância de mercado dessas plataformas. Elas têm o ‘lock-in’ dos usuários [uma estratégia que, de um jeito ou de outro, prende os usuários naquela plataforma] . Não dá para separar os abusos que as pessoas sofrem do fato de que elas não têm para onde ir, e portanto, os toleram. Como é o único serviço que temos, toleramos abusos dos nossos direitos numa escala massiva. E de novo: isso é um fracasso do mercado que tem a ver com essa concentração de poder por parte de um punhado de empresas.

Já o terceiro ponto, que chamamos de ‘abram as big techs’ é sobre como atacar o poder estrutural. E isso passa, sim, por soluções para rompê-las à força em alguns casos. O caso do Google AdTech que está no Departamento de Justiça dos EUA agora é um exemplo ótimo disso. Não é só sobre pró-competição e sobre ter um mercado de anúncios melhor para concorrentes. É sobre desafiar o inerente conflito de interesse no fato de termos uma das empresas mais poderosas do planeta detendo toda a infraestrutura, todos os produtos e toda a cadeia de publicidade – desde os compradores, aos vendedores, até o mercado de anúncios. É absurdo que estejamos nessa situação. 

E aí voltamos à descentralização, onde interoperabilidade, portabilidade de dados, esses princípios permitem que pessoas migrem todos seus amigos e todo seu histórico de redes sociais a um produto que as protege e mudem o algoritmo para algo que as sirva melhor. Precisamos trazer de volta o poder de escolha do consumidor à internet. Porque no momento, o monopólio que as plataformas têm matou a escolha do consumidor. 

Somos usuários passivos.

Sim, somos passivos e aceitamos e toleramos isso. Porque virou um pacto faustiano: ou temos o acesso ao mundo moderno ou é como viver na era das trevas, mas essa não é uma escolha justa. Nós queremos o mundo moderno, queremos a real promessa das redes sociais. Descobertas, alegria, criatividade, inovação, todas essas coisas. No momento, a dominância de mercado desses players está sufocando tudo isso.

Voltando ao caso X no Brasil, queria saber como você enxerga essa tentativa de equilibrar, de um lado, a tentativa de impor limites a esse cara que acha que não tem que seguir a lei de nenhum país versus o impacto potencial à toda a população brasileira. 

Eu não conheço o caso suficientemente para dizer se foi a decisão certa ou não, mas o que posso dizer, à distância, é que governos têm um largo histórico de testar limites quando se trata de expressão online. E isso é muito triste para nós porque dá às plataformas essa alavancagem para que elas digam que tudo é censura. O que temos tentado fazer na Europa é rejeitar isso fortemente e defender um modelo no qual temos que conseguir olhar para o nosso Judiciário, para o aparato regulatório e fiscalizador do estado, porque esse espaço, o ciberespaço como o chamávamos há 20 anos, não é um espaço soberano e independente. Ele está, na verdade, sujeito a leis, valores e normas democráticas. Então,essas plataformas devem estar subscritas à lei, e nós precisamos conseguir confiar no nosso Judiciário.

Mas em alguns países, podemos confiar no Judiciário? Isso é contestado. De alguma maneira, isso sempre será contestado porque tudo que envolve liberdade de expressão é sempre contestado. 

Não sei se nesse caso específico foi a decisão certa, mas eu prevejo que veremos mais respostas duras de juízes porque essas empresas de tecnologia têm ignorado brutalmente nossas democracias sem nenhuma responsabilização.

Vimos isso na França com a prisão do Pavel Durov, fundador do Telegram [Ele foi detido por autoridades francesas em agosto de 2024 acusado de não tomar medidas suficientes para impedir o uso criminoso do Telegram].Exatamente. E o fato de que esses dois casos aconteceram num curto período de tempo é realmente um sinal de que as democracias estão cansadas de serem legais e pedir gentilmente que esses mestres supremos do mundo digital levem nossos direitos e leis a sério. Então acho que veremos mais disso e esse é o caminho certo. Eles acertarão sempre? Eles passarão dos limites? Precisamos ser vigilantes? Claro.