Busca por IA do Google é ruim, mesmo que seja boa

Esta matéria, originalmente publicada no site Pluralistic, foi traduzida em parceria com Cory Doctorow.

A grande novidade esta semana em relação aos mecanismos de busca é que o Google está dando seguimento à transição para a “busca por IA”: em vez de digitar os termos de busca e receber links para sites, fazemos uma pergunta, e a IA do Google redige uma resposta a partir do que encontrar na rede:

O Google divulga isso como “deixe o Google dar um Google para você”. Você não vai mais fazer uma busca na rede por conta própria, vai delegar essa tarefa ao Google. O que está escondido nessa propaganda é a admissão tácita de que o Google não é mais uma forma conveniente, nem confiável, de obter informações, soterrado por spam gerado por IA, anúncios mal orientados e lixo de SEO.

Dar um Google costumava ser fácil: digitar uma consulta e obter uma tela de resultados altamente relevantes. Atualmente, clicar nos primeiros links leva a sites que pagaram para estar na parte superior da tela (e não, aos sites que correspondem melhor à sua busca). Clicando mais para baixo, chegam fraudes, conteúdo inútil de IA, ou absurdos de SEO produzidos em massa.

A busca com uso de IA do Google promete resolver isso, mas não é melhorando os resultados, e sim, usando um bot para classificar os resultados da pesquisa, descartar os absurdos que o Google vai continuar a apresentar, e resumir os resultados de melhor qualidade.

Bem, existem muitas objeções óbvias a esse plano. Para começar, por que o Google não poderia simplesmente melhorar os resultados de pesquisa? Em vez de criar um grande modelo de linguagem com o único objetivo de classificar o lixo que o Google está sendo remunerado ou enganado para apresentar, por que não simplesmente parar de apresentar lixo? Sabemos que isso é possível, porque outros mecanismos de busca oferecem resultados muito bons pagando pelo acesso ao back-end do Google e filtrando os resultados.

Outra objeção óbvia: por que alguém escreveria na rede se o único objetivo de escrever seria alimentar um bot que vai resumir o que você escreveu sem encaminhar ninguém para a sua página? Seja você um editor comercial que espera ganhar dinheiro com publicidade ou assinaturas, ou, como eu, um editor de livre acesso que espera mudar a forma como as pessoas pensam, por que convidaria o Google a resumir o seu trabalho sem nunca mostrá-lo aos usuários da internet? Independente do quanto isso seja injusto, vamos pensar no quanto é improvável: se é assim que o Google vai funcionar no futuro, por que os editores não iriam simplesmente bloquear o rastreador do Google?

Uma terceira objeção óbvia: a IA é ruim. Não moralmente ruim (embora talvez moralmente, também), mas tecnicamente ruim. Ela “alucina” respostas absurdas, inclusive absurdos perigosos. É um mentiroso extremamente confiante que pode matar as pessoas.

O potencial da IA é alardeado com muito exagero, inclusive as alegações de que a IA do Google teria descoberto milhões de novos materiais úteis. Na realidade, o número de novos materiais úteis descobertos pelo Deepmind foi zero.

Isso se aplica a todas as demonstrações mais impressionantes da IA. Muitas vezes, a IA acaba se revelando como trabalhadores humanos mal remunerados em um call center distante, fingindo ser robôs.

Às vezes, o robô IA dançando no palco acaba sendo literalmente apenas uma pessoa vestida de robô, fingindo ser um robô.

As demonstrações de vídeo por IA que representariam “uma ameaça existencial ao cinema de Hollywood” se mostraram tão complicadas a ponto de serem praticamente inúteis (e muito inferiores às técnicas de produção já existentes).

Mas vamos aceitar o que o Google está dizendo. Vamos pressupor que:

a) ele não consegue corrigir a busca, apenas adicionar por cima dela uma camada de filtro IA de conteúdo inútil;

b) o resto do mundo continuará a permitir que o Google faça indexação de suas páginas, mesmo sem se beneficiar disso; e

c) a IA do Google em breve será consertada, e isso revelará que as mentiras sobre os recursos da IA eram apenas verdades prematuras que finalmente foram realizadas.

‘A busca por IA, mesmo uma excelente busca por IA, facilita demais que o Google nos engane, e o Google nunca para de nos enganar.’

Ainda assim, a busca por IA é má ideia. Porque além de todos os motivos óbvios pelos quais a busca por IA é uma ideia terrível, há um defeito sutil e incurável neste plano: a busca por IA do Google, mesmo uma excelente busca por IA, facilita demais que o Google nos engane, e o Google nunca para de nos enganar.

Lembre-se: a “merdificação”, ou decadência das plataformas, não resulta de pessoas piores no comando das empresas de tecnologia atualmente, em relação aos anos em que os serviços tecnológicos eram bons e úteis. A merdificação, na verdade, está vinculada ao colapso das restrições que impediam que essas mesmas pessoas piorassem seus serviços para aumentar as margens de lucro.

Essa empresas sempre tiveram a capacidade de extrair valor de seus clientes empresariais (como os editores de conteúdo) e dos usuários finais (como os autores das buscas). Isso faz parte do jogo: negócios digitais podem alterar sua “lógica de negócios” de um instante para o outro, e para cada usuário, o que permite que façam mudanças em resultados, preços e classificação. Chamo isso de “mexida“: girar os botões do back-end do sistema para garantir que a banca sempre ganhe.

O que mudou não foi o caráter das lideranças dessas empresas, nem sua capacidade de nos enganar. O que mudou foram as consequências da trapaça. Quando as empresas de tecnologia se fundiram até chegar ao monopólio, deixaram de ter medo de perder espaço para a concorrência.

A quota de mercado de 90% da busca do Google foi alcançada subornando todos que operam um serviço ou plataforma onde pode haver uma caixa de busca para conectar essa caixa ao Google. Gastar dezenas de bilhões de dólares anualmente para garantir que ninguém jamais encontre uma busca que não seja do Google é uma forma mais barata de preservar o negócio do que garantir que o Google seja o melhor mecanismo de busca.

A concorrência já foi uma ameaça para o Google: por muitos anos, o mantra da empresa era “a concorrência está a um clique de distância”. Hoje em dia, praticamente não existe concorrência.

E então o setor de vigilância se consolidou em um pequeno número de empresas. Duas delas dominam o setor da vigilância comercial: Google e Meta, e elas conspiram para manipular o mercado.

Essa consolidação inevitavelmente conduz à captura regulatória: livres da pressão competitiva, as empresas que dominam o setor podem convergir em uma mensagem única para os decisores políticos, e usar os lucros de seu monopólio para converter essa mensagem em políticas públicas.

É por isso que o Google não precisa se preocupar com a legislação sobre privacidade nos EUA. Eles conseguiram impedir a aprovação de uma legislação federal de proteção à privacidade do consumidor no país. A última vez que os EUA aprovaram uma lei federal de proteção à privacidade dos consumidores foi em 1988. É uma lei que impede os atendentes das videolocadoras de contarem aos jornais quais fitas VHS você teria alugado.

Na Europa, os imensos lucros do Google permitem que a empresa hasteie por conveniência uma bandeira irlandesa, aproveitando a tolerância da Irlanda com a evasão fiscal e as violações à legislação europeia de proteção à privacidade.

O Google não tem medo da concorrência, não tem medo da regulação, e também não tem medo de tecnologias rivais. Google e os outros integrantes do cartel das Big Tech ampliaram a proteção legal à propriedade intelectual para que possam impedir terceiros de fazer engenharia reversa, raspagem, ou hackeamento de seus serviços. O Google não precisa se preocupar com bloqueio de anúncios, bloqueio de rastreadores, ou raspadores que filtram seus lucrativos resultados de baixa qualidade.

O Google não tem medo da concorrência, não tem medo da regulação, não tem medo de tecnologias rivais, e não tem medo de seus funcionários. A força de trabalho do Google já teve enorme influência sobre a direção da empresa, em razão de sua escassez e poder de mercado. Mas o Google superou a dependência que tinha de seus funcionários, e os demitiu em grande número, mesmo aumentando seus lucros e despejando dezenas de bilhões de dólares em recompras de ações.

‘Piorar a qualidade da busca é bom para o Google.’

O Google não tem medo. Não tem medo de perder mercado, ser punido pelos órgãos reguladores, ou ficar atolado em conflitos de guerrilha com engenheiros rivais. Certamente não tem medo de seus funcionários.

Piorar a qualidade da busca é bom para o Google. Piorar a qualidade da busca aumenta o número de consultas, e portanto, de anúncios, que cada usuário precisa fazer para encontrar as respostas que procura.

Se o Google pode piorar as coisas para os autores das bucas sem perder mercado, pode ganhar mais dinheiro. Sem receber punições do mercado, dos órgãos reguladores, da tecnologia ou dos funcionários, nada impede o Google de transferir para si o valor dos autores das buscas e dos editores de conteúdo.

O que nos leva de volta à busca por IA. Quando o Google substitui os links para as páginas por resumos, cria incontáveis oportunidades para cobrar dos editores de conteúdo por um posicionamento preferencial nesses resumos.

Isso se aplica a qualquer feed algorítmico: embora esses feeds sejam importantes, ou até vitais, para dar sentido a enormes volumes de informações, eles também podem ser usados em um rápido truque de mãos que nos faz todos de otários.

Quando você confia em alguém para resumir a verdade, torna-se terrivelmente vulnerável às suas mentiras egoístas. Em um mundo ideal, esses intermediários seriam “fiduciários”, com um compromisso solene (e juridicamente exigível) de colocar seus interesses à frente dos deles.

Mas o Google deixa claro que seu primeiro compromisso é com os acionistas, não com os editores de conteúdo, nem com os autores de buscas, nem com os “parceiros” ou empregados.

A busca por IA facilita muito a trapaça, e o Google trapaceia muito. Na verdade, os defeitos da IA dão ao Google uma desculpa pronta para qualquer aparente negociação em benefício próprio: “não mentimos porque alguém nos pagou” (por exemplo, para recomendar um produto, um quarto de hotel ou uma opinião política). Claro, alguém de fato pagou, mas o que houve foi só uma “alucinação da IA”.

A existência de alucinações conhecidas da IA cria uma zona de negação plausível para ainda mais merdificação da busca do Google. Como escreve Madeleine Clare Elish, a IA serve como “zona de deformação moral.

E é por isso que, mesmo que estejamos dispostos a acreditar que o Google poderia criar uma excelente busca baseada em IA, podemos apesar disso ter certeza de que não irá.