Após mais uma semana de crise social nos Estados Unidos, empresas americanas alinham-se à retórica dos protestos. Assim como as gigantes Facebook, Apple e Google, a Amazon tuitou de forma vaga em prol de justiça social e policial. Uma demonstração tímida e previsível de solidariedade corporativa na “luta contra a injustiça e o racismo sistêmicos”. Mas a Amazon se diferencia da concorrência por sua determinação em municiar as polícias com ferramentas que, segundo estudos, contribuem para uma atuação racista.
No afã de demonstrar simpatia por noções difusas de justiça social, de forma coordenada com os departamentos jurídico, de relações públicas e de redes sociais, algumas empresas parecem esquecer o que de fato fazem. Quando a Nextdoor – uma rede social que alimenta os piores tipos de pânico racial – tuíta “VIDAS NEGRAS IMPORTAM”, é difícil levá-la a sério. Mas enquanto a Nextdoor se contenta em racionalizar e otimizar a paranoia dos moradores urbanos em uma linha do tempo gerada por algoritmos, uma grande parcela dos negócios da Amazon – como apontou Sidney Fussell, da Wired – expande sua cruzada “anticrime” de vigilância pública e privada.
“A vigilância é uma questão de justiça racial. Elas não estão separadas.”
Em 2018, a União Americana pelas Liberdades Civis (ACLU) divulgou um relatório mostrando que o software de reconhecimento facial Rekognition, da Amazon, apresentava resultados de viés racista. Segundo o estudo, o programa identificava congressistas negros, de forma equivocada e desproporcional, como pessoas que tinham sido presas e fichadas pela polícia. “As correspondências falsas eram desproporcionais entre as pessoas não brancas, incluindo seis membros da bancada negra do Congresso – entre os quais o deputado democrata John Lewis, uma lenda dos direitos civis.” Outra pesquisa do mesmo ano, publicada pelo MIT, demonstrou que o Rekognition classificava mulheres de pele mais escura como homens em 31% dos casos.
O estudo da ACLU afirmava ainda que “pessoas não brancas já são desproporcionalmente agredidas pela polícia, e é fácil ver como o Rekognition poderia exacerbar essas práticas”. Pesquisas como essas evidenciaram que as falhas da identificação computadorizada não são apenas um equívoco acadêmico, e sim erros de potencial devastador, que poderiam influenciar a atuação da polícia – ou a demanda por mandados de busca, por exemplo – a partir de históricos criminais falsos.
É difícil reconciliar essa realidade com um tuíte recente de Andy Jassy, executivo da Amazon que atua na empresa como chefe de Serviços Web – departamento que opera o Rekognition:
*What* will it take for us to refuse to accept these unjust killings of black people? How many people must die, how many generations must endure, how much eyewitness video is required? What else do we need? We need better than what we're getting from courts and political leaders.
— Andy Jassy (@ajassy) May 30, 2020
*O que* será necessário para não aceitarmos mais esses assassinatos injustos de pessoas negras? Quantas pessoas precisam morrer, quantas gerações precisam sofrer, quantos vídeos de testemunhas oculares são necessários? O que mais precisamos? Precisamos de algo melhor do que aquilo que recebemos dos tribunais e das lideranças políticas.
Como apontou Fussell, da Wired, Jassy já defendeu o uso do Rekognition pela polícia com base nos “termos de serviço” da empresa, que teriam resguardo constitucional para evitar qualquer abuso.
A declaração da Amazon foi igualmente tímida:
“A desigualdade e o tratamento brutal de pessoas negras em nosso país deve acabar.
Estamos unidos em solidariedade à comunidade negra – nossos empregados, clientes e parceiros – na luta contra a injustiça e o racismo sistêmicos.”
O que exatamente quer dizer uma empresa se opor à discriminação policial de afro-americanos ao mesmo tempo em que vende ferramentas discriminatórias à polícia – ou enquanto opera a Ring, uma rede de vigilância baseada na detecção e eliminação de “atividades suspeitas”, racialmente codificadas, que envia vídeos diretamente à polícia local? A Ring já distribuiu a seus empregados um adesivo com a imagem de um distintivo policial azul e preto, patrocinado pela empresa, onde se lia a frase “FODA-SE O CRIME”.
Em nota enviada ao Intercept, o advogado Jacob Snow, responsável pela área de tecnologia da ACLU, disse que “se a Amazon e Andy Jassy são mesmo solidários em relação à comunidade negra, deveriam parar de vender tecnologia de reconhecimento facial que estimula abusos policiais contra a comunidade negra. Também deveriam parar de despedir trabalhadores que se mobilizam em defesa de melhores condições nos centros de distribuição da Amazon. A solidariedade real vai além de posts vazios em redes sociais, os quais não protegem de forma alguma as pessoas negras”.
A advogada e pesquisadora de privacidade Liz O’Sullivan, que no ano passado, por questões éticas, se demitiu da Clarifai – empresa que desenvolve tecnologias de vigilância que utilizam inteligência artificial –, disse ao Intercept que os serviços oferecidos pela Amazon às polícias dos Estados Unidos “permitem que os policiais monitorem e reprimam quem protesta e se manifesta contra a injustiça racial” com o uso de tecnologias de reconhecimento facial. “A vigilância é uma questão de justiça racial”, acrescentou O’Sullivan. “Elas não estão separadas.”
Perguntei mais de uma vez à Amazon e a Jassy se eles permitiriam o uso do Rekognition na identificação de indivíduos que protestam contra a violência policial e se a empresa reavaliaria ou modificaria as formas como a polícia usa o programa, mas não obtive resposta. Tendo em vista que a Amazon não revela nem quais órgãos policiais usam o software, não surpreende que a empresa não esclareça como o Rekognition é ou não empregado. Uma coisa é aproveitar um sistema injusto para lucrar de forma silenciosa, outra bem diferente é denunciá-lo e vender um software que o opera.
Tradução: Ricardo Romanoff
🚨 O QUE ENFRENTAMOS AGORA 🚨
O Intercept está vigiando manobras eleitorais inéditas da extrema direita brasileira.
Os golpistas estão de cara nova, com seus ternos e sapatênis. Eles aprenderam estratégias sofisticadas de marketing digital para dominar a internet, que estão testando agora nas eleições municipais.
O objetivo final? Dominar bases de poder locais para tomar a presidência e o congresso em 2026.
Não se deixe enganar: Bolsonaro era fichinha perto dos fascistas de sapatênis…
O Intercept não pode poupar esforços para investigar e expor os esquemas que colocam em risco nossos direitos e nossa democracia.
Já revelamos as mensagens secretas de Moro na Lava Jato. Mostramos como certas empresas e outros jornais obrigavam seus trabalhadores a apoiarem Bolsonaro. E expusemos como Pablo Marçal estava violando a lei eleitoral.
Mas temos pouco tempo, e muito mais a revelar. Agora precisamos de recursos para colocar mais repórteres nas ruas. Para isso, precisamos de sua ajuda. Somos financiados por nossos leitores, não pelas empresas ricas que mandam em Brasília.
Faça parte do nosso time para causar o impacto eleitoral que você não verá em nenhum outro lugar! Faça uma doação de qualquer valor ao Intercept hoje mesmo!
Entre em contato
