Após mais uma semana de crise social nos Estados Unidos, empresas americanas alinham-se à retórica dos protestos. Assim como as gigantes Facebook, Apple e Google, a Amazon tuitou de forma vaga em prol de justiça social e policial. Uma demonstração tímida e previsível de solidariedade corporativa na “luta contra a injustiça e o racismo sistêmicos”. Mas a Amazon se diferencia da concorrência por sua determinação em municiar as polícias com ferramentas que, segundo estudos, contribuem para uma atuação racista.
No afã de demonstrar simpatia por noções difusas de justiça social, de forma coordenada com os departamentos jurídico, de relações públicas e de redes sociais, algumas empresas parecem esquecer o que de fato fazem. Quando a Nextdoor – uma rede social que alimenta os piores tipos de pânico racial – tuíta “VIDAS NEGRAS IMPORTAM”, é difícil levá-la a sério. Mas enquanto a Nextdoor se contenta em racionalizar e otimizar a paranoia dos moradores urbanos em uma linha do tempo gerada por algoritmos, uma grande parcela dos negócios da Amazon – como apontou Sidney Fussell, da Wired – expande sua cruzada “anticrime” de vigilância pública e privada.
“A vigilância é uma questão de justiça racial. Elas não estão separadas.”
Em 2018, a União Americana pelas Liberdades Civis (ACLU) divulgou um relatório mostrando que o software de reconhecimento facial Rekognition, da Amazon, apresentava resultados de viés racista. Segundo o estudo, o programa identificava congressistas negros, de forma equivocada e desproporcional, como pessoas que tinham sido presas e fichadas pela polícia. “As correspondências falsas eram desproporcionais entre as pessoas não brancas, incluindo seis membros da bancada negra do Congresso – entre os quais o deputado democrata John Lewis, uma lenda dos direitos civis.” Outra pesquisa do mesmo ano, publicada pelo MIT, demonstrou que o Rekognition classificava mulheres de pele mais escura como homens em 31% dos casos.
O estudo da ACLU afirmava ainda que “pessoas não brancas já são desproporcionalmente agredidas pela polícia, e é fácil ver como o Rekognition poderia exacerbar essas práticas”. Pesquisas como essas evidenciaram que as falhas da identificação computadorizada não são apenas um equívoco acadêmico, e sim erros de potencial devastador, que poderiam influenciar a atuação da polícia – ou a demanda por mandados de busca, por exemplo – a partir de históricos criminais falsos.
É difícil reconciliar essa realidade com um tuíte recente de Andy Jassy, executivo da Amazon que atua na empresa como chefe de Serviços Web – departamento que opera o Rekognition:
*What* will it take for us to refuse to accept these unjust killings of black people? How many people must die, how many generations must endure, how much eyewitness video is required? What else do we need? We need better than what we're getting from courts and political leaders.
— Andy Jassy (@ajassy) May 30, 2020
Como apontou Fussell, da Wired, Jassy já defendeu o uso do Rekognition pela polícia com base nos “termos de serviço” da empresa, que teriam resguardo constitucional para evitar qualquer abuso.
A declaração da Amazon foi igualmente tímida:
“A desigualdade e o tratamento brutal de pessoas negras em nosso país deve acabar.
Estamos unidos em solidariedade à comunidade negra – nossos empregados, clientes e parceiros – na luta contra a injustiça e o racismo sistêmicos.”
O que exatamente quer dizer uma empresa se opor à discriminação policial de afro-americanos ao mesmo tempo em que vende ferramentas discriminatórias à polícia – ou enquanto opera a Ring, uma rede de vigilância baseada na detecção e eliminação de “atividades suspeitas”, racialmente codificadas, que envia vídeos diretamente à polícia local? A Ring já distribuiu a seus empregados um adesivo com a imagem de um distintivo policial azul e preto, patrocinado pela empresa, onde se lia a frase “FODA-SE O CRIME”.
Em nota enviada ao Intercept, o advogado Jacob Snow, responsável pela área de tecnologia da ACLU, disse que “se a Amazon e Andy Jassy são mesmo solidários em relação à comunidade negra, deveriam parar de vender tecnologia de reconhecimento facial que estimula abusos policiais contra a comunidade negra. Também deveriam parar de despedir trabalhadores que se mobilizam em defesa de melhores condições nos centros de distribuição da Amazon. A solidariedade real vai além de posts vazios em redes sociais, os quais não protegem de forma alguma as pessoas negras”.
A advogada e pesquisadora de privacidade Liz O’Sullivan, que no ano passado, por questões éticas, se demitiu da Clarifai – empresa que desenvolve tecnologias de vigilância que utilizam inteligência artificial –, disse ao Intercept que os serviços oferecidos pela Amazon às polícias dos Estados Unidos “permitem que os policiais monitorem e reprimam quem protesta e se manifesta contra a injustiça racial” com o uso de tecnologias de reconhecimento facial. “A vigilância é uma questão de justiça racial”, acrescentou O’Sullivan. “Elas não estão separadas.”
Perguntei mais de uma vez à Amazon e a Jassy se eles permitiriam o uso do Rekognition na identificação de indivíduos que protestam contra a violência policial e se a empresa reavaliaria ou modificaria as formas como a polícia usa o programa, mas não obtive resposta. Tendo em vista que a Amazon não revela nem quais órgãos policiais usam o software, não surpreende que a empresa não esclareça como o Rekognition é ou não empregado. Uma coisa é aproveitar um sistema injusto para lucrar de forma silenciosa, outra bem diferente é denunciá-lo e vender um software que o opera.
Tradução: Ricardo Romanoff
Você sabia que...
O Intercept é quase inteiramente movido por seus leitores?
E quase todo esse financiamento vem de doadores mensais?
Isso nos torna completamente diferentes de todas as outras redações que você conhece. O apoio de pessoas como você nos dá a independência de que precisamos para investigar qualquer pessoa, em qualquer lugar, sem medo e sem rabo preso.
E o resultado? Centenas de investigações importantes que mudam a sociedade e as leis e impedem que abusadores poderosos continuem impunes. Impacto que chama!
O Intercept é pequeno, mas poderoso. No entanto, o número de apoiadores mensais caiu 15% este ano e isso está ameaçando nossa capacidade de fazer o trabalho importante que você espera – como o que você acabou de ler.
Precisamos de 1.000 novos doadores mensais até o final do mês para manter nossa operação sustentável.
Podemos contar com você por R$ 20 por mês?