Em agosto, várias empresas de tecnologia se reuniram para tentar descobrir como transformar em realidade o conceito de “averiguação rigorosa”, uma ideia vaga e preconceituosa de Trump para o controle de imigrantes. Em um encontro no Departamento de Segurança Interna dos EUA (Department of Homeland Security, DHS) – e por meio de vários documentos oficiais, como revelado por The Intercept –, empresas como IBM, Booz Allen Hamilton e Red Hat foram informadas sobre o tipo de software desejado pelo governo para colocar em prática sua “Iniciativa de Averiguação Rigorosa” (Extreme Vetting Initiative).
Nesta quinta-feira, mais de 100 grupos de tecnologia e ativistas de direitos civis – incluindo algumas figuras proeminentes desses setores – se uniram para dizer que é impossível criar um software que atenda aos requisitos do DHS, e que qualquer programa que tente fazê-lo estará apenas promovendo a discriminação e solapando as liberdades civis.
Esse movimento de oposição está sendo organizado pelos pesquisadores de Direito Alvaro Bedoya, diretor-executivo do Centro de Privacidade e Tecnologia da Universidade de Georgetown, e Rachel Levinson-Waldman, jurista sênior do Brennan Center for Justice, da Universidade de Nova York. O grupo endereçou duas cartas ao governo – uma sobre a inutilidade de se tentar criar um software de verificação rigorosa de imigrantes e outra sobre os riscos sociais de tal tentativa.
Foto: John Tlumacki/The Boston Globe/Getty Images
A primeira carta, assinada por 54 especialistas em Ciência da Computação, engenheiros, matemáticos e outros pesquisadores das áreas de aprendizado de máquina, data mining e outras formas de tomada de decisão automatizada, afirma que seus signatários estão “profundamente preocupados” com a Iniciativa de Averiguação Rigorosa. Segundo documentos do setor de Imigração e Alfândega (Immigration and Customs Enforcement, ICE) do DHS, tal projeto requer softwares para automatizar e acelerar a identificação e avaliação de estrangeiros que pretendam ingressar nos EUA. Uma das funções desses programas seria “determinar a probabilidade de um imigrante contribuir positivamente para a sociedade e os interesses nacionais”.
Em 2017, trata-se de uma tarefa hercúlea para qualquer software. Na carta, especialistas ligados a instituições como Google, MIT e Berkeley dizem que o plano não tem como funcionar. “Nenhum método computacional pode medir de maneira confiável e objetiva as características que o ICE pretende avaliar”, diz o documento, acrescentando: “Tal sistema provavelmente seria impreciso e tendencioso”. Segundo os especialistas, qualquer tentativa de usar algoritmos para determinar quem contribui ou não para a sociedade estaria, no melhor dos casos, fadada ao fracasso:
Algoritmos desenvolvidos para prever qualidades como essas poderiam ser usados arbitrariamente para estigmatizar grupos de imigrantes sob o disfarce da objetividade.
Visto ser difícil (ou mesmo impossível) definir e medir algo tão vago, qualquer software teria inevitavelmente que analisar características mais facilmente observáveis – mas que podem ter pouca ou nenhuma relação com o que realmente se quer avaliar. Por exemplo, os programadores poderiam estipular que uma postagem no Facebook criticando a política externa americana enquadraria um solicitante de visto como uma ameaça aos interesses dos EUA. A renda também poderia ser usada como um fator para determinar o valor de um imigrante para a sociedade, embora o papel do indivíduo na comunidade não possa ser resumido apenas à sua capacidade de contribuir financeiramente para a economia local.
Mas o risco de discriminação racial e religiosa é ainda mais grave. David Robinson, um dos signatários da primeira carta e diretor de Tecnologia e Direitos Civis do think tank Upturn, disse em uma entrevista que o governo está querendo quantificar conceitos abstratos, como a contribuição de um indivíduo para o interesse nacional. “Na verdade, eles vão definir essas coisas sem qualquer fundamentação”, afirma. Os desenvolvedores do software poderiam atribuir um grande peso a fatores como a renda, o que excluiria os imigrantes mais pobres, ou a língua materna e o número de filhos, o que prejudicaria certas culturas. Como já demonstrado pelo Facebook, por exemplo, vários grupos de pessoas poderiam ficar sujeitas a regras secretas e aparentemente imparciais. Segundo Robinson, um empresário selecionado pelo projeto poderia simplesmente distorcer a fórmula até conseguir os resultados desejados e vender seu produto como algo objetivo, fundamentado em dados e números. “Isso pode facilmente se tornar um caso de preconceito travestido de ciência”, avisa.
Outra possibilidade preocupante é a extrapolação de características comuns à ínfima proporção de imigrantes que tentaram cometer atos terroristas. “Os exemplos são muito poucos para que possamos fazer generalizações estatísticas”, afirma Robinson. Ma sé exatamente isso que o ICE está pedindo de seus fornecedores. Kristian Lum, chefe de Estatística do Grupo de Análise de Dados de Direitos Humanos, que também assinou a carta, teme que, para que um pequeno número de futuros terroristas seja identificado, um número enorme de pessoas inocentes teria que ser marcado como perigoso. “Esses ‘falsos positivos’ seriam pessoas comuns, que nunca cometeram nenhum crime, mas que seriam estigmatizadas da mesma forma”, pondera.
A segunda carta é assinada por “uma coalizão de 56 organizações de direitos e liberdades civis, accountability governamental, direitos de imigrantes e defesa da privacidade”, como a União Americana Pelas Liberdades Civis (ACLU), a Anistia Internacional e o Southern Poverty Law Center. O documento afirma que a Iniciativa de Averiguação Rigorosa “é feita sob medida para a discriminação”. Segundo esses grupos, visitantes e imigrantes evitariam se expressar publicamente ao saber que estão sujeitos a uma vigilância automatizada, o que “é uma violação da Primeira Emenda e dos direitos humanos internacionais”. Ainda segundo a carta, o software imaginado pelo Departamento de Segurança Interna dos EUA “não funcionará do jeito que o ICE diz”. Em vez disso, “ele corre o risco de promover uma discriminação disfarçada de objetividade, o que seria extremamente nocivo à liberdade de expressão e aos direitos civis e humanos. Um tal projeto prejudicaria pessoas honestas e destruiria famílias”, afirma a carta.
É improvável que duas cartas de protesto consigam dissuadir o governo Trump de tentar desenvolver essa ferramenta – que, mesmo em caso de fracasso, custaria muito dinheiro ao contribuinte. Mas Bedoya espera que o plano possa ser derrotado com a ajuda do empresariado. “O governo deveria se envergonhar dessa iniciativa. Mas o que esperamos de verdade é que os fornecedores contratados percebam do que realmente se trata aqui: uma proibição digital aos muçulmanos. Todo empresário de princípios deve rejeitar publicamente esse projeto discriminatório”, diz.
Foto do título: Pessoas fazem fila na fronteira entre México e Estados Unidos, no Posto de Entrada de San Ysidro, em Tijuana, região noroeste do México (01/11/2017)
Tradução: Bernardo Tonasse
Você sabia que...
O Intercept é quase inteiramente movido por seus leitores?
E quase todo esse financiamento vem de doadores mensais?
Isso nos torna completamente diferentes de todas as outras redações que você conhece. O apoio de pessoas como você nos dá a independência de que precisamos para investigar qualquer pessoa, em qualquer lugar, sem medo e sem rabo preso.
E o resultado? Centenas de investigações importantes que mudam a sociedade e as leis e impedem que abusadores poderosos continuem impunes. Impacto que chama!
O Intercept é pequeno, mas poderoso. No entanto, o número de apoiadores mensais caiu 15% este ano e isso está ameaçando nossa capacidade de fazer o trabalho importante que você espera – como o que você acabou de ler.
Precisamos de 1.000 novos doadores mensais até o final do mês para manter nossa operação sustentável.
Podemos contar com você por R$ 20 por mês?
Entre em contato
