Sem muito alarde, o governo israelense implementou no ano passado um programa de reconhecimento facial em larga escala em Gaza. A tecnologia passou a ser utilizada na Palestina após os ataques de outubro graças à Corsight, uma empresa israelense contratada pelo exército para desenvolver um programa que pudesse identificar reféns israelenses em Gaza e achar alvos militares do Hamas.
A milhares de quilômetros de Gaza, em Alagoas, no Brasil, essa mesma empresa está anunciando uma parceria que leva sua tecnologia de reconhecimento facial às escolas públicas do estado.
Em fevereiro, alguns portais estrangeiros de tecnologia e segurança noticiaram que a Corsight havia anunciado uma parceria com a Teltex, uma empresa brasileira de soluções em segurança eletrônica. Segundo uma destas notícias, a Teltex havia escolhido, em resposta a uma preocupação crescente com segurança nas escolas, incorporar a tecnologia de reconhecimento facial da Corsight.
A solução, ainda segundo essa notícia, seria integralmente implementada até o meio de 2024, com a instalação de licenças de uso da Corsight em centenas de escolas de Alagoas.
A Teltex, empresa com a qual a Corsight teria feito essa parceria, tem, desde abril de 2023, um contrato de R$ 18 milhões com a Secretaria de Educação de Alagoas, a Seduc. A finalidade é implantar um sistema de gestão de controle de entrada e saída de alunos nas escolas públicas alagoanas.
Mas não existe rastro da contratação da Corsight em documentos públicos de Alagoas e tampouco o governo foi avisado da incorporação dessa tecnologia, segundo informações obtidas pelo Intercept Brasil via Lei Acesso à Informação.
O contrato foi renovado por mais um ano no fim de maio. Em nenhum momento o documento fala em reconhecimento facial. Também não existe nenhum aditivo de contrato falando sobre a participação da Corsight.
Em resposta a um pedido de LAI, a Seduc disse não ter sido informada sobre a incorporação de solução de reconhecimento facial. Questionada via assessoria de imprensa, a Teltex disse desconhecer a parceria e informou, via nota por e-mail, que o projeto em implantação em Alagoas inclui a “utilização de várias tecnologias avançadas, como sistemas analíticos de vídeo”.
A empresa disse ainda que realizou apenas provas de conceito, um tipo de demonstração da funcionalidade, com a Corsight e que a plataforma “Corsight AI provavelmente não será utilizada neste contexto específico”.
‘Vamos em frente por mais’
Apesar de afirmar desconhecer a parceria, executivos da Teltex se mostraram entusiasmados com a notícia em uma publicação de LinkedIn em que a Corsight anunciava a colaboração. Marcado em um comentário por Geraldo Sanga, gerente de vendas da Corsight no Brasil, o gerente de pré-vendas da Teltex, Gabriel Duardes, respondeu: “conte conosco, vamos em frente por mais”.
Na mesma publicação, Sanga marcou também Thiago Duardes, que ocupa o cargo de gerente comercial na Teltex, agradecendo-o pela parceria, ao que Duardes respondeu: “vamos avançar em mais projetos, conte conosco”.
Uma publicação de fevereiro do site Aithority sobre a parceria também traz uma aspa de Gabriel Duardes, gerente de pré-vendas. “Nós embarcamos nessa iniciativa com a Corsight devido à sua ética em relação às nossas crianças, à sua precisão com muitos grupos éticos no Brasil e devido à velocidade sem paralelos da solução de inteligência facial da Corsight”, disse Duardes. Segundo a publicação, o objetivo da implementação da tecnologia é deter entradas não-autorizadas.
Se a tecnologia tiver sido, de fato, incorporada, como anunciado pela Corsight, o caso poderia ser considerado uma violação das normas de transparência e das condições contratuais estabelecidas.
“Caso a empresa vencedora de um processo licitatório estabeleça uma parceria para a prestação de serviços com outra empresa após vencer o processo licitatório, isso deve ser comunicado ao poder público”, disse Mariana Canto, diretora do Instituto de Pesquisa em Direito e Tecnologia do Recife, o IP.Rec, e pesquisadora na área de privacidade e vigilância.
Caberia à Secretaria de Educação, como contratante, fiscalizar a execução desse contrato, disse Canto, mas as controladorias, Tribunais de Conta e até mesmo o Ministério Público também têm competência para investigar os contratos.
A situação é agravada pelo fato de que a solução estaria sendo utilizada em crianças e adolescentes. Segundo Canto, é preciso enfatizar “o risco de contratação de uma empresa estrangeira que pode estar coletando dados biométricos e outros dados sensíveis de crianças e adolescentes brasileiras para o treinamento de seus algoritmos”.
Como não há, até o momento, nenhum aditivo de contrato especificando como se dará essa parceria caso ela se concretize, também faltam informações sobre como os dados serão coletados, armazenados e tratados, e tampouco sobre os algoritmos usados pelo sistema.
Em Gaza, tecnologia define alvos a serem bombardeados
Desde o fim do ano passado, a divisão de inteligência do exército de Israel opera um sistema de reconhecimento facial que usa tecnologia da Corsight junto ao Google Fotos.
Inicialmente, o sistema foi usado para procurar por reféns que foram levados pelo Hamas em 7 de outubro, mas depois ele passou a ser usado para identificar pessoas supostamente ligadas ao Hamas ou a outros grupos militantes. O sistema funciona para identificar rostos em multidões e em vídeos de baixa qualidade obtidos por drones.
LEIA TAMBÉM:
- Israel usa tecnologia do Google contra os palestinos
- Rui Costa está transformando a Bahia em um laboratório de vigilância com reconhecimento facial
- Em reuniões secretas, Clearview ofereceu 3 bilhões de imagens de brasileiros para polícias
- Google silencia enquanto Israel usa seus programas para definir alvos humanos
Mas, conforme reportado pelo New York Times, mesmo oficiais da inteligência israelense afirmaram que o sistema é falho, tendo por vezes erroneamente identificado civis como alvos militares do Hamas. As fontes que conversaram com o NYT manifestaram preocupação de que o sistema seria um “mau uso de tempo e recursos por Israel”.
O sistema desenvolvido pela Corsight não é a única frente em que Israel está usando inteligência artificial em Gaza. A +972 Magazine e Local Calls, dois veículos israelenses, reportaram que Israel conta com dois sistemas que usam IA para identificar e marcar alvos militares a partir do processamento massivo de dados. Segundo a reportagem, durante as fases iniciais da guerra, oficiais autorizaram ataques contra os alvos identificados sem que houvesse revisão humana.
Tecnologia se espalha por escolas do Brasil sem mitigação de riscos
Já foram encontrados casos de reconhecimento facial em escolas de pelo menos 10 estados brasileiros, segundo um mapeamento publicado pelo InternetLab em março de 2023.
Um dos estados que mais utilizam a tecnologia é Goiás, que recebeu mais de R$ 30 milhões em emendas parlamentares destinadas a reconhecimento facial. Mas ao que tudo indica, a tecnologia está sendo adotada sem nenhum estudo de seu potencial impacto e sem mitigação de riscos.
O mapeamento identificou que em nenhum dos 15 casos de uso o poder público informou ter realizado estudos de “impacto de risco aos direitos humanos ou análises sobre o potencial de discriminação resultante de softwares de reconhecimento facial” antes da execução do projeto.
Como justificativas para o uso da tecnologia, o InternetLab mapeou que otimização da gestão do ambiente escolar, combate à evasão e segurança aparecem como as mais frequentes. Uma das conclusões do mapeamento, para o qual foram ouvidos docentes e especialistas, é de que o reconhecimento facial não parece ser capaz de combater de forma eficiente essas questões.
Você sabia que...
O Intercept é quase inteiramente movido por seus leitores?
E quase todo esse financiamento vem de doadores mensais?
Isso nos torna completamente diferentes de todas as outras redações que você conhece. O apoio de pessoas como você nos dá a independência de que precisamos para investigar qualquer pessoa, em qualquer lugar, sem medo e sem rabo preso.
E o resultado? Centenas de investigações importantes que mudam a sociedade e as leis e impedem que abusadores poderosos continuem impunes. Impacto que chama!
O Intercept é pequeno, mas poderoso. No entanto, o número de apoiadores mensais caiu 15% este ano e isso está ameaçando nossa capacidade de fazer o trabalho importante que você espera – como o que você acabou de ler.
Precisamos de 1.000 novos doadores mensais até o final do mês para manter nossa operação sustentável.
Podemos contar com você por R$ 20 por mês?
Entre em contato
