O racismo agravado pelo uso de câmeras e IA na segurança pública

O uso de câmeras nas fardas de agentes de segurança pública em serviço vem sendo implementado em alguns estados brasileiros e recomendado pelo Ministério da Justiça. Alega-se que, além de proteger os cidadãos contra possíveis abordagens violentas, as câmeras diminuem em até 90% os casos de acusações caluniosas contra policiais.

As evidências de eficácia e proteção social, no entanto, não têm se mostrado suficientes para convencer os governadores a abraçarem de fato a ideia. Os altos custos para a implementação e o armazenamento das imagens são os entraves mais citadas.

Em São Paulo, o programa “Olho Vivo”, implantado na gestão Doria em 2020, evitou 104 mortes em abordagens policiais nos dois anos seguintes, de acordo com levantamento da FGV. Ainda assim, o atual governador, Tarcísio de Freitas, defende que medidas como o aumento do efetivo policial e o endurecimento da legislação penal seriam mais eficazes para combater a criminalidade.

O governo estadual propõe que a gravação das imagens deixe de ser ininterrupta e passe a ser feita de forma intencional, dando ao agente a opção de registrar ou não uma ocorrência – o que obviamente vai dificultar as investigações em casos de violência policial. As câmeras ajudam a inibir comportamentos de desvio de conduta e, não raro, podem ser a única garantia de jovens negros abordados em becos escuros das periferias. Se os policiais de Paraisópolis tivessem câmeras nas fardas, talvez a história fosse diferente.

A ótica do governador se inverte no caso do programa “Muralha Paulista”, um sistema de megavigilância que integra câmeras de segurança em todo o estado, incluindo equipamentos instalados em condomínios particulares, a um software gerenciado pela PM e que vai receber 30 milhões de reais em investimentos.

Na mesma linha, o programa “Smart Sampa” prevê a instalação de 20 mil câmeras de reconhecimento facial espalhadas pela cidade de São Paulo até o fim deste ano. As câmeras serão integradas a um centro de monitoramento gerenciado pela administração municipal, que atuará em parceria com o Sistema de Foragidos do Conselho Nacional de Justiça e com as polícias Militar e Civil.

A prefeitura pretende usar as câmeras para combater a criminalidade e o tráfico de drogas, principalmente na região central da cidade, que abriga a chamada “Cracolândia”. A tecnologia, porém, fere a privacidade de todos os cidadãos – e, o mais grave, tem contribuído para o agravamento da discriminação racial nos lugares em que já e vem sendo testada, como nos estados de Sergipe e Bahia.

Em 2019, uma rede de observatórios de segurança estudou violência e uso do reconhecimento facial como medida de segurança pública e política criminal em cinco diferentes estados do País, durante cinco meses. Do relatório, depreende-se que a ideia de eficiência a partir da tecnologia não encontra respaldo: na Bahia, durante o carnaval, o sistema de reconhecimento identificou mais de 1.300.000 rostos, gerando 903 alertas, 18 mandados e prisão de 15 pessoas, ou seja, 96% das notificações foram inúteis. Quanto ao perfil dos presos por reconhecimento facial, 87,9% dos suspeitos foram homens e 12,1% mulheres; já quanto à raça, 90,5% das pessoas eram negras e 9,5% eram brancas.

São frequentes as prisões indevidas por erros de reconhecimento e falsos positivos propostos pelo algoritmo de inteligência artificial que comanda o sistema, envolvendo principalmente a população negra, que já é alvo de vigilância constante e de ações violentas por parte das forças de segurança. Não à toa, a tecnologia tem sido chamada de “IA racista”.

Os locais escolhidos para o monitoramento também evidenciam este viés racista, criando mais uma ferramenta para oprimir corpos em situação de vulnerabilidade social, negros e pobres. O estado que luta firmemente para não colocar câmeras nas fardas de policiais é o mesmo que faz uso abusivo de câmeras de reconhecimento facial que viabilizam a prática do necropolítica algorítmica e de violações de direitos humanos com base na segregação de raça e cor.

Foi este entendimento que motivou, em 2022, a campanha “Tire meu rosto da sua mira”, que reuniu mais de 30 organizações da sociedade civil na assinatura de uma carta aberta pelo banimento do reconhecimento facial na segurança pública.

Não é de hoje que o tratamento estigmatizado leva o Estado a utilizar protocolos subjetivos e inconscientes, com comportamentos automatizados e práticas sutis de desvalor, opressão e exclusão das pessoas negras, mesmo ciente de que tais atos discriminatórios ofendem o princípio da isonomia formal, mandamento constitucional centrado na noção de justiça simétrica, princípio que requer tratamento igual entre todas as pessoas.

Na frente judicial, a falta de penalização dos agentes envolvidos em atos de letalidade e violência demonstra que os atores do estado com poder de decisão têm optado por se ausentar até notar a tensão produzida pela condenação dos tribunais sociais. Quando eventualmente o policial que atuou em letalidade é tornado réu, o processo passa pela fase de pronúncia, ingressa no júri e lá ocorre comumente a sua absolvição. A impunidade também passa pela alegação de fatos isolados que não alcançam a fase de pronúncia, pelas condutas serem consideradas como acontecimento imprevisível e acessório.

O debate sobre o uso das câmeras contrapõe duas finalidades distintas e opostas: enquanto a tecnologia de reconhecimento facial acaba por constranger cidadãos no exercício de sua liberdade individual e coletiva, os dispositivos corporais são usados para controlar as ações de agentes armados e assegurar que não ocorram as constantes violações de direitos nas abordagens e nas operações de segurança.

A Rede Liberdade acredita ser urgente um olhar crítico sobre o conjunto de regras normativas, raciocínios ou leituras padronizadas para a solução de relações sociorraciais no âmbito da Justiça Criminal.