Smart Sampa: projeto de vigilância por reconhecimento facial em SP pode agravar racismo

Até 2024, o projeto Smart Sampa vai instalar 20 mil câmeras equipadas com reconhecimento facial na capital paulista visando centralizar o monitoramento público e privado. O uso indiscriminado da tecnologia de vigilância, entretanto, levanta preocupações envolvendo racismo estrutural e desigualdade, além de apresentar riscos à privacidade e à segurança cibernética, alertam especialistas.

Imagem: Trismegist sa/Shutterstock.com

Já faz alguns anos que a prefeitura municipal de São Paulo tenta implantar uma série de iniciativas modernas de vigilância do projeto Smart Sampa. Na capital paulista, a ideia de cidade inteligente deve impactar 12 milhões de pessoas.

Uma das iniciativas, que já foi recebida com ações civis públicas pedindo a suspensão da implantação, objetiva centralizar em uma única plataforma de vigilância por vídeo as informações sobre públicas (operações de serviços de emergência, trânsito, rede de transporte público da cidade e de forças policiais). Para isso, até 2024, 20 mil câmeras serão instaladas — com previsão de integração de câmeras de terceiros e privadas em uma mesma rede.

Com essa integração, será possível vigiar escolas, consultórios médicos, espaços públicos (praças e parques), além de mídias sociais relevantes para a administração pública.

Projeto Smart Sampa: riscos à privacidade do cidadão, ao direito à não discriminação e à segurança cibernética

Embora haja argumentos em relação à combinação de análise em tempo real e a tecnologia de reconhecimento facial para se resolver problemas de caráter simples e estrutural, como melhorias no tempo de espera excessivos dos usuários de ônibus e lidar com o aumento nos assaltos ano a ano, também há preocupações com a violação de direitos humanos fundamentais dos cidadãos.

Privacidade, liberdade de expressão, reunião e associação, por exemplo, estariam em risco, segundo os críticos do projeto. Argumentos que levaram à suspensão do processo de licitação por duas vezes, ocasionando investigações sobre possíveis armadilhas por parte de promotores públicos em áreas implicadas à privacidade do cidadão.

Meses depois, o processo de contratação foi liberado pela Justiça de São Paulo, ao concluir que não havia evidências suficientes para provar que o sistema é tendencioso contra indivíduos negros.

De acordo com uma proposta mensal apresentada pela empresa de tecnologia PK9, o custo para operar o sistema em 60 meses deve ficar em R$ 9,2 milhões.

Imagem: Fractal Pictures/Shutterstock.com

Ao lado das preocupações com a privacidade e o custo elevado para administrar o sistema implantado, o uso da tecnologia de reconhecimento facial poderia gerar consequências negativas principalmente para indivíduos negros.

Especialistas argumentam que o projeto poderia prejudicar o direito à não discriminação e desafiar o princípio da presunção de inocência de grupos como a comunidade negra, que constitui 56% da população brasileira, de acordo com o IBGE.

A própria tecnologia de reconhecimento facial tem potencial de levar a falsos positivos, ou seja, a correspondência errada de rosto com uma imagem do banco de dados do sistema, o que poderia resultar em encarceramento em massa de indivíduos negros, de acordo com Fernanda Rodrigues, advogada especialista em direitos digitais e coordenadora de pesquisa do Instituto de Referência em Internet e Sociedade (IRIS).

“Além dos riscos de que as informações fornecidas a essas plataformas possam não ser precisas e de que o próprio sistema possa falhar, há um problema que precede as implicações tecnológicas, que é o racismo”, disse Rodrigues.

“Sabemos que o sistema penal no Brasil é seletivo, então podemos concluir que [o uso da vigilância com reconhecimento facial] tem tudo a ver com o aumento dos riscos e danos a essa população”, acrescentou a especialista, referindo-se a alta representação de negros nas prisões brasileiras — 67% da população encarcerada, segundo dados de 2022, do Fórum Brasileiro de Segurança Pública.

De fato, 90% de encarcerados por decisões baseadas em reconhecimento facial no Brasil são negros, revela um estudo realizado pelo Centro de Estudos de Segurança Pública e Cidadania (CESeC), que monitora o impacto do uso do reconhecimento facial pela polícia em todo o país.

No estado do Rio de Janeiro, prisões injustas com base em reconhecimento fotográfico envolvendo negros chegou a 81% em 2021, segundo dados da Câmara de Defensores Públicos do Rio de Janeiro.

Falta de debate e resistência do público

Nas duas últimas semanas de agosto de 2022, a prefeitura municipal de São Paulo realizou uma consulta pública virtual, chamando especialistas para contribuírem com pontos de vistas. Entretanto, reservou apenas um dia para que a população civil sanassem suas dúvidas.

Imagem: Starline/Freepik

“A participação foi limitada e as sugestões apresentadas foram amplamente ignoradas”, critica Celina Bottino, diretora de projetos do Instituto de Tecnologia e Sociedade do Rio de Janeiro.

Smart Sampa reconhece deficiências em relatório

Em resposta à resistência do público sobre o projeto, a licitação do Smart Sampa incluiu um estudo sobre impacto da tecnologia, reconhecendo as deficiências, como alta probabilidade de vieses nos recursos de reconhecimento facial, risco de uso não autorizado,  exposição de dados pessoais e probabilidade de violações de privacidade.

Para lidar com tais riscos, a plataforma só consideraria detecções com 90% de paridade, com todos os alertas emitidos analisados por pessoas treinadas para mitigar injustiças e um sistema avançado de proteção de dados e controle de acesso.

Via Al Jazeera