Assimetrias e Poder
IA e datificação da segurança pública: construindo redes para proteção de direitos fundamentais
Objetivo: Fomentar redes de cooperação da sociedade civil frente à datificação e à adoção de sistemas de inteligência artificial em contextos de segurança pública. Desenvolver uma análise técnica de sistemas como Muralha Paulista e Córtex; ; promover formações e treinamentos; e criar um repositório público com documentos e relatórios sobre a relação direitos fundamentais e as infraestruturas de vigilância.
Duração: 18 meses
Situação: Em Andamento
Apoiador(es): Instituto Lafer
Descrição
Nos últimos anos, a expansão de mega sistemas de vigilância como o Muralha Paulista e o Córtex tem evidenciado uma tendência preocupante, a transformação dessas infraestruturas públicas em plataformas de dados robustas utilizadas por empresas privadas para o desenvolvimento de algoritmos preditivos. Esse cenário amplia a vigilância massiva e fragiliza garantias fundamentais como o devido processo legal e a presunção de inocência e aprofunda desigualdades e discriminações algorítmicas, sobretudo contra populações vulnerabilizadas, especialmente ao ignorar parâmetros estabelecidos pelo Supremo Tribunal Federal sobre a governança democrática de dados.
Diante da complexidade técnica e política envolvida nesses sistemas, ainda são escassas as iniciativas da sociedade civil capazes de realizar uma crítica fundamentada ou de mobilizar o sistema de justiça para enfrentar as ilegalidades que cercam sua implementação. A Data Privacy Brasil propõe ampliar o diálogo e a capacitação de organizações que atuam com direitos humanos e segurança pública. Nosso objetivo é construir uma estratégia de resistência em rede, que una conhecimento técnico à capacidade de incidência institucional junto a atores relevantes como membros do Ministério Público, Defensorias Públicas e juristas especialistas.
O projeto desenvolve análise técnica de programas como o Muralha Paulista e o Córtex, avaliando seus riscos e fundamentos operacionais e sistematiza argumentos jurídicos sólidos sobre direitos fundamentais. Como resultado, buscamos organizar um repositório público com documentos e relatórios de inteligência sobre as infraestruturas de vigilância.
A Data Privacy Brasil se compromete a democratizar o debate sobre tecnologias de segurança pública e fomentar uma resposta coordenada e crítica da sociedade civil diante do crescente processo de datificação na segurança pública.