Relatório | Construindo diálogos e formando lideranças populares em direitos digitais junto às Defensorias Públicas Estaduais | Assimetrias e Poder

Estratégia de Implantação da Inteligência Artificial pelas Defensorias Públicas do Brasil

No dia 21 de dezembro de 2023, as Defensorias Públicas dos Estados e do Distrito Federal, representadas pelo Conselho Nacional das Defensoras e Defensores Públicos-Gerais (CONDEGE), e a Defensoria Pública da União iniciaram um processo de consulta pública em interesse de coletar subsídios de diferentes setores da sociedade para compor a Estratégia de implantação da inteligência artificial pelas Defensorias Públicas do Brasil.

A Data Privacy Brasil elaborou um contributo que reflete o compromisso da instituição com os direitos fundamentais, e os aprendizados de mais de 4 anos de colaboração e parceria com as Defensorias Públicas através dos projetos Expandindo o papel das Defensorias Públicas na proteção de dados no Brasil e Construindo diálogos e formando lideranças populares em direitos digitais junto às Defensorias Públicas Estaduais. A tecnologia de IA pode vir a ser uma ferramenta útil para facilitar algumas tarefas operativas das Defensorias Públicas, e assim tornar mais eficiente o papel da instituição como órgão efetivador do acesso à justiça para a população mais vulnerável. Contudo, múltiplos casos concretos e diversas pesquisas alertam sobre os impactos sociais, humanos e ambientais atuais, previsíveis ou imagináveis do uso da tecnologia de inteligência artificial.

Discutir os impactos com a cidadania é indispensável para garantir a transparência e legitimidade do processo. Daí a relevância desta iniciativa das DPs em promover uma consulta pública para definir de forma participativa parâmetros éticos e técnicos a partir do qual possa ser desenhado o sistema de governança para a implementação de inteligência artificial (IA). A continuação segue nossa contribuição a esse debate, na expectativa de que a estratégia de IA a ser seguida pelo órgão de justiça adote um enfoque de regulamentação e gestão orientada por direitos, e embasada prioritariamente na proteção e defesa da população mais desfavorecida, de modo a garantir que o emprego de IA nas atividades administrativas não prejudique a função principal de assistência jurídica e promoção dos direitos humanos. Nossas recomendações, portanto, giram em torno a adoção dos princípios de governança participativa e democrática, a implementação de mecanismos de avaliação de riscos e impactos, e supervisão humana dos processos automatizados.

Confira a contribuição completa pelo link, acesse aqui.