Data Privacy Brasil lança a Biblioteca de Danos em IA

A Data Privacy Brasil anuncia o lançamento da “Biblioteca de Danos em IA”, um repositório público e interativo que reúne, sistematiza e torna acessíveis evidências concretas de impactos negativos causados por sistemas de inteligência artificial (IA),que já conta com 71 casos casos públicos coletados em veículos de comunicação de impactos negativos causados por sistemas de inteligência artificial. 

A iniciativa, que  integra o projeto IA com Direitos, surge para qualificar o debate público, técnico e legislativo em torno das regulamentações sobre IA, com foco especial no PL 2338/2023 em tramitação na Câmara dos Deputados. A biblioteca transforma casos dispersos em investigações jornalísticas, de veículos como Folha de São Paulo, The Intercept e MIT Tech Review, em um banco de dados para consulta de parlamentares e da sociedade civil.

Os 71 casos catalogados de junho de 2024 até o momento estão divididos em quatro categorias: 

• Danos Psicológicos e Sociais (29,6%): Incluem vigilância excessiva, exposição a conteúdos nocivos e desgaste do bem-estar social.
• Danos aos Direitos Fundamentais (23,9%): Violações diretas à privacidade, a discriminação e ao devido processo legal.
• Danos Socioambientais e Econômicos (23,9%): Aborda o consumo energético, descarte eletrônico e precarização do trabalho.
• Danos Democráticos (22,5%): Ameaças à integridade do debate público por meio de conteúdos desinformativos automatizados . 

Para Carla Rodrigues, coordenadora da área de Plataformas e Mercados Digitais da Data Privacy Brasil:

“A discussão sobre o modelo regulatório brasileiro precisa levar em conta os danos já produzidos por sistemas de IA, que tendem a se intensificar sem uma lei específica que reforce direitos e preveja responsabilização.” 

Objetivos da Biblioteca de Danos em IA

• Sistematizar evidências danosas sobre uso de IA, transformando problemas muitas vezes dispersos em um banco de dados consolidado para consulta pública.
• Fortalecer o debate público, fornecendo subsídios técnicos e políticos aos parlamentares envolvidos na discussão do marco regulatório de IA no Brasil.
• Ampliar a compreensão social sobre os efeitos reais da tecnologia em direitos fundamentais, trabalho, meio ambiente, democracia, segurança pública e outros temas sensíveis

A coleta de dados ocorreu a partir de junho de 2024 e usa apenas fontes públicas, documentos oficiais e estudos acadêmicos. Foram consideradas reportagens jornalísticas e investigações de veículos, como Agência Pública, The Intercept, Revista Piauí, G1, Folha de S. Paulo e MIT Tech Review; além da leitura de documentos oficiais como relatórios, pareceres e ações judiciais, além de estudos acadêmicos, pesquisas de campo e testemunhos divulgados em veículos confiáveis. A busca foi orientada por palavras-chave como discriminação algorítmica, privacidade de dados, desinformação automatizada, impacto ambiental, direitos autorais e modelos generativos, transparência e auditoria algorítmica, responsabilidade em sistemas de alto risco. 

A plataforma apresenta os casos reunidos em categorias de dano, com descrições, contextos e links para as fontes originais. A página apresenta formulário para que qualquer cidadã(o) envie casos para a atualização constante do repositório. A submissão é anônima, deve ser de fontes públicas e somente passa a compor a biblioteca após curadoria da equipe de pesquisa. 

Os impactos negativos da IA — como algoritmos discriminatórios, violações de privacidade, desinformação automatizada e aumento de desigualdades — já não são mais meras hipóteses, mas efeitos documentados que afetam rotinas de cidadãos e instituições. A biblioteca torna esses casos acessíveis à sociedade civil, pesquisadores, tomadores de decisão e legisladores, fortalecendo um debate regulatório mais informado, justo e inclusivo.