Em maio de 2023, a Associação Data Privacy Brasil de Pesquisa (DPBR) uniu-se à Privacy International (PI) e ao InternetLab (ILab) para enviar contribuição ao Comitê de Direitos Humanos da Organização das Nações Unidas (ONU), em sua avaliação do cumprimento do Pacto Internacional sobre Direitos Civis e Políticos (PIDCP) pelo Brasil. A contribuição destacou como tecnologias de vigilância e de coleta massiva de dados têm sido implementadas nas escolas públicas brasileiras, posando violações à privacidade e proteção de dados de estudantes.

Ao ratificar o PIDCP, o país assumiu o compromisso de promover e proteger garantias fundamentais dos direitos civis e políticos, incluindo a privacidade, liberdade de pensamento, bem como a liberdade e segurança pessoal. Em 26 de junho deste ano, o Comitê realizou sessão para ouvir partes interessadas – incluindo o Data Privacy Brasil -, e, em seguida, publicou suas conclusões e recomendações ao Estado brasileiro para melhor aderência ao Pacto.

Aproveitamos essa oportunidade para compartilhar nossas preocupações com o PIDCP em relação ao uso de tecnologias educacionais (EdTech) no Brasil e suas implicações no direito à privacidade, conforme disposto no seu Artigo 17.

De antemão, essas são algumas das recomendações encontradas na submissão:

  • Que o Brasil se adeque aos padrões internacionais e nacionais sobre direitos humanos para defender o direito à privacidade e os direitos da criança relativos à EdTech.
  • Que o Comitê de Direitos Humanos convoque o Brasil a proibir o perfilamento e o direcionamento de crianças para fins publicitários usando plataformas EdTech em sala de aula.
  • Que o Brasil garanta que a EdTech que usa IA seja regulamentada para reduzir os dados associados à IA, inclusive tornando seus algoritmos transparentes e permitindo que os sistemas sejam auditáveis.
  • Que o Brasil cumpra os processos formais de aquisição pública ao conceder um contrato a uma empresa EdTech e estabelecer a documentação formal que rege a parceria.
  • Que o Brasil capacite educadores e gestores públicos em legislação de proteção de dados e proteção digital de crianças e adolescentes, incluindo cursos de capacitação continuada para aprimorar o letramento digital dos gestores e capacitá-los para avaliar o uso das tecnologias digitais além da usabilidade.

Reportamos, ainda, graves violações à privacidade de crianças no contexto educacional que vêm ocorrendo no Brasil. Identificamos especificamente a disseminação indiscriminada de ferramentas que utilizam sistemas de inteligência artificial em escolas do nosso país, sem a devida avaliação prévia de seus impactos. A contribuição do Data Privacy Brasil se insere no âmbito do projeto IA na sala de aula: modelos de participação para a comunidade escolar

Essa prática alarmante expõe crianças e adolescentes, ainda em fase de desenvolvimento, aos potenciais efeitos negativos dessa tecnologia. Além disso, evidenciamos a aquisição desses sistemas sem a devida atenção às normas estabelecidas pela Lei de Licitações e Contratos Administrativos brasileira, o que levanta sérias preocupações sobre a conformidade legal no processo de aquisição dessas soluções educacionais.

Acesse a submissão em português e inglês para saber mais sobre o contexto das EdTechs no Brasil, Direitos Humanos e as nossas recomendações.

Veja também

Veja Também