TikTok e o “caso Antonella” na Itália
Uma menina de 10 anos chamada Antonella foi ao banheiro da sua residência, sozinha, levando seu celular, para realizar um desafio denominado blackout challenge no aplicativo TikTok. O desafio consistia em tentar ficar sem respirar o máximo possível. Para tanto, ela colocou uma faixa ao redor do pescoço, o que gerou um desmaio, seguido de um coma. […]
Uma menina de 10 anos chamada Antonella foi ao banheiro da sua residência, sozinha, levando seu celular, para realizar um desafio denominado blackout challenge no aplicativo TikTok. O desafio consistia em tentar ficar sem respirar o máximo possível. Para tanto, ela colocou uma faixa ao redor do pescoço, o que gerou um desmaio, seguido de um coma.
A menina, que morava em Palermo (Itália) com seus pais e irmã mais nova, foi encontrada desacordada e levada ao Hospital das Crianças de Palermo, mas não sobreviveu. Em entrevista para o La Republicca, os pais afirmaram que não tinham noção do estava acontecendo com a filha e que tinham lhe dado um celular de presente, porque ela tinha se apossado do aparelho da mãe para baixar o aplicativo Tiktok, com intuito de “fazer ballet, seguir tutoriais de maquiagem e penteado”. Em outra entrevista para o mesmo jornal, o pai de Antonella afirmou que “ela queria ser uma estrela do TikTok”.
Diante da tragédia de Antonella – que encontrou enorme repercussão na mídia italiana -, algo notável ocorreu: as primeiras movimentações regulatórias vieram da Autoridade de Proteção de Dados Italiana, na tentativa de conter o uso do aplicativo TikTok pelos mais jovens.
No dia 22 de janeiro, a Garante per la Protezione dei Dati Personali, em provimento assinado por Pasquale Stanzione, Guido Scorza e Fabio Mattei, determinou o bloqueio imediato do uso de dados de usuários do aludido aplicativo, “para os quais não existe certeza absoluta da idade e, consequentemente, do cumprimento das disposições relacionadas com as diretrizes de dados pessoais”. O prazo da referida proibição será até 15 de fevereiro, data em que serão realizadas novas avaliações.
A ordem de bloqueio foi fundamentada pelo artigo 24, parte 2, da Carta dos Direitos Fundamentais da União Europeia, a qual preleciona que “todos os atos relativos às crianças, quer praticados por entidades públicas, quer por instituições privadas, terão primacialmente em conta o melhor interesse da criança”, bem como pelo Recital 38 da General Data Protection Regulation (GDPR) a qual aduz que “as crianças merecem proteção específica no que diz respeito aos seus dados pessoais”, considerando que podem “estar menos cientes dos riscos, consequências e garantias” em relação ao tratamento de tais dados.
A Autoridade Italiana também mencionou o art. 25, §1º, do mesmo regulamento, o qual determina que o responsável pelo tratamento adote medidas técnicas e organizacionais adequadas para implementar os princípios da proteção de dados pessoais. Por fim, ressalte-se que a Autoridade poderia ter se pautado também pela Convenção dos Direitos da Criança, da qual o país é signatário, entretanto optou por não fazê-lo.
Apesar da implementação de uma medida mais impositiva ter sido realizada apenas em janeiro de 2021, o aplicativo já estava sendo alvo de diversas acusações, inclusive pela própria Autoridade Italiana. Desse modo, os principais pontos críticos assinalados por tal autoridade, alguns meses antes, foram: (i) a escassa atenção do aplicativo à proteção de menores de idade; (ii) facilidade em contornar a proibição do registro de crianças com menos de 13 anos; (iii) pouca transparência e clareza nas informações prestadas aos usuários; (iv) uso de configurações padrão que não respeitam a privacidade.
Em 2019, o aplicativo foi multado pela Federal Trade Comission (FTC) em US $ 5,7 milhões por violar as leis de privacidade de crianças dos EUA. Em setembro de 2020, em uma jogada meramente discursiva e geopolítica, a administração Trump anunciou que iria banir os aplicativos WeChat e TikTok de lojas estadunidenses. Na época, o New York Times notou que o movimento trumpista representava “um sinal tangível da fratura da ideia de internet global”, motivada por “nacionalismo e medos de segurança”.
Diante dessas múltiplas ameaças, a empresa reagiu e anunciou que está fazendo alterações em seu aplicativo com intuito de proporcionar uma experiência segura para os usuários mais jovens, tornando as contas para crianças e adolescentes de 13 a 15 anos como privadas por padrão, além de restringir outras funcionalidades, como a interação com outros usuários e sugestões de conteúdo, para todos aqueles com menos de 18 anos. O aplicativo também anunciou uma parceria com a Common Sense Networks, uma empresa de mídia focada na criação e curadoria de experiências digitais envolventes e adequadas à idade para crianças e famílias.
O caso Antonella também ocasionou a abertura de investigações em relação a outros aplicativos e plataformas, como o Facebook e Instagram.
Após a veiculação de que a criança italiana teria dez perfis no Instagram e três contas no Facebook, a Autoridade Italiana requereu a tais aplicativos o fornecimento de uma série de informações incluindo quantos e quais perfis a criança possuía e, caso se confirmem essas circunstâncias, explicar como é possível uma criança com menos de 10 anos estar inscrita nas duas plataformas. Acima de tudo, pediu indicações precisas sobre como funciona a verificação de idade adotada, para averiguar o cumprimento da faixa etária mínima de registo. Destaque-se que essas duas redes sociais também estão sendo investigadas pela Autoridade de Proteção de Dados da Irlanda, que vem coletando informações desde setembro de 2020.
Vale destacar que Pasquale Stanzione, atual Presidente da Autoridade Garante na Itália, possui uma trajetória profissional profundamente conectada com os direitos das crianças. Por décadas, foi professor de direito privado da Università degli Studi di Salerno. Foi coordenador do programa de doutorado sobre direito da pessoa. Em 1975, introduziu o conceito de “capacidade de discernimento” no seu livro Capacità e minore età nella problematica della persona umana. Posteriormente, publicou Scelte esistenziali e autonomia del minore (1983) e Garanti per l’infanzia e interesse del minore (2000).
Não é sem razão que Stanzione tenha liderado a emblemática decisão da Autoridade italiana e anunciado que o Garante fará uma fiscalização rigorosa sobre a questão da idade mínima de ingresso em redes sociais.
Em entrevista após o caso Antonella, em 23 de janeiro, Stanzione anunciou que a agenda italiana poderia se centrar em duas frentes: a responsabilidade primária e preventiva no que diz respeito à apuração da idade dos usuários e a secundária, relativa à obrigação de remover conteúdos ilegais, como aqueles relacionados ao incentivo ao suicídio. Para Stanzione, a solução não está somente no direito e na reformulação das categorias jurídicas, mas também em um intenso trabalho de “pedagogia digital”, com amplo envolvimento das escolas e famílias. Em suas palavras, as tecnologias atuais apresentam “um extraordinário potencial”, mas também exigem “medidas de proteção“.
O “caso Antonella” inaugura um amplo debate sobre a atuação regulatória de autoridades de proteção de dados pessoais e a responsabilidade dos controladores pela averiguação de idade mínima para utilização de aplicações de Internet.
É de esperar algum grau de coordenação institucional em nível regional nos próximos meses. Em 28 de fevereiro o assunto será pautado em Bruxelas, em reunião com diferentes coordenadores de autoridades de proteção de dados pessoais. A depender da reação de outras lideranças, o assunto pode ganhar corpo em 2021.
Veja também
-
IA com Direitos: diálogo e colaboração para regular e proteger
A Data Privacy Brasil lança projeto para unir pessoas e organizações para uma regulação de IA centrada em direitos no Brasil.
-
Data Privacy Brasil e Aláfia Lab lançam o “Observatório de IA nas eleições”
A Data Privacy Brasil, em parceria com o Aláfia Lab e o *desinformante, lançam o “Observatório de IA nas Eleições”, uma nova plataforma que tem o objetivo de mapear e registrar casos de uso de IA generativa durante as eleições brasileiras de 2024.
-
Leituras fundamentais para compreender o debate de regulação de mercados digitais no Brasil
O tema da regulação econômica dos mercados digitais tem se tornado cada vez mais crucial para democracias contemporâneas, como a brasileira. Confira as recomendações sobre o tema em texto escrito por Rafael Zanatta, codiretor da Data.
-
IA e direitos para quem trabalha
Com o avanço das tecnologias digitais e a crescente presença da Inteligência Artificial (IA) em diversos setores, surge uma preocupação central: como proteger quem trabalha em um ambiente de rápidas transformações? Confira no texto.
-
No aniversário de 6 anos da LGPD, Data Privacy Brasil pede priorização da proteção das crianças e adolescentes
A tomada de subsídios é mais um passo na construção de uma agenda de regulação da ANPD neste tema, em julho, diversas organizações da sociedade civil pediram aumento do prazo para a agência devido à importância da discussão.
-
Entidades civis exigem da ANPD mais prazo para discussão de proteção de dados de crianças e adolescentes
Dada a importância do tema e a necessidade de um prazo maior para análise, compreensão e produção de contribuições, diversas entidades assinaram uma Carta Aberta solicitando à ANPD a ampliação do prazo por mais 30 dias.
-
Plataforma de inteligência artificial usa imagens de crianças brasileiras sem autorização
Reportagem do Jornal nacional aborda como uma plataforma de inteligência artificial na Alemanha está usando imagens de crianças brasileiras sem autorização. Rafael Zanatta, codiretor da Data Privacy Brasil fala sobre as principais preocupações relacionadas ao tema.
-
IA na sala de aula: Construindo modelos participativos para a comunidade escolar
Como a comunidade escolar pode participar da governança das tecnologias de ensino-aprendizagem? Para responder a esta questão, lançamos a cartilha “Inteligência Artificial na Sala de Aula: modelos de participação para a comunidade escolar”.
Veja Também
-
IA com Direitos: diálogo e colaboração para regular e proteger
A Data Privacy Brasil lança projeto para unir pessoas e organizações para uma regulação de IA centrada em direitos no Brasil.
-
Leituras fundamentais para compreender o debate de regulação de mercados digitais no Brasil
O tema da regulação econômica dos mercados digitais tem se tornado cada vez mais crucial para democracias contemporâneas, como a brasileira. Confira as recomendações sobre o tema em texto escrito por Rafael Zanatta, codiretor da Data.
-
IA e direitos para quem trabalha
Com o avanço das tecnologias digitais e a crescente presença da Inteligência Artificial (IA) em diversos setores, surge uma preocupação central: como proteger quem trabalha em um ambiente de rápidas transformações? Confira no texto.
-
No aniversário de 6 anos da LGPD, Data Privacy Brasil pede priorização da proteção das crianças e adolescentes
A tomada de subsídios é mais um passo na construção de uma agenda de regulação da ANPD neste tema, em julho, diversas organizações da sociedade civil pediram aumento do prazo para a agência devido à importância da discussão.
-
Entidades civis exigem da ANPD mais prazo para discussão de proteção de dados de crianças e adolescentes
Dada a importância do tema e a necessidade de um prazo maior para análise, compreensão e produção de contribuições, diversas entidades assinaram uma Carta Aberta solicitando à ANPD a ampliação do prazo por mais 30 dias.
-
Plataforma de inteligência artificial usa imagens de crianças brasileiras sem autorização
Reportagem do Jornal nacional aborda como uma plataforma de inteligência artificial na Alemanha está usando imagens de crianças brasileiras sem autorização. Rafael Zanatta, codiretor da Data Privacy Brasil fala sobre as principais preocupações relacionadas ao tema.
-
IA na sala de aula: Construindo modelos participativos para a comunidade escolar
Como a comunidade escolar pode participar da governança das tecnologias de ensino-aprendizagem? Para responder a esta questão, lançamos a cartilha “Inteligência Artificial na Sala de Aula: modelos de participação para a comunidade escolar”.
-
IAs nas eleições: ‘socializar e compartilhar não apenas os benefícios mas também os riscos’
O TSE deve votar hoje as regras para as eleições municipais. Bruno Bioni, diretor do Data Privacy Brasil, fala sobre resolução que deve disciplinar uso de tecnologias de inteligência artificial nas campanhas.
-
Data Privacy Brasil demanda esforços públicos e privados nas eleições de 2024 diante das IAs
A Data Privacy Brasil vem a público elogiar a aprovação de novas regras para eleições de 2024 pelo Tribunal Superior Eleitoral (TSE) na noite de 27 de fevereiro, sob relatoria da vice-presidente da corte eleitoral, ministra Cármen Lúcia, bem como manifestar preocupações com relação aos potenciais usos abusivos de tecnologias da informação nas eleições deste ano.
-
Temas Centrais na Regulação de IA: o local, regional e o global na busca da interoperabilidade regulatória
A Data Privacy Brasil anuncia o lançamento de seu position paper sobre temas centrais na regulação local, regional e global de inteligência artificial. O documento traz os principais pontos de convergência entre mais de 20 fontes normativas, sem deixar de considerar as particularidades necessárias para o contexto brasileiro.
-
Confundida com criminosa por ‘Inteligência Artificial’ denuncia racismo: “Discriminada por ser pobre e preta”
Um erro da IA (Inteligência Artificial) usada no reconhecimento facial das câmeras de um evento em Aracaju (SE), motivou a abordagem. Ela conta que, meia hora após chegar à micareta, três agentes à paisana da PM a interceptaram. Perguntaram o nome dela e pediram o documento. Como ela estava sem o RG, o constrangimento iniciou.
-
EUA adotam novas diretrizes para IA
Na última segunda (30/10), o presidente dos Estados Unidos, Joe Biden assinou um decreto sobre inteligência artificial, o qual busca equilibrar as necessidades de empresas de tecnologia de ponta com a segurança nacional e os direitos dos consumidores. O governo estadunidense almeja estabelecer um conjunto de proteções que possam ser fortalecidas por legislações e acordos globais. Mas quais disposições são essas? Vamos conferir!
-
Data Privacy Brasil participates in UN’s OHCHR briefing on Brazil
The organization highlighted how the advance of edtech has been violating children’s privacy in the country
-
Privacidade e Proteção de Dados: Uma abordagem dos direitos das crianças para a criptografia
Há quem entenda que a garantia do anonimato pela criptografia e a proteção de crianças na internet são coisas separadas, até mesmo opostas. Porém, novo relatório propõe uma olhar mais complexo e multissetorial para a questão.
-
Associação Data Privacy Brasil de Pesquisa participa da Reunião Ministerial da OCDE sobre economia digital
Evento teve como principal tema de debate os caminhos para um futuro inclusivo no ambiente virtual
-
Organização Mundial do Comércio realiza a sua 12ª Conferência Ministerial
A cobertura do evento, dedicado a acordos e negociações envolvendo comércio internacional, foi acompanhada pela Associação Data Privacy Brasil de Pesquisa.
-
Associação Data Privacy Brasil de Pesquisa participa do painel “Proteção de criança online na pandemia: ferramentas e boas práticas para um ambiente seguro”
Workshop, que faz parte das atividades do 12 Fórum da Internet no Brasil, buscou apresentar e debater o surgimento de novas ferramentas para conter as ameaças que crianças e adolescentes encontram ao utilizarem a internet
-
The regulation of digital platforms is already a reality
The Digital Markets Act is about to be approved in the European Union and is expected to impact other jurisdictions
-
Conectas e Data Privacy Brasil lançam a 31° edição da Revista Sur
Publicação proporciona debates a respeito dos impactos da pandemia sobre os direitos coletivos e liberdades individuais no Sul Global
-
A regulação de plataformas digitais já é realidade
O Digital Markets Act está para ser aprovado na União Europeia e deve impactar outras jurisdições
-
DISCUSSION PAPER No 2/2021: A MULTIJURISDICTIONAL ANALYSIS OF DATA-DRIVEN MERGERS: CURRENT ASSESSMENT AND PUBLIC POLICY PROPOSALS FOR BRAZIL
Data Privacy Brazil Research in partnership with the Brazilian Institute for Consumer Protection (Idec) launches a seven month study about data-driven mergers led by the researcher Lucas Griebeler Motta (University of Chicago).
-
A proteção legal dos dados pessoais de crianças e adolescentes no Brasil
Discussões sobre a proteção de dados de crianças e adolescentes ao longo do processo de discussão da LGPD no Executivo e Legislativo, buscando entender como chegou-se ao atual art. 14 da lei.
DataPrivacyBr Research | Conteúdo sob licenciamento CC BY-SA 4.0