Meta quer dar um novo passo na moderação automática. A empresa de mídia social por trás do Instagram e do Facebook implantará tecnologia capaz de estimar a idade dos usuários com base em pistas visuais simples, como estrutura óssea ou altura.
Mentir sobre a sua idade nas redes sociais está cada vez mais complicado. Na terça-feira, 5 de maio, a Meta anunciou a implantação de um sistema de inteligência artificial capaz de analisar fotos e vídeos de internautas. O objetivo? Determine se a idade mínima exigida para usar o Facebook e o Instagram é 13 anos.
Aparentemente, a empresa conta com um sistema que consegue analisar pistas visuais no conteúdo publicado. Por exemplo, o tamanho aparente, as características físicas ou mesmo a estrutura óssea da face ou do corpo.
Pistas de diagnóstico
E Meta garante a ele. “Não se trata de reconhecimento facial.” O objetivo não é identificar um indivíduo, mas estimar uma possível idade. “Nossa IA analisa características gerais (…) sem identificar a pessoa específica”, afirma a empresa em um post no blog, ansiosa para reprimir imediatamente as críticas sobre privacidade.
Mas o filme por si só não é suficiente. A IA também analisa os textos e o comportamento dos internautas. Publicações, opiniões, biografias, lendas… tudo é escrutinado. Referências a aniversários ou resultados escolares somam pistas que podem alertar o site.
O objetivo é claro: identificar mais contas de menores. Na dúvida, o machado cai rapidamente. A conta é suspensa e seu dono precisa comprovar sua idade para recuperá-la.
Este sistema, que já foi testado em vários países, deverá ser expandido também para outros países. A Meta planeja integrá-lo a formatos ao vivo como Instagram Live ou grupos do Facebook, que até agora eram difíceis de rastrear.
Resposta sob compulsão legal
O anúncio ocorre em um ambiente particularmente tenso para a empresa. No final de março, um júri do Novo México concedeu à Meta uma multa civil de US$ 375 milhões. A promotoria acusou o Facebook e o Instagram de facilitarem o abuso sexual de crianças, com dedicação e desejo de lucro em detrimento da segurança dos menores.
Para além das sanções fiscais, esta decisão histórica impõe mudanças estruturais. A empresa, por sua vez, reagiu fortemente, chegando ao ponto de levantar a possibilidade de encerrar os seus serviços.
O meta-caso não está isolado. As grandes empresas de tecnologia estão enfrentando um aumento nos processos judiciais sobre a proteção de crianças online. Em março, descobriu-se que Meta e Google eram responsáveis pelo agravamento da depressão num adolescente nos EUA, especificamente num ensaio sobre dependência de redes sociais. Ambos os sites foram condenados a pagar pelo menos US$ 3 milhões em restituição à vítima.
Ao mesmo tempo, vários países, incluindo a França, estão a considerar proibir as redes sociais para menores de 15 anos. Entre os crescentes requisitos regulamentares e os desafios tecnológicos, a identificação fiável da idade está a tornar-se uma questão central. Na Austrália, onde a proibição está em vigor desde dezembro passado, a lei parece ter tido pouco efeito, uma vez que os jogadores das redes sociais não têm ferramentas para envelhecer adequadamente os seus utilizadores.
Portanto, esta nova abordagem pode parecer uma solução. Porém, analisando até as características físicas, a equipe avança em termos de sensibilidade. Porque por detrás da promessa de uma melhor protecção para as crianças, emerge outra realidade: uma vigilância crescente, algorítmica e sempre pouco fiável e, por isso, muitas vezes tem de competir.
