Adolescentes conseguem baixar aplicativos de nudez por IA com controle parental

Menores de idade conseguem baixar com facilidade aplicativos de inteligência artificial capazes de gerar imagens íntimas falsas, mesmo com os controles parentais de grandes plataformas ativados. O problema foi revelado por uma investigação recente conduzida pelo Tech Transparency Project, que expôs falhas críticas na fiscalização e na classificação etária das lojas digitais administradas por Apple e Google.

Durante a apuração, pesquisadores criaram quatro contas de teste configuradas para usuários de 13 anos, sendo duas na App Store e duas na Google Play Store. Com esses perfis, a equipe conseguiu localizar e baixar 135 aplicativos dotados de recursos para remover digitalmente vestimentas ou inserir rostos em corpos nus, utilizando apenas imagens femininas geradas de forma sintética.

O levantamento demonstrou que os mecanismos de proteção familiar falharam em barrar o acesso a esse tipo de conteúdo. A conta vinculada à Apple baixou 24 aplicativos, enquanto a conta do Google obteve 51 ferramentas, sem que houvesse exigência ou solicitação de autorização dos responsáveis legais pelas contas infantis.

A auditoria também escancarou distorções graves nas categorias informadas aos sistemas. Um dos aplicativos encontrados exibia classificação indicativa para maiores de nove anos, apesar da promessa de despir digitalmente qualquer pessoa. Outro programa, divulgado com uma imagem de apelo sexual explícito, constava como apropriado para crianças a partir de quatro anos.

As vulnerabilidades permitiram até mesmo a contratação de assinaturas pagas por meio da conta de 13 anos sem que os pais recebessem qualquer tipo de alerta. Em outra etapa dos testes, a plataforma da Apple permitiu que o perfil adolescente alterasse a declaração de idade para 17 anos para ter acesso a um app restrito.

O impacto dessas falhas ultrapassa o ambiente laboratorial e já afeta estudantes no cotidiano. Casos recentes nos Estados Unidos registraram o uso indevido de ferramentas de manipulação visual para produzir material pornográfico falso envolvendo menores de idade, pegando vítimas e famílias de surpresa diante do alcance dessas tecnologias.

Questionadas sobre as falhas, as empresas tomaram medidas pontuais de remoção e revisão. A Apple removeu 25 aplicativos durante a pesquisa e passou a exigir novas diretrizes para que desenvolvedores previnam imagens íntimas não consensuais. Já o Google informou que suspendeu programas irregulares, aplicou restrições a termos de busca relacionados e continua investigando infrações em sua loja.

Especialistas destacam que a dependência das plataformas em relação às informações declaradas pelos próprios desenvolvedores compromete a segurança digital. O episódio reforça que apenas ativar o controle parental pode não ser suficiente para blindar menores contra conteúdos impróprios ou ferramentas de criação de deepfakes.