Meta veiculou anúncios de abuso infantil criados por IA, diz revista
Meta exibiu anúncios pagos com imagens de abuso sexual infantil geradas por inteligência artificial e com apelos sexualizados envolvendo menores, segundo reportagem da revista americana Wired.
O que aconteceu
Mais de 50 anúncios com imagens e vídeos abusivos foram encontrados na biblioteca de anúncios da Meta por pesquisadores do Tech Transparency Project (TTP). De acordo com a revista Wired, as peças circularam em plataformas como Facebook, Instagram, Messenger e Threads e, em alguns casos, direcionavam para apps de "nudificação" (que simulam tirar a roupa) ou sites semelhantes.
Os anúncios foram publicados entre novembro do ano passado e o início de agosto e ficaram disponíveis por meses na ferramenta de transparência da empresa. Segundo os pesquisadores, parte do material chegou a ser exibida para milhares de contas, com segmentação para pessoas nos EUA, Reino Unido e mais de uma dezena de países europeus.
Uma das peças citadas pelo TTP usava a miniatura de uma criança e sugeria "fantasias" com IA. Os pesquisadores afirmam que, ao clicar, o vídeo mostrava cenas sexuais com adultos e depois inseria o rosto da criança em uma cena de sexo, em um exemplo de manipulação por IA.
Katie Paul, diretora do TTP, diz que o problema não foi apenas conteúdo publicado por usuários, mas publicidade aprovada pela empresa. "Esses anúncios não fizeram nenhum esforço para mascarar as imagens ou esconder o que estavam promovendo. É importante destacar que isso não é conteúdo postado por terceiros no Facebook ou Instagram; são anúncios que foram revisados, aprovados e autorizados a rodar pela Meta, sem sofrer interferência enquanto a empresa arrecadava o dinheiro da publicidade", afirmou Katie à revista americana.
Após ser procurada pela Wired, a Meta removeu os anúncios e informou que eles violavam suas políticas. "A exploração sexual é horrível, e trabalhamos de forma agressiva para mantê-la fora da nossa plataforma. A maioria desses anúncios teve alcance mínimo e muitos foram desativados antes de a Wired compartilhá-los. Muitos desses anúncios também são anteriores a uma nova tecnologia de IA que lançamos recentemente para detectar e bloquear anúncios que violam regras no envio — e estamos melhorando esses sistemas o tempo todo. De remover mais de 36 milhões de conteúdos de exploração sexual infantil no ano passado a tomar medidas legais contra desenvolvedores de apps de nudificação, vamos continuar combatendo esse abuso sem parar", disse um porta-voz da Meta à Wired.
Alcance e falhas de detecção
Dados da biblioteca de anúncios indicam que ao menos uma peça alcançou 2.563 contas na Europa, em países como França, Alemanha, Irlanda, Itália, Holanda, Espanha, Suécia e Reino Unido. A Wired ressalta que a ferramenta não traz métricas completas para todos os países, o que pode significar que o alcance total foi maior.
O TTP afirma ter encontrado inicialmente cerca de duas dezenas de anúncios e, horas antes da publicação, identificou mais cerca de 30. Segundo a organização, parte desse novo lote foi publicada depois de a Wired ter questionado a Meta sobre o tema, e alguns anúncios ainda estavam no ar quando foram localizados.
Katie, da TTP, diz que havia anúncios repetidos que já teriam sido removidos anteriormente pela própria Meta. "Isso levanta questões importantes sobre o quão seriamente a Meta está levando a exploração infantil em anúncios pagos se seus próprios sistemas conseguem identificar anúncios idênticos, mas não remove esses anúncios idênticos por material de abuso sexual infantil", afirmou à Wired.
Apps de nudificação e reação de outras empresas
Parte dos anúncios levava a aplicativos e sites que prometem "despir" pessoas com IA, um tipo de serviço associado à criação de pornografia não consensual. A reportagem cita o app MaskAI, que estava na App Store da Apple e, segundo a Wired, exibia conteúdo pornográfico gerado por IA após o download e permitia enviar imagens para troca de rostos em situações sexuais.
Depois de ser procurada pela Wired, a Apple retirou o MaskAI da loja por violar suas regras. A empresa afirmou, segundo a reportagem, que sempre proibiu apps feitos para gerar, distribuir ou consumir pornografia.
Organizações de segurança online dizem que o ecossistema de "nudificação" se adapta rápido para driblar bloqueios. "Temos sido claros que apps de nudificação representam um problema genuinamente adversarial, não só por causa de quem está por trás deles, mas por causa de quão rapidamente esse ecossistema se adapta em torno de qualquer ponto único de fiscalização", disse a Revenge Porn Helpline (serviço de apoio para pornografia de vingança do Reino Unido) à Wired.
O pesquisador Alexios Mantzarlis afirma que redes de anunciantes conseguem criar novas contas e domínios para continuar operando. "Os atores do outro lado estão claramente bem equipados para criar novas contas de anunciantes e novos domínios para que possam continuar, aproveitando as mesmas técnicas usadas por redes de golpes. Infelizmente, essa indústria de abuso sexual baseado em imagem deixou de ser uma novidade e virou um elemento permanente do nosso ecossistema online por causa de uma fiscalização tímida das plataformas em toda a cadeia", disse Mantzarlis à Wired.
