Meta usou funcionários se passando por crianças para testar chatbots rivais
Meta orientou terceirizados a se passarem por adolescentes para testar como chatbots rivais reagiam a pedidos sobre suicídio, sexo e outros temas de alto risco, de acordo com a versão eletrônica da revista norte-americana Wired.
O que aconteceu
Projeto interno chamado Cannes mirou ChatGPT, Gemini e Character.AI, segundo documentos e relatos obtidos pela revista. A operação foi conduzida pela contratada Covalen e estava ativa pelo menos até 21 de abril deste ano.
Orientação aos trabalhadores era criar contas falsas de menores de 18 anos e enviar textos e imagens para provocar respostas que os sistemas de segurança deveriam recusar. Uma rodada concluída em agosto de 2025 aplicou mais de 45.000 prompts nos serviços, segundo a reportagem.
Planilhas analisadas pela publicação registravam perfis fictícios e as respostas dos bots, com temas como automutilação, transtornos alimentares, sexo, drogas e xingamentos. Entre as imagens enviadas pelos contratados havia itens como comprimidos e facas, de acordo com a publicação.
Meta diz que a prática é rotineira e voltada à segurança. "Testar e comparar respostas de chatbots para ajudar a garantir experiências seguras e apropriadas para cada idade é uma prática responsável e padrão da indústria, e qualquer sugestão contrária simplesmente não entende como empresas de tecnologia trabalham para refinar e melhorar seus sistemas", afirmou um porta-voz da empresa, em comunicado à Wired.
Ex-terceirizados relataram desconforto com o conteúdo e com o formato do trabalho. "Eu vi muita coisa que eu gostaria de não ter visto enquanto fazia esse trabalho", disse um ex-funcionário terceirizado, sob anonimato, para a revista.
Por que os rivais não gostam desse tipo de teste
Empresas citadas na reportagem afirmam que a iniciativa viola regras de uso e pode tentar burlar barreiras de segurança. OpenAI proíbe testes de segurança não solicitados e tentativas de contornar proteções, enquanto o Google veta esforços para driblar filtros fora de programas próprios de segurança e correção de falhas, segundo a WIRED.
Character.AI disse que não autorizou a ação e que ela fere políticas da plataforma. "Essa suposta ação não é apenas uma violação dos nossos Termos de Serviço, mas também uma violação dos personagens e mundos que nossa comunidade criou", afirmou um porta-voz da empresa, em e-mail à Wired.
Além das regras, o uso de perfis que aparentam ser de crianças é o ponto mais sensível para especialistas. "Estruturar um projeto de meses, em grande escala, que parece desenhado para quebrar sistematicamente essas regras, por meio de contas falsas que se passam por crianças, está fora do que normalmente é descrito como avaliação 'padrão da indústria'", disse Rumman Chowdhury, CEO da Humane Intelligence.
Relatos de ex-contratados também levantam dúvidas sobre o destino do material coletado e os riscos de lidar com conteúdo envolvendo menores. "Todo mundo que eu conhecia que trabalhou nesse projeto ficou completamente chocado com os textos que pediam para a gente testar. Tipo, será que a gente não vai se meter em encrenca por fazer isso?", afirmou um ex-funcionário terceirizado, sob anonimato, à Wired.
