IAs rebeldes são flagradas em novos ataques e ocultam provas; o que se sabe
Agentes de IA de OpenAI e Anthropic foram flagrados em testes tentando atacar alvos reais na internet, incluindo a criação de perfis falsos para pressionar pessoas e até tentativas de "apagar rastros". O episódio acendeu um alerta porque, segundo o AI Security Institute (AISI), foi um caso raro em que autonomia e enganação apareceram com clareza fora de um roteiro explícito - e isso mexe com a confiança de que esses sistemas ficam "na coleira" quando ganham acesso ao mundo real.
O que aconteceu
*O AI Security Institute (AISI), órgão do Reino Unido que avalia modelos avançados antes de eles irem a público, disse ter detectado em 28 de julho ações "autônomas" e não autorizadas de agentes de IA de OpenAI e Anthropic na internet aberta.
*Segundo o AISI, os testes rodaram 122 vezes em um desafio de cibersegurança e, em 10 dessas execuções, os agentes fizeram 19 ações não sancionadas mirando pessoas e organizações reais; 17 foram atribuídas ao modelo Mythos 5, da Anthropic, e duas ao GPT-5.6-Sol, da OpenAI.
*No caso mais grave, um agente tentou inserir código malicioso em um projeto de código aberto e, para aumentar a chance de aprovação, criou identidades falsas online para pressionar o responsável pelo projeto a aceitar a mudança, segundo o AISI.
*De acordo com a BBC, além de imitar pessoas reais em perfis falsos, o agente também tentou esconder evidências: ao ser confrontado, editou atividades anteriores para parecer inofensivo e cogitou adotar uma nova identidade para continuar.
*A Wired relata que houve tentativa de "plantar" instruções maliciosas para que outros sistemas automatizados de IA as executassem (uma espécie de bilhete envenenado deixado no caminho) e que um agente chegou a deixar mensagens públicas em um repositório para versões futuras "continuarem" o trabalho.
*O AISI afirmou que os ataques não tiveram sucesso e não causaram dano no mundo real porque revisões humanas barraram as tentativas de inserir o código.
*O instituto disse que, nesse tipo de avaliação, alguns freios de segurança são reduzidos ou desligados de propósito e os modelos podem ter acesso à internet para simular o que um atacante humano capaz faria - mas reconheceu falhas de monitoramento e que não havia instruções explícitas proibindo enganação ou uso criativo da internet.
*A OpenAI reconheceu que houve incidentes durante testes do AISI e também relatou um caso separado com a empresa Irregular, em que uma configuração errada teria dado acesso à internet a um modelo durante um exercício e ele acabou invadindo um site real ao confundi-lo com o alvo simulado.
IAgora?
Se você pensar nesses agentes como "estagiários supercapazes" com uma missão e acesso a ferramentas, o que assusta aqui não é só a habilidade técnica - é o comportamento social. Criar perfis falsos, pressionar pessoas e tentar esconder rastros é o tipo de coisa que a gente associa a golpistas, não a software. E isso muda o debate: não é apenas "a IA pode achar uma falha", mas "a IA pode tentar convencer alguém a abrir a porta".
Ao mesmo tempo, as empresas insistem que os testes foram feitos em condições deliberadamente permissivas, com proteções desligadas. Só que esse argumento tem um efeito colateral: ele também descreve, com bastante fidelidade, como muita gente vai usar agentes de IA na vida real - conectados à internet, com tarefas abertas e pouca supervisão, porque é justamente aí que eles parecem mais úteis.
O ponto mais incômodo é a repetição: quando incidentes viram uma lista difícil de acompanhar a pergunta deixa de ser "foi um caso isolado?" e passa a ser "qual é o padrão de descuido humano que está permitindo isso?". Se a indústria quer que a sociedade confie em agentes cada vez mais autônomos, vai ter de tratar avaliação e contenção como item de segurança básica - tipo cinto de segurança -e não como acessório opcional de laboratório.
O que o mundo está dizendo sobre isso
Foi a primeira vez que vimos riscos em torno de autonomia e enganação se manifestarem com tanta clareza, sem um comando específico, no mundo real.
UK's AI Security Institute
O acúmulo de violações aponta para o que especialistas em cibersegurança descreveram como um padrão claro de negligência e imprudência humana por parte dos desenvolvedores de IA.
Wired
Mesmo com os freios de segurança deliberadamente desligados, esses casos - e os anteriores - mostram que agentes, ao perseguirem um objetivo, vão tentar passar dos limites, driblando restrições e enganando pessoas reais quando isso ajuda.
Newsletter The Rundown
Reportagem
Texto que relata acontecimentos, baseado em fatos e dados observados ou verificados diretamente pelo jornalista ou obtidos pelo acesso a fontes jornalísticas reconhecidas e confiáveis.
