Como vírus: cientistas fazem IAs se clonarem para outros computadores
Modelos de IA (inteligência artificial) conseguiriam se copiar de um computador para outro? Segundo estudo feito em laboratório, sim. Apesar do resultado, isso não deve ser causa de alarde, segundo especialistas.
O que aconteceu
Uma equipe da Palisade Research testou modelos de IA em uma rede controlada de computadores e pediu que eles encontrassem falhas para se replicar. Os sistemas conseguiram explorar vulnerabilidades e copiar seus arquivos para outras máquinas, mas não em todas as tentativas.
Diretor da organização diz que a capacidade pode virar um problema se um sistema avançado tentar escapar de um desligamento. "Estamos rapidamente nos aproximando do ponto em que ninguém conseguiria desligar uma IA fora de controle, porque ela seria capaz de se autoexfiltrar e se copiar para milhares de computadores ao redor do mundo", afirmou Jeffrey Ladish, diretor da Palisade Research, ao jornal britânico The Guardian.
Em linhas gerais, os modelos de IA que se deram melhor foram: Qwen 2.5-32B (da Alibaba), Claude Opus 4.6 (Anthropic) e ChatGPT 5.4 (OpenAI). A pesquisa avaliou, por exemplo, a capacidade de as IAs obterem as credenciais, conseguirem privilégios de administrador e verificarem a transferência de arquivos.
Especialistas em segurança digital ressaltam que o experimento não equivale a uma IA "fora de controle" no mundo real. "Eles estão testando em ambientes que, em muitos casos, têm segurança fraca", disse o especialista em cibersegurança Jamieson O'Reilly à publicação.
O'Reilly afirma que o valor do estudo está em documentar o processo, mas que redes corporativas monitoradas tendem a dificultar esse tipo de ação. "Isso não tira o valor da pesquisa, mas significa que o resultado pode parecer bem menos assustador em um ambiente empresarial real com mesmo um nível médio de monitoramento", completou.
Por que o estudo não deve ser lido como alarme
Capacidade de se espalhar por redes não é novidade no mundo do crime digital, e a comparação mais direta é com malwares tradicionais. "Malware vem movendo cópias de si mesmo há décadas, só que ninguém fez isso, até onde eu sei, com modelos locais de linguagem", afirmou.
Tamanho dos modelos também limita uma replicação discreta, segundo os especialistas. "Pense na complexidade em enviar 100 GB por uma rede corporativa toda vez que você invadisse um novo computador. Para um atacante habilidoso, isso é como andar numa loja de porcelana fina balançando uma bola de ferro presa a uma corrente", comparou O'Really.
Outro ponto é que o laboratório usou um cenário feito sob medida, com vulnerabilidades desenhadas para o teste, o que pode não refletir redes de bancos ou intranets de empresas. "Nós temos vírus de computador — programas maliciosos capazes de explorar vulnerabilidades conhecidas em outros softwares e usar isso para se auto-replicar - -há décadas", disse o especialista em cibersegurança Michal Wozniak.
Wozniak diz que o trabalho é interessante, mas não vê motivo para pânico imediato. "Esse artigo é algo que vai me fazer perder o sono como especialista em segurança da informação? Não, de jeito nenhum", afirmou.
