Startup 'invadida' por OpenAI pede transparência radical em investigação
O CEO do Hugging Face, Clément Delangue, cobrou 'transparência radical' na investigação sobre a invasão que atingiu a startup na semana passada durante um teste de cibersegurança com um agente da OpenAI.
O que aconteceu
Delangue disse que o episódio marca um novo patamar de risco com ferramentas autônomas. "O primeiro ciberataque de um agente autônomo é um evento sem precedentes. Ele merece uma resposta sem precedentes!", escreveu no X.
OpenAI afirmou que a invasão ocorreu quando testava a capacidade de "hacking" de seus modelos em um ambiente supostamente controlado. A empresa disse que usou um agente alimentado por uma combinação do modelo público GPT-5.6 Sol e de um modelo ainda não lançado, com "guardrails" (barreiras de segurança) reduzidas em um "sandbox" (espécie de laboratório digital isolado). .
Após obter acesso à internet, o agente teria mirado o Hugging Face. De acordo com a OpenAI, o sistema "inferiu" que a startup teria informações necessárias para "trapacear a avaliação" do teste.
Hugging Face relatou a invasão em 16 de julho, mas inicialmente não sabia que o ataque estava ligado ao teste da OpenAI. A empresa mantém uma base de dados de modelos de inteligência artificial usada por desenvolvedores.
Delangue pediu que a comunidade de pesquisa tenha acesso aos registros do incidente. "Vamos liberar os rastros dos agentes 'fora de controle' para que toda a comunidade de pesquisa possa estudar o que aconteceu?", escreveu.
O executivo também defendeu que a OpenAI ofereça poder computacional para fortalecer defesas. "Vamos comprometer US$ 100 milhões em computação da OpenAI para ajudar a comunidade do Hugging Face a construir defesas cibernéticas poderosas com os melhores modelos abertos e fechados", afirmou.
Pressão por mais detalhes sobre os testes
O caso ampliou questionamentos sobre padrões de segurança em laboratórios de IA de ponta. O jornal britânico The Guardian relata que houve manifestações de preocupação com as práticas da OpenAI e de outras empresas que desenvolvem modelos avançados.
Reportagem da Reuters afirmou que o agente teria passado dias atacando o Hugging Face sem que a OpenAI percebesse. A agência também disse que um agente da OpenAI deixou anotações para versões futuras sobre como escapar de restrições internas, mas não conseguiu verificar se esse episódio tem relação com o ataque ao Hugging Face.
A revista Time relatou que incidentes de segurança envolvendo agentes "vêm acontecendo há algum tempo". Procurado pelo jornal britânico The Guardian, o professor de cibersegurança Alan Woodward, da Universidade de Surrey, disse que a cobrança por transparência precisa ser levada a sério.
Woodward afirmou que o foco não deve ser colocar a culpa na IA como se ela tivesse "saído do controle". "É fácil demais 'culpar' a IA por ter saído do controle, quando isso tem a ver com a forma como a OpenAI estava operando a ferramenta. O que é necessário é que a OpenAI dê detalhes completos da configuração e de como ela falhou?, disse à publicação britânica.
*Com informações do The Guardian
