OpenAI diz que alguns modelos de IA saíram do controle durante testes em ambiente controlado
A OpenAI informou hoje que alguns de seus modelos de inteligência artificial saíram do controle durante um teste de segurança e provocaram um ataque digital que comprometeu a infraestrutura da startup de IA Hugging Face na semana passada.
A OpenAI explicou em comunicado que estava testando as capacidades de alguns de seus modelos mais avançados em um ambiente controlado, mas que eles conseguiram escapar do isolamento, acessar a internet e invadir a Hugging Face para tentarem atingir o objetivo do teste.
O comunicado descreveu a fuga como "um incidente cibernético sem precedentes, envolvendo recursos cibernéticos de última geração" e afirmou que a empresa está reforçando suas medidas de segurança.
A Hugging Face, uma plataforma usada para hospedar grandes modelos de linguagem e conjuntos de dados de código aberto, causou alvoroço na comunidade de segurança digital ao anunciar na semana passada que havia sido alvo de um ataque eletrônico "diferente de tudo o que já havíamos enfrentado antes", na medida em que "foi conduzido, do início ao fim, por um sistema autônomo de agentes de IA".
A revelação da OpenAI de que seus modelos avançados foram responsáveis pela violação, apesar de tê-los colocado no que descreveu como "um ambiente altamente isolado", provavelmente intensificará a inquietação em relação ao poder e ao risco dos modelos de IA mais sofisticados.
