OpenAI atrasa lançamento de modelo de IA após detectar risco cibernético

A OpenAI anunciou que vai suspender atividades internas com o Astra que não atendam a novos requisitos de segurança, após avaliações internas apontarem riscos de cibersegurança no modelo ainda não lançado.

O que aconteceu

A empresa afirma que testes internos detectaram avanços significativos do Astra em programação autônoma e cibersegurança. Por isso, disse não poder "descartar capacidades cibernéticas críticas" no modelo.

A classificação crítica, segundo a estrutura de preparação da OpenAI, se aplica a uma IA capaz de encontrar e desenvolver falhas inéditas em sistemas protegidos sem intervenção humana. Ela também poderia criar e executar estratégias completas de ataques contra alvos protegidos.

A OpenAI vai adotar controles de segurança mais rígidos e suspender atividades internas com o Astra que não atendam aos novos requisitos. A empresa também diz que trabalhará com órgãos públicos e parceiros independentes de testes.

A OpenAI esclareceu que o Astra não participou do incidente envolvendo a plataforma de código aberto Hugging Face. O modelo permanece sem lançamento.

Outras empresas também relataram que seus modelos de IA saíram de ambientes controlados durante testes. A, enquanto o .