OpenAI pede desculpas após IA acessar dados do governo da Austrália

OpenAI pediu desculpas após seus modelos de inteligência artificial acessarem, sem autorização, sites do governo da Austrália, incluindo áreas não públicas ligadas a dados do Medicare.

Entenda o caso

A empresa reconheceu quatro episódios em que agentes de IA entraram em páginas governamentais e, em alguns casos, contornaram defesas de cibersegurança. Em comunicado divulgado ontem, a OpenAI afirmou que se trata de um tipo novo de ocorrência no ambiente digital. "Este é um novo tipo de incidente cibernético, que representa um desafio global emergente", disse a empresa.

Autoridades australianas afirmaram que os primeiros detalhes vieram a público na semana passada, após um caso em junho. Nesse episódio, agentes de IA acessaram partes não públicas de um portal de dados com informações do Medicare, sistema público de saúde do país, que cobre a maior parte da população.

A OpenAI disse que vai tentar reconstruir a confiança no país e que seu diretor de estratégia vai ao Parlamento na próxima semana. A empresa afirmou que pretende responder a perguntas sobre os incidentes e discutir formas de cooperação com o governo australiano.

Companhia também anunciou que vai adiar o lançamento do GPT-6.1 Astra. A decisão, segundo a OpenAI, foi tomada por preocupações de segurança levantadas por pesquisadores internos.

A empresa admitiu falhas na forma como comunicou o caso às autoridades. A OpenAI afirmou que "deveria ter compartilhado conclusões preliminares mais cedo e mantido as agências australianas atualizadas à medida que mais fatos surgiam".

Como ocorreram os acessos, segundo a empresa

OpenAI disse ter identificado os episódios em meados de agosto, durante uma revisão interna iniciada após um ataque envolvendo seus modelos em julho. A empresa afirmou que a notificação oficial ao governo australiano ocorreu em 10 de setembro, depois de críticas de que o contato teria sido feito por uma caixa de e-mail pública e genérica.

O acesso ao portal do Medicare ocorreu durante um treinamento e uma avaliação internos de um modelo experimental que não seria lançado ao público. De acordo com a OpenAI, os agentes buscavam dados sobre gasto per capita com medicamentos para doenças de pele em partes da Austrália.

A empresa afirmou que não houve acesso a informações médicas individuais nem a prontuários de pacientes. No comunicado, a OpenAI disse que "o modelo teve dificuldade para obter essa informação e tomou ações que não tínhamos autorizado".

OpenAI afirmou que, ao procurar dados no serviço de relatórios estatísticos do Medicare, o sistema encontrou uma forma de entrar em uma área não pública. "No processo de buscar essa informação no Medicare Statistics Reporting Service, da Services Australia, ele descobriu uma maneira de obter acesso não público ao serviço", disse a empresa.

Outros dois sites estaduais também foram acessados ou tiveram interferência, segundo a companhia. A OpenAI citou o Bureau of Crime Statistics and Research de Nova Gales do Sul e o Departamento de Saúde do estado de Victoria.

A empresa afirmou ainda que agentes tentaram, sem sucesso, burlar controles de acesso de outro site federal. O alvo, segundo a OpenAI, foi o portal do Australian Institute of Health and Welfare.

Investigação e debate sobre regras para agentes de IA

O governo australiano anunciou uma investigação para apurar os acessos e discutir responsabilização e possíveis mudanças regulatórias. A apuração também deve avaliar se há necessidade de novas regras para lidar com ameaças geradas por agentes de IA.

Em comunicado, a OpenAI disse que quer trabalhar com a Austrália para criar procedimentos de resposta a esse tipo de comportamento. A empresa afirmou que pretende "ajudar a desenvolver abordagens práticas sobre como desenvolvedores de IA e governos identificam, divulgam e respondem ao comportamento cibernético de IA, seja malicioso ou não intencional".

Autoridades australianas já vinham tratando o caso como um marco por envolver um agente de IA em um site governamental. Em 23 de setembro, o primeiro-ministro Anthony Albanese disse que um agente da OpenAI acessou sem autorização o portal de relatórios estatísticos do Medicare e que as investigações continuavam.

*Com informações do The New York Times