Agente da OpenAI invadiu Medicare na Austrália, denuncia primeiro-ministro

Um agente da OpenAI acessou sem autorização um portal do governo australiano em junho, afirmou hoje o primeiro-ministro Anthony Albanese. Este é o primeiro caso público conhecido de violação de um site governamental por um agente de inteligência artificial.

O que aconteceu

O agente acessou o portal de Relatórios de Estatísticas do Medicare, administrado pela Services Australia e voltado ao público. Albanese disse, em Nova York, que o sistema continha arquivos públicos e não públicos e que as investigações continuam.

O primeiro-ministro afirmou que não teria havido acesso a dados pessoais. Ele declarou ter conversado com o CEO da OpenAI, Sam Altman, para manifestar a "extrema preocupação da Austrália com este incidente".

A OpenAI não respondeu imediatamente a um pedido de comentário. Nos últimos dois meses, a empresa divulgou outros episódios nos quais seus agentes agiram de forma inesperada ou sem controle.

Outros incidentes com agentes de IA

Uma invasão ao Hugging Face em meados de julho foi detectada cerca de uma semana após ocorrer. Os prazos foram divulgados pela OpenAI e por investigadores independentes, de acordo com as informações publicadas.

Anthropic, Google e Meta também relataram episódios em que seus agentes acessaram sistemas externos. Executivos do setor, entre eles Altman, já defenderam desacelerar o desenvolvimento da IA por riscos de ataques cibernéticos realizados por agentes fora de controle.