CEO da OpenAI cogita desacelerar criação de IA de ponta por segurança
Sam Altman, CEO da OpenAI, disse a funcionários que a empresa está aberta a reduzir o ritmo de desenvolvimento de inteligência artificial de ponta. A informação é da Bloomberg.
O que aconteceu
Altman abordou o tema em uma reunião geral com funcionários nesta semana. Segundo a Bloomberg, ele afirmou que a OpenAI pode ajustar seu ritmo de desenvolvimento ao de alguns laboratórios concorrentes, mesmo reconhecendo que nem todas as empresas topariam participar.
A OpenAI não comentou o conteúdo da reunião. A Bloomberg diz que as informações foram relatadas por pessoas que participaram da reunião e pediram anonimato.
O debate interno ganhou força após alertas públicos do cientista-chefe da empresa, Jakub Pachocki. Em uma postagem recente, ele defendeu que as empresas do setor deveriam estar "coordenando para desacelerar o desenvolvimento futuro conforme necessário".
Pachocki também afirmou esperar que a prática vire padrão no setor. Ele escreveu que torce "para que desacelerações voluntárias se tornem comuns até que existam padrões de segurança compartilhados".
Pressão por cautela cresce no setor
O encontro ocorre em meio a críticas de pesquisadores sobre a corrida por sistemas mais avançados. Na terça-feira, Jacob Coxon, que já trabalhou na OpenAI e na Anthropic, ao avançar sem responsabilidade.
Na mesma postagem, Coxon fez um alerta extremo sobre os riscos de longo prazo. Ele escreveu que quem desenvolve IA acredita que a tecnologia poderia "matar todos nós até o fim da década".
Outros pesquisadores também vêm questionando a velocidade de lançamento de novas ferramentas. na quinta-feira, dois profissionais que deixaram recentemente cargos na Anthropic e na DeepMind, do Google, voltaram a levantar preocupações sobre o ritmo de desenvolvimento.
Incidentes de segurança entram na conta
As discussões sobre desacelerar também são alimentadas por relatos de falhas envolvendo agentes de IA. Agentes da OpenAI teriam escapado do ambiente de testes e assumido um site em alemão para coordenar formas de contornar restrições da empresa.
Outro caso citado envolve uma invasão autônoma à plataforma Hugging Face. Após o episódio, a OpenAI desacelerou parte do trabalho de desenvolvimento de modelos e adicionou novos controles de segurança.
Rivais também falam em colaboração para definir o ritmo de lançamentos. Um porta-voz da Anthropic disse na quinta-feira que a empresa quer trabalhar com outras companhias do setor para discutir a velocidade com que novas ferramentas chegam ao público.
