Líder de IA do Google pede que EUA crie fiscalização global da tecnologia
Demis Hassabis, CEO do Google DeepMind (divisão de IA do Google), defende que os EUA liderem a criação de um órgão global para fiscalizar os modelos mais avançados de IA (inteligência artificial), em entrevista ao site norte-americano Axios e em manifesto publicado no X.
O que aconteceu
Hassabis propõe um "fiscal" com poder de testar modelos de ponta antes do lançamento e, se necessário, coordenar uma desaceleração do setor. Ele diz que a regulação precisa ser mais "sistemática", com financiamento da indústria, equipe técnica de alto nível e supervisão do governo dos EUA.
Riscos cibernéticos já funcionam como sinais de alerta, na avaliação do executivo. Em entrevista ao Axios, ele afirmou que as ameaças atuais são "tiros de advertência" e que, em até 18 meses, capacidades perigosas podem aparecer em modelos de código aberto fora do controle de governos.
O CEO do DeepMind também diz que o problema não se limita ao código aberto. Ele sustenta que os maiores riscos devem vir de modelos proprietários mais poderosos que ainda serão lançados pelos grandes laboratórios.
Em manifesto, Hassabis afirma que decisões tomadas agora vão influenciar o rumo do desenvolvimento da IA. "O que fizermos coletivamente agora determinará como a próxima fase da civilização vai se desenrolar", escreveu.
Ele diz ter buscado apoio para a ideia antes de torná-la pública. "Os sinais que tenho ouvido são muito positivos", afirmou ao Axios, ao relatar conversas com o governo Trump, líderes de outros laboratórios e autoridades europeias.
Como seria o órgão proposto
A proposta mira um modelo inspirado na Finra, entidade privada que supervisiona o mercado financeiro sob a SEC nos EUA. A ideia é que laboratórios de "fronteira" (ou seja, as grandes empresas do setor de IA que criam os modelos mais avançados) compartilhem voluntariamente seus modelos com até 30 dias de antecedência para testes de segurança.
Os testes buscariam identificar capacidades perigosas, como ataques cibernéticos, riscos biológicos e comportamentos de "decepção". Se o sistema de avaliação se mostrar "efetivo e robusto", Hassabis defende que a exigência possa virar regra para operar no mercado americano.
Hassabis sugere um conselho com maioria independente, reunindo vencedores do Prêmio Turing e outros especialistas, além de representantes da indústria, do governo e do ecossistema open source. Ao Axios, ele disse que o selo de "modelo" testado pode virar um ativo de prestígio.
As regras valeriam para qualquer modelo classificado como "fronteira", independentemente do país de origem e de ser aberto ou fechado. Os critérios seriam atualizados conforme as capacidades evoluem, com o objetivo de manter o escopo do que precisa ser testado. "Modelos de fronteira" são os sistemas, modelos ou capacidades de IA mais avançados disponíveis no momento.
Pressão por regras após medidas improvisadas
Hassabis cita como "alerta" a. Segundo ele, a falta de protocolos claros levou a uma intervenção improvisada, que congelou modelos por uma ordem de controle de exportação e abriu uma negociação de semanas para liberar o uso.
O episódio também influenciou outros laboratórios. A OpenAI teria aceitado restringir o GPT-5.6 a parceiros aprovados pelo governo no lançamento, antes de após testes e conversas com o Departamento de Comércio.
O debate sobre regulação ganhou força entre líderes do setor nos EUA. O CEO da Anthropic, Dario Amodei, também defende regras vinculantes e já sugeriu uma agência no estilo da FAA (Administração Federal de Aviação), com poder de barrar modelos considerados inseguros.
Para Hassabis, a chegada de uma IA geral (AGI), com capacidades cognitivas comparáveis às humanas, pode estar a poucos anos. No manifesto, ele descreveu o momento como a "base da singularidade [momento em que a tecnologia supera os humanos]" e escreveu: "Essencialmente encontramos um jeito de fazer a areia pensar. É milagroso".
