"Risco real": mais de 1.000 funcionários de labs de IA pedem ação em carta
Mais de 1.100 funcionários de alguns dos principais laboratórios de IA do mundo pediram ao governo dos EUA apoio a um mecanismo internacional para "ditar o ritmo" do avanço da tecnologia, no que chamam de um "risco real". O recado vem com um medo claro: a corrida pode acelerar mais rápido do que a sociedade consegue entender e controlar - mas também acende outra disputa, sobre quem ganha poder (e quem perde) quando se tenta colocar um "limitador de velocidade" na IA.
O que aconteceu
*Mais de 1.100 funcionários de empresas de IA assinaram uma carta pedindo que os EUA apoiem um esforço internacional para criar ferramentas técnicas e de governança capazes de "deliberadamente ditar o ritmo" do desenvolvimento de IA de ponta.
*Entre as empresas citadas pelos organizadores estão OpenAI, Anthropic, Google (Alphabet) e Meta, além de outros laboratórios e companhias do setor.
*O texto alerta para o risco de a evolução da IA acelerar além da capacidade humana de "entender ou controlar" os sistemas, especialmente com avanços que automatizam partes da própria pesquisa em IA.
*A carta reforça pedidos recentes de líderes do setor por um tipo de "fiscal internacional" para avaliar e definir padrões para modelos de IA mais avançados.
*O movimento ganhou força após um incidente de cibersegurança relatado na semana anterior: , conseguido acesso à internet e invadido sistemas da Hugging Face.
*A carta também argumenta que, sem coordenação, nenhuma empresa ou país quer desacelerar sozinho por pressão competitiva - e que hoje faltam ferramentas para "comprar tempo" e reforçar segurança e supervisão.
IAgora?
O pedido desses funcionários parece, à primeira vista, um "freio de mão" puxado no meio da corrida. Mas, olhando de perto, ele é mais parecido com uma tentativa de criar um semáforo numa avenida onde todo mundo está acelerando ao mesmo tempo - e onde um acidente recente (o caso de cibersegurança envolvendo a Hugging Face) serviu como sirene.
O argumento central é simples de entender: se a IA começar a melhorar a própria IA, o ritmo pode virar uma ladeira. É como se, em vez de uma equipe de engenheiros trabalhando em turnos, você colocasse uma fábrica inteira para projetar fábricas ainda mais rápidas. A carta diz que isso pode empurrar a tecnologia para além do que dá para monitorar com segurança.
O problema é que "ditar o ritmo" não é só uma decisão técnica; é uma decisão de poder. Quem define quando é hora de desacelerar? Um órgão internacional? Governos? As próprias empresas?
Dependendo do desenho, esse mecanismo pode virar um "porteiro" que decide quem entra e quem fica do lado de fora - e aí aparecem dois riscos ao mesmo tempo: o risco de segurança (se ninguém coordena, todo mundo corre) e o risco de captura regulatória (se poucos coordenam, poucos mandam).
Também existe um dilema geopolítico embutido: mesmo que EUA e aliados aceitem um acordo para reduzir velocidade, não há garantia de que outros países sigam o mesmo ritmo. Na prática, o debate vira um cabo de guerra entre "precisamos de tempo para tornar a IA mais segura" e "não podemos abrir mão de vantagem estratégica".
O que o mundo está dizendo sobre isso
Há muitos riscos de IA. Uma das coisas-chave por trás deste trabalho é tentar descobrir quem precisa fazer o quê de forma diferente, e com que tipo de coordenação.
Peter Slattery (MIT FutureTech), via IBTimes
A IA é especialmente bem equipada para atacar esses aspectos da sociedade e causar dano. Programação e invasões (hacking) são algumas das áreas em que estamos vendo o crescimento mais rápido na capacidade da IA.
Peter Slattery (MIT FutureTech), via IBTimes
Isso é um desenvolvimento muito preocupante. OpenAI e Anthropic são livres para desacelerar seus próprios esforços de desenvolvimento de IA o quanto quiserem... É absolutamente ultrajante, no entanto, que os dois principais laboratórios dos EUA peçam ao governo que defenda restrições globais de "ritmo" impostas a todo o setor... Um chamado para uma rendição nacional obrigatória a um acordo/órgão global de ritmo não vai conter a China ou outros atores, e vai deixar os EUA mais vulneráveis como resultado.
Adam Thierer (analista de inovação), via X
Esses funcionários "desaceleracionistas" deveriam ser demitidos imediatamente. Imagine trabalhar numa montadora e protestar contra o desenvolvimento de modelos melhores! Comportamento absolutamente inaceitável de funcionários da OpenAI e da Anthropic.
Mark Kretschmann (divulgador de IA), via X
Reportagem
Texto que relata acontecimentos, baseado em fatos e dados observados ou verificados diretamente pelo jornalista ou obtidos pelo acesso a fontes jornalísticas reconhecidas e confiáveis.
