Armas feitas por IA e vigilância: emails expõem briga Anthropic x Pentágono

Uma troca de emails entre a Anthropic e o Pentágono mostra que a briga não era só sobre "ter acesso" ao Claude, mas sobre quem manda nas regras de uso de uma IA de ponta dentro das Forças Armadas dos EUA. E o clima, pelo que aparece nos documentos, é de cabo de guerra: de um lado, a empresa tentando colocar "cinto de segurança"; do outro, o governo pedindo uma autorização bem mais ampla.

O que aconteceu

*Documentos judiciais divulgados nesta semana pelo Wall Street Journal trouxeram emails que registram o desgaste entre o CEO da Anthropic, Dario Amodei, e Emil Michael, subsecretário de Defesa para pesquisa e engenharia, em negociações sobre o uso dos modelos da empresa pelo Departamento de Defesa dos EUA.

*A Anthropic insistiu em "travas" para impedir dois usos: armas totalmente autônomas e vigilância doméstica (monitoramento de cidadãos dentro do próprio país).

*O Pentágono pressionou por uma formulação mais ampla, pedindo que os modelos pudessem ser usados para todos os usos legais - uma expressão que, na prática, abre margem para muita coisa.

*Nos emails, Michael disse que as travas propostas eram "inviáveis" e deu mais uma chance para a Anthropic se alinhar a "princípios centrais" antes de as partes romperem.

*Amodei rebateu que o padrão de "todos os usos legais" não serviria porque a lei dos EUA permite vigilância doméstica; e disse que a linguagem proposta pelo Pentágono parecia "remover completamente" as linhas vermelhas da empresa.

*No dia seguinte, o secretário de Defesa, Pete Hegseth, classificou a Anthropic como "risco para a cadeia de suprimentos", um rótulo que costuma ser usado em casos ligados a adversários estrangeiros, e que transformou a negociação em disputa judicial.

*A atuação de Emil Michael também virou alvo de escrutínio após divulgações financeiras indicarem que ele tinha ações da xAI, rival da Anthropic, além de outros investimentos em empresas de IA.

*A Anthropic argumenta que a classificação de risco foi retaliação; uma juíza federal chegou a conceder uma liminar e chamou a medida de "retaliação ilegal clássica" ligada à Primeira Emenda, mas uma corte de apelação reverteu a decisão em abril, e o caso segue.

*Em paralelo, a Anthropic tenta estabilizar sua relação com o governo: nesta semana, a empresa retomou o acesso ao Fable 5, seu modelo mais poderoso amplamente disponível, depois de uma suspensão ligada a uma ordem de controle de exportação que restringia o acesso de estrangeiros (inclusive funcionários) ao sistema.

IAgora?

Os emails divulgados fazem o chefe da Anthropic, Dario Amodei, sair com uma boa imagem, em uma tentativa de manter controle sobre seu produto mesmo contrariando o Estado. As travas sobre não usar IA para armas dão uma clareza ética sobre a companhia.

A dúvida é quanto a Anthropic pode segurar a postura - o rompimento com o governo e punições a seus produtos, meses depois, mostram que a pressão é forte. Ela também não pode evitar que outra empresa de IA rival faça um contrato nos moldes desejados pelo governo.

Os próximos meses do setor de inteligência artificial, inclusive, deverão ser menos pautados pelas tecnologias de fato e mais pela política em torno desses setores. Afinal, já há abertura de capital prevista para OpenAI e Anthropic, assim como se encerrou o prazo para o governo Trump propor uma proposta regulatória ao mercado.

O que o mundo está dizendo sobre isso

Se é que algo pode ser concluído, Amodei acaba saindo muito bem nas trocas de emails, já que se manteve fiel às suas convicções. Menos impressionante foi Michael, que fez de tudo para obter as concessões que sua agência buscava. Mesmo que enriquecer não fosse sua principal motivação durante as idas e vindas com Amodei, sua prioridade era encontrar uma forma de manter aberta a possibilidade de usar IA para matar pessoas e vigiar cidadãos. Ou seja, também não parece exatamente alguém guiado por uma forte bússola moral.
Gizmodo

A ordem do governo evidenciou o quanto uma das principais empresas de IA do mundo ainda enfrenta dificuldades em sua relação com o poder público.
Business Insider

O que está em jogo vai além de Washington. A Anthropic está testando se uma empresa de IA consegue impor limites éticos a um cliente governamental e manter seus contratos. Essa questão está no centro dos próprios debates da Europa sobre IA militar e de vigilância. A Lei de IA da União Europeia está brigando com essas mesmas linhas. Isso também alimenta o debate de soberania, enquanto compradores europeus avaliam quanto controle um laboratório dos EUA mantém quando seus modelos entram em trabalhos de segurança nacional.
The Next Web

Depois de 18 dias, a fera da Anthropic voltou. A pergunta agora é o quão restritivas serão as salvaguardas e qual será o impacto do acesso pré-lançamento nas próximas estreias. Com o GPT 5.6 esperado para esta semana, talvez a gente tenha essa resposta em breve - ainda que vinda de um laboratório com uma relação aparentemente mais amigável com quem manda.
Newsletter The Rundown

Opinião

Texto em que o autor apresenta e defende suas ideias e opiniões, a partir da interpretação de fatos e dados.

** Este texto não reflete, necessariamente, a opinião do UOL.