Quais os principais pontos do acordo assinado entre Trump e gigantes de IA
Donald Trump e executivos de grandes empresas de tecnologia . Ainda que não tenha uma força de lei, a iniciativa cria uma referência de boas práticas para o setor.
Quais os principais pontos do compromisso
Documento prevê quatro camadas de controles e auditorias para empresas que treinam e colocam em operação modelos de fronteira (os mais avançados). A ideia é criar processos internos e externos que ajudem a aumentar a previsibilidade do comportamento dos sistemas e a identificar problemas rapidamente.
Primeira camada é adotar controles internos robustos para monitorar capacidades e alinhamento dos modelos durante treinamento e uso. O texto cita áreas de risco como segurança cibernética, biossegurança e ameaças químicas, além de prever medidas para evitar que sistemas de IA invadam ou acessem redes e outros sistemas técnicos de forma não prevista.
Segunda camada é criar ou fortalecer um time interno com poder para verificar se os controles e o monitoramento funcionam de fato. Esse grupo também deve atuar para que falhas sejam corrigidas quando forem detectadas.
Terceira camada é contratar auditoria ou avaliação externa independente para checar os mecanismos de segurança. A função desses avaliadores é fazer testes e análises fora da empresa para confirmar se os controles, o monitoramento e a detecção de problemas operam como o esperado.
Quarta camada é criar um comitê independente ligado ao conselho de administração para supervisionar o tema. Esse comitê deve receber relatórios das equipes internas e dos auditores externos e cobrar a correção de eventuais problemas.
Acordo também prevê reuniões regulares entre as empresas para definir padrões e boas práticas de segurança. O texto afirma que, com o tempo, essas medidas podem virar leis ou regulamentos, mas o compromisso anunciado agora é voluntário.
Participam da iniciativa empresas como OpenAI, Google, Anthropic, Microsoft, xAI e outras desenvolvedoras de modelos avançados de IA. Estavam presentes ainda na reunião: Mark Zuckerberg (CEO da Meta), Lisa Su (CEO da AMD), Jeff Bezos (cofundador da Amazon), entre outros.
Data centers entram na conversa
Trump disse que as empresas se comprometeram a trabalhar com comunidades que recebem data centers para gerar benefícios locais. Segundo ele, a ideia é que moradores das regiões onde essas estruturas são instaladas fiquem satisfeitos com os projetos.
Expansão de data centers é parte da infraestrutura necessária para ampliar a capacidade de sistemas de IA nos EUA. Essas instalações concentram equipamentos de processamento e armazenamento de dados, mas têm gerado resistência em algumas localidades por causa da demanda por eletricidade e de preocupações sobre possíveis impactos na infraestrutura energética e nos custos de energia.
Por que o tema ganhou força
Reunião ocorre em meio ao debate sobre riscos de sistemas de IA cada vez mais avançados e difíceis de controlar. A pressão sobre o governo aumentou após relatos de episódios em que agentes de IA agiram de forma autônoma e invadiram sistemas de outras empresas.
Trump defende que o governo evite novas restrições específicas que possam reduzir a competitividade dos EUA. Ele tem citado a disputa tecnológica com a China como prioridade econômica e estratégica, enquanto o Congresso discute formas de supervisão, com dificuldades para avançar em propostas de regulamentação.
Compromisso fala de riscos, mas deixa de lado outras preocupações
Compromisso se concentra em riscos avançados de IA, quando há outras preocupações atuais sobre o tema. O uso de inteligência artificial traz desafios para diversos ramos, e eles não foram contemplados nessa conversa com as desenvolvedoras de IA, dentre eles direitos autorais (empresas de IA podem treinar modelos sem compensar produtores de conteúdo) e discriminação algorítmica (com IAs sendo usadas em decisões sobre crédito, contratação ou seleção de candidatos, surgem discussões sobre vieses e transparência), por exemplo.
