Irã e China usam IA para criar redes de contas falsas, segundo NYT

Irã e China usaram inteligência artificial para criar redes de contas falsas e publicar conteúdo político nas redes sociais, informou o The New York Times.

O que aconteceu

Os grupos combinaram modelos chineses de IA de código aberto com agentes autônomos, programas capazes de operar softwares e cumprir tarefas por conta própria. Centenas desses agentes abriram contas falsas no Instagram, Facebook, X e TikTok.

As contas divulgaram rapidamente publicações falsas sobre política e assuntos atuais para influenciar opiniões e acirrar debates. Os sistemas atuaram desde a criação dos perfis até a coordenação das mensagens, com pouca interação humana.

Operadores desativaram, na maioria dos casos, mecanismos que impediriam os modelos de criar contas falsas ou manipular discussões na internet. Autoridades dos EUA e pesquisadores de segurança identificaram as campanhas iranianas e chinesas como iniciativas estatais.

Duas campanhas israelenses foram atribuídas a empresas privadas. Autoridades dos EUA e pesquisadores de segurança classificaram as operações como rudimentares, mas elas chamaram a atenção da inteligência americana, de empresas de tecnologia e de especialistas.