Empresa de IA de Musk processa homem por criar pornografia infantil no Grok
A xAI, startup de inteligência artificial de Elon Musk, processa um homem preso nos EUA sob acusação de exploração sexual de menores, após a empresa dizer que ele usou o assisnte de IA Grok para gerar material de abuso sexual infantil.
O que aconteceu
A ação foi apresentada na terça-feira em um tribunal federal do Texas e acusa Terry Harwood, da Carolina do Sul, de violar os termos de uso do Grok. A xAI afirma que o caso está entre os primeiros em que uma empresa de IA vai à Justiça contra um usuário por suposto uso do sistema para criar conteúdo sexual explícito.
No processo, a xAI diz que Harwood enviou ao Grok imagens não sexuais de adultos e de menores e tentou transformá-las em deepfakes sexualizados. A empresa também afirma que ele teria criado imagens sexuais não consensuais envolvendo adultos.
A xAI pede indenização em valor não especificado e uma ordem judicial para impedir permanentemente que Harwood volte a usar o Grok. No documento, a empresa afirma que as ações do acusado foram ?um esquema calculado? para usar a ferramenta ?para fins criminosos?, o que, segundo a xAI, expôs vítimas a danos ?profundos e duradouros? e trouxe risco legal e reputacional à companhia.
A empresa afirma que aplica punições internas e faz comunicações a autoridades quando identifica suspeitas de crimes envolvendo crianças. No texto do processo, a xAI diz que ?aplica suas regras contra infratores por meio de suspensões e encerramentos de contas e ao relatar suspeitas de material de abuso sexual infantil ao National Center for Missing & Exploited Children?.
A xAI também cita números de 2026 para sustentar a política de moderação e denúncia. ?De fato, a autora suspendeu 52.222 contas e fez 73.604 denúncias ao NCMEC em 2026, resultando em (pelo menos) 244 prisões?, afirma a empresa no processo.
Pressão sobre o Grok e cobrança no Brasil
A ação judicial ocorre em meio a críticas e investigações sobre o uso do Grok para gerar imagens sexualizadas de pessoas reais sem consentimento. A xAI tem sido alvo de escrutínio internacional por alegações de que a ferramenta permitiu a criação de deepfakes sexualizados não consensuais.
No Brasil, . A determinação citava conteúdos que "trocavam as roupa das pessoas por peças íntimas" e veio acompanhada de recomendações para interromper a geração de conteúdos sintéticos sexualizados envolvendo crianças, adolescentes e adultos.
As recomendações foram feitas de forma conjunta pela Agência Nacional de Proteção de Dados (ANPD), pelo Ministério Público Federal (MPF) e pela Secretaria Nacional do Consumidor (Senacon). O governo também indicou a possibilidade de sanções administrativas e medidas judiciais caso as mudanças não fossem implementadas ou se fossem consideradas insuficientes.
