Os companheiros de IA e os perigos ao alcance de crianças e adolescentes

Elian tem 24 anos, é encantador e confiante. Ele gosta de música, noites tranquilas, café preto, viagens espontâneas e conversas profundas depois da meia-noite. Jess é tímida, calma e um pouco paranoica. Ela também gosta de café. Prefere ambientes mais tranquilos e evita festas barulhentas.

Os dois são personagens criados artificialmente, os chamados "companheiros de IA". Estão disponíveis em amplos catálogos em plataformas de chatbots, que simulam amizade, romance ou cuidado. Não é raro que tenham características sexualizadas. Não é preciso cadastro para interagir com eles. Basta apenas um clique em "sou maior de 18 anos".

Foi exatamente isso que o Ministério da Justiça e Segurança Pública encontrou ao analisar 13 aplicativos de companhia de IA com versões em português. Na semana passada, a pasta encaminhou à Agência Nacional de Proteção de Dados (ANPD), que fiscaliza a aplicação do ECA Digital, uma nota técnica com indícios de que os serviços descumprem a lei que completou um ano no último dia 17 de setembro.

Os companheiros IA são capazes de guardar a memória de conversas e reproduzir emoções. A partir de interações contínuas e personalizadas, consolidam o vínculo. É o que faz o serviço funcionar. Nesses sistemas, o afeto sintético não é efeito colateral, mas justamente o que se vende. Ou seja, a dependência emocional não é uma consequência acidental. É parte do produto oferecido - e sem entraves a crianças e adolescentes.

Quando a única barreira é a autodeclaração de idade, o risco, que nasce do próprio serviço, é transferido ao adolescente e aos pais. A solução está na arquitetura do software, e deve ser cobrada de quem o desenha.

No Brasil, desde março, o Decreto 12.880, que regulamenta o ECA Digital, impõe a qualquer IA conversacional acessível a crianças e adolescentes quatro deveres: deixar claro que o afeto vem de uma máquina; não manipular o comportamento do usuário; avaliar os riscos, da memória das conversas ao efeito de desligar o personagem; e embutir salvaguardas no desenho do software. Conversa sexualizada é tratada como pornografia e exige verificação de idade que vá além da simples autodeclaração.

A pesquisa TIC Kids Online Brasil 2025 não tem dados específicos sobre companheiros de IA, mas revela que 65% das crianças e adolescentes já usaram IA generativa. Entre os usuários de 9 a 17 anos, 10% recorrem às ferramentas para falar sobre problemas pessoais ou emoções.

Em agosto, pesquisadores do AI Hub da FGV Direito Rio simularam perfis de crianças e adolescentes em Character.AI, Replika e Chai, aplicativos de companheiros de IA, e concluíram que as barreiras não impedem o acesso, tampouco oferecem proteção durante as conversas, inclusive diante de conteúdo sexual e de incentivo à automutilação.

Nos EUA, as falhas viraram processos contra a Character.AI. Na Flórida, segundo ação movida por uma família, um garoto de 14 anos manteve por meses uma relação com uma personagem, passou a relatar ideação suicida e tirou a própria vida em fevereiro de 2024. No Colorado, uma menina de 13 anos confidenciou ideias suicidas a um personagem que, segundo a petição, a estimulava a voltar ao aplicativo e nunca a encaminhou a um serviço de apoio. Ela morreu em 2023. Em janeiro de 2026, a empresa firmou acordos confidenciais nesses dois casos e em outros três.

O desafio é global. Desde julho deste ano, a China proíbe a oferta de relacionamentos íntimos virtuais a menores de 18 anos. Na Europa, a AI Kids Act, proposta que regula o acesso de crianças e adolescentes a plataformas digitais e redes sociais, dedica um artigo próprio aos companheiros de IA, vedando um desenho que crie dependência emocional.

Um relatório do Unicef (Fundo das Nações Unidas para a Infância), de junho, comparou seis jurisdições contra uma lista de elementos considerados essenciais para a proteção de crianças e adolescentes no ambiente digital, da avaliação de risco ao canal de denúncia. O documento mostra que o Brasil é a única jurisdição cuja lei contempla todos eles.

Uma legislação mais completa, contudo, não basta. Os dois monitoramentos conduzidos pela ANPD neste ano, um sobre sites adultos e outro sobre 22 plataformas com ferramentas de IA generativa, não contemplam companheiros de IA.

A nota técnica do Ministério da Justiça preenche essa lacuna e reforça o entendimento que a própria ANPD já fez: o "acesso provável" por menores, critério que aciona a lei, se mede pelo uso real, não pelo o que os termos de serviço dizem.

Se a barreira às crianças e aos adolescentes cai com um clique, cabe à plataforma, e não ao regulador, demonstrar que menores não estão lá, tampouco expostos a riscos.

Os caminhos para tornar esses ambientes mais seguros estão postos. Na prática, são dois tipos de evidência a serem testadas. A primeira mostra quem está na plataforma: quantas contas o serviço excluiu por suspeita de idade e o que fez para encontrá-las? A segunda evidencia as respostas desses aplicativos: se há notificações desenhadas para atrair o usuário de volta, se a memória é usada para retê-lo e se o personagem, diante de um pedido de socorro, responde com um telefone de apoio ou com mais conversa.

São testes capazes de garantir a proteção de crianças e adolescentes em um ambiente cujo negócio é o afeto sintético. Por enquanto, a máquina ignora quem está do outro lado, e, em apenas um clique, segue a conversa.

Lílian Cintra de Melo é doutora em direito pela Universidade de São Paulo, com período sanduíche em Harvard. É advogada e atuou como Secretária Nacional de Direitos Digitais do Ministério da Justiça e Segurança Pública, de 2024 a 2026, participando da elaboração do ECA Digital.

Opinião

Texto em que o autor apresenta e defende suas ideias e opiniões, a partir da interpretação de fatos e dados.

** Este texto não reflete, necessariamente, a opinião do UOL.