Meta vai avisar pais se filhos falarem sobre suicídio com IA da empresa

Meta vai avisar pais se filhos falarem sobre suicídio com IA da empresa no Instagram.

O que aconteceu

Meta diz que vai enviar alertas a responsáveis que usam a supervisão parental do Instagram quando a conversa do adolescente com a Meta AI indicar risco de suicídio ou automutilação. A empresa afirma que a identificação será feita com base em sinais desenvolvidos com especialistas e que os pais também vão receber materiais para ajudar a abordar o tema com os filhos.

Segundo a empresa, o alerta será disparado mesmo quando a referência a se machucar for sutil, desde que a conversa sugira risco. A Meta afirma que criou um sistema dedicado de IA para identificar esse tipo de interação e definir quando a notificação deve ser enviada.

Antes de avisar os pais, a Meta diz que vai submeter todas as conversas sinalizadas a uma revisão manual. Se a intenção do adolescente for ambígua, a empresa afirma que vai optar pela cautela e enviar o alerta, mesmo com a possibilidade de notificar responsáveis em situações que não representem um risco real.

Os avisos já começaram a valer para pais que usam a supervisão parental do Instagram nos EUA, Reino Unido, Austrália e Canadá. A Meta diz que pretende disponibilizar a funcionalidade globalmente até o fim de 2026.

Meta também afirma que adolescentes que falarem sobre suicídio ou automutilação com a Meta AI já são direcionados a linhas de apoio em crise. A empresa diz que o chatbot também encoraja o jovem a procurar os pais ou outro adulto de confiança, como um orientador.

Como a supervisão parental muda conversas com a Meta AI

Meta diz que as Contas de Adolescente ficam, por padrão, em uma configuração de conteúdo 13+, que também vale para conversas com a Meta AI. Nessa modalidade, a empresa afirma que o sistema é projetado para responder de forma adequada à idade e recusar mensagens sensíveis, como conversas sexuais ou românticas com adolescentes e pedidos de receitas de bebidas alcoólicas.

Configuração chamada de "Conteúdo Limitado", mais restritiva, vai passar a valer também para as interações com a Meta AI quando for ativada pelos pais. A empresa diz que, nesse modo, a IA vai se recusar a responder a um conjunto maior de mensagens, para reduzir a chance de conversas potencialmente inadequadas.

A empresa afirma que consultou mais de 75 profissionais de saúde mental para ajustar como a Meta AI responde a mensagens de adolescentes sobre suicídio e automutilação. Segundo a companhia, o retorno desses especialistas foi usado para melhorar as respostas do chatbot, incluindo a forma de reconhecer sentimentos e indicar recursos de apoio sem encerrar a conversa de forma abrupta.

Avisos sobre temas de conversa

Em abril, a empresa disse que passaria a mostrar aos pais os temas sobre os quais adolescentes conversaram com a Meta AI. A empresa afirmou que o recurso apareceria em uma aba de Insights dentro da área de supervisão parental e traria resumos dos assuntos perguntados nos últimos sete dias, separados por aplicativo.

Na ocasião, a Meta afirmou que os responsáveis veriam categorias amplas, e não os termos literais digitados pelos adolescentes. A lista de temas incluiria áreas como escola, entretenimento e estilo de vida, além de tópicos como viagens, escrita e saúde e bem-estar.

O anúncio desta quinta-feira detalha um tipo específico de aviso, voltado a conversas que indiquem risco de suicídio ou automutilação. A Meta diz que esses alertas se somam a notificações já existentes quando o adolescente busca repetidamente por termos relacionados a suicídio ou automutilação no Instagram em um curto período.

A pressão global sobre a Meta e outras gigantes de tecnologia chegou a um ponto crítico. Enquanto a , o , que impõe obrigações claras às plataformas para transformar o ambiente virtual em um espaço efetivamente seguro para crianças e adolescentes.

Procure ajuda
Caso você tenha pensamentos suicidas, procure ajuda especializada como o CVV (www.cvv.org.br) e os Caps (Centros de Atenção Psicossocial) da sua cidade. O CVV funciona 24 horas por dia (inclusive aos feriados) pelo telefone 188, e também atende por e-mail, chat e pessoalmente. São mais de 120 postos de atendimento em todo o Brasil.