'Não fomos rápidos o suficiente', diz representante do Discord sobre morte

O vice-presidente de Segurança e Confiança do Discord, Jud Hoffman, admitiu, em entrevista ao jornal O Globo, falhas no processo e disse que plataforma não agiu rápido o suficiente no caso que terminou durante uma transmissão.

O que aconteceu

Hoffman diz que o servidor ligado ao caso era novo e pequeno e não foi sinalizado a tempo para revisão humana. Ele afirmou que a empresa trabalha para melhorar os modelos e os esforços de segurança após o episódio.

No caso da menina, o servidor era novo e pequeno. Tinha sido criado há menos de duas horas. As informações disponíveis não acionaram nosso modelo de aprendizado de máquina para encaminhá-lo à revisão humana. Não fomos rápidos o suficiente, mas estamos sempre trabalhando para melhorar esses modelos e os esforços de segurança.
Jud Hoffman, vice-presidente de Segurança e Confiança do Discord, ao O Globo

Adolescente teria sido induzida ao suicídio na plataforma. Ela morreu em 22 de julho, em Naviraí (MS), e a Polícia Civil de Mato Grosso do Sul investiga as circunstâncias da morte e a atuação de integrantes de um grupo virtual.

Entrevista foi feita após a ANPD (Agência Nacional de Proteção de Dados) dar prazo para que a plataforma suspenda as lives no Brasil. Hoffman disse que a empresa e aplicar o bloqueio em todos os recursos de vídeo disponíveis no país.

A ANPD fez o que acredita ser necessário. Nossa abordagem no momento é trabalhar na implementação dessa ordem. A suspensão será aplicada de forma consistente em todos os lugares onde existe vídeo no Discord no Brasil.
Jud Hoffman, vice-presidente de Segurança e Confiança do Discord, em entrevista ao O Globo

Hoffman ressaltou ainda que a plataforma tem moderação proativa e reativa, combinando automação e equipes especializadas. Ele disse que cerca de 15% da empresa atua em segurança, com centenas de pessoas em funções de moderação, e que há profissionais que entendem português e conhecem o mercado brasileiro.

Executivo atribuiu parte da dificuldade à escala e ao equilíbrio entre detectar mais riscos e evitar falsos positivos. Ele afirmou que sinais iniciais podem vir de denúncias de usuários ou de autoridades e que modelos de aprendizado de máquina ajudam a priorizar o que vai para revisão humana.

Como eu disse, esses modelos trabalham em conjunto com nossas equipes especializadas. Às vezes, o primeiro sinal vem de denúncias de usuários ou das próprias autoridades policiais. Os modelos pontuam os servidores com base nos sinais disponíveis e são calibrados para equilibrar precisão e abrangência.
Jud Hoffman

Questionado sobre a criptografia de ponta a ponta em chamadas de voz e vídeo, Hoffman disse que o recurso não torna servidores invisíveis à empresa. Ele afirmou que textos não são criptografados e que metadados, convites, denúncias e uploads seguem visíveis para os sistemas de segurança.

Executivo disse que a empresa se reuniu com a ANPD e prometeu enviar esclarecimentos completos sobre o caso. Ele afirmou que o Discord tem buscado colaborar desde o episódio e que informações repassadas às autoridades são tratadas como confidenciais para não atrapalhar a investigação.

Hoffman defendeu que o combate a grupos mal-intencionados precisa ser coordenado entre plataformas. Ele citou que comunidades extremistas podem migrar entre serviços e que o objetivo, segundo ele, é impedir a atuação desses atores de forma mais ampla, e não só removê-los do Discord.

Discord afirmou que há indícios de articulação paralela em outras plataformas, como Telegram e TikTok, mas não detalhou as evidências. Hoffman disse que informações compartilhadas com a ANPD e o Ministério da Justiça são confidenciais para não interferir nas apurações.

O executivo ressaltou que a empresa não quer perder de vista a morte da adolescente. Ele afirmou que o Discord compartilha da dor da comunidade e expressa condolências à família.

Procure ajuda

Se você estiver tendo pensamentos suicidas, procure ajuda especializada.

O CVV (Centro de Valorização da Vida) oferece apoio emocional e prevenção ao suicídio gratuitamente, 24 horas por dia, pelo telefone 188. Também há atendimento por chat, e-mail e presencialmente.

Outra opção é procurar um Caps (Centro de Atenção Psicossocial) na sua cidade.

Há ainda o Pode Falar, canal criado pelo Unicef para jovens de 13 a 24 anos, com atendimento anônimo e gratuito.