IA, sigilo e novas leis: como o Discord virou alvo no Brasil?

(Toda semana, e conversam sobre tecnologia no podcast. O programa vai ao ar às terças-feiras no, no, no e no. Nesta semana: ; ; ; )

O Discord entrou na mira de autoridades brasileiras depois de uma investigação apontar que o suicídio de uma menina de 13 anos foi transmitido ao vivo na plataforma. No novo episódio de , o podcast do para os humanos por trás das máquinas, e explicam por que o caso virou uma prova de fogo para novas leis e tecnologias de moderação.

O episódio escancarou dúvidas sobre a velocidade da empresa para detectar abuso em tempo real, a eficácia da moderação em ambientes fechados e o impacto de mudanças técnicas, como criptografia. Nesta terça (26), o governo federal decidiu processar o Discord e pedir R$ 500 milhões por danos morais coletivos após as negociações com a plataforma fracassarem.

O que aconteceu foi um evento fatal. A gente teve o suicídio de uma jovem de 13 anos que estava participando de uma live no Discord e isso chamou bastante atenção. Primeiro, a demora da plataforma em tirar a live do ar. Aí pipocaram várias denúncias de como o Discord muitas vezes pode falhar numa moderação. A ANPD não tirou o Discord do ar, mas pediu que o Discord desabilitasse uma das funções, as transmissões ao vivo.
Diogo Cortiz

Helton Simões Gomes diz que o suicídio foi o estopim, mas não o começo do problema. Pairam denúncias sobre a plataforma ao menos desde 2023 e os sinais de moderação de conteúdo mais fraca começaram a surgir na Europa, segundo a ONG Safernet.

Para além da tragédia, o que faz o Discord entrar verdadeiramente na mira das autoridades é o Brasil agora ter instrumentos para enquadrar plataformas quando a falhas deixam de ser pontuais e viram padrão

O que mudou é que o Brasil agora tem um arcabouço jurídico robusto e sólido o suficiente para enquadrar plataformas como o Discord. A gente está falando do ECA digital e da repaginação do Marco Civil, depois do julgamento do STF, que considerou parcialmente inconstitucional o artigo 19. Nesse julgamento foi trazido o conceito de falha sistêmica: a plataforma não vai ser punida se deixar um ou outro post, mas vai ser punida se falhar sistematicamente em não tirar esse tipo de conteúdo do ar.
Helton Simões Gomes

As mudanças legislativas no Brasil vieram acompanhadas de uma entidade para monitorar a aplicação das novas regras, e a transformação da Agência Nacional de Proteção de Dados contribuiu para o momento enfrentado pelo Discord.

O Discord, no entanto, aponta um desafio mais amplo: crimes que atravessam serviços e "pulam" de um app para outro. Ele relata que a investigação passou a olhar para a atuação do grupo em diferentes plataformas, como Telegram, TikTok, Instagram e o próprio Discord.

O problema em si não é o Discord. Você bane o Discord da textura digital do Brasil e os problemas acabam? Muito provavelmente não. A SaferNet traz um termo: crime cross-plataforma. Ele começa em uma plataforma e vai migrando, vai pulando de uma para outra. A polícia, ao investigar o suicídio dessa menina, já começa a averiguar que esse grupo atuava em quatro plataformas: Telegram, TikTok, Instagram e Discord.
Helton Simões Gomes

Outro ponto levantado no episódio é a tensão entre criptografia e moderação. O Discord usa inteligência artificial para moderar, mas a proteção dada pela criptografia de ponta a ponta às conversas impede o conteúdo de ser acessado. A IA passa então a detectar "sinais" de conta e de servidor.

A IA não consegue ver o que está rolando nessa comunicação e não consegue moderar nada a partir do conteúdo que é trocado no Discord. A IA consegue fazer moderação a partir de sinais relacionados às contas e os servidores. Nesse caso da menina que se matou, muitas pessoas já eram reincidentes. E ela não notou problema nenhum. Depois o Discord fez uma análise e viu que tinha muitos sinais para notar que eram contas de pessoas que já tinham sido banidas.
Helton Simões Gomes

A derrubada do servidor e das contas só ocorreu depois de um alerta da Polícia Civil de São Paulo. A empresa levou 25 minutos para olhar o que acontecia na live, seguir protocolo interno e então tirar a transmissão do ar.

Para Cortiz, a discussão também expõe um modelo de governança que nem sempre funciona: a ideia do Discord de que "o dono do servidor" define as regras e faz a moderação.

Brasil adota 'modelo Grippen' para supercomputadores da IA de China e EUA

O governo Lula quer adotar um "modelo Gripen" para os supercomputadores de inteligência artificial vindos dos Estados Unidos e da China, conta Helton Simões Gomes no novo episódio de Deu Tilt, o podcast do UOL para os humanos por trás das máquinas, que trata de como a estratégia ganhou forma após viagem à China de servidores para participar da conferência de IA em Xangai.

A aposta, segundo os apresentadores, é reduzir o risco de depender de um único fornecedor -hoje, a norte-americana Nvidia— num cenário em que controles de exportação e disputas geopolíticas podem cortar o acesso a infraestrutura de computação essencial ao treinamento e operação de modelos de IA.

O que o governo quer fazer ao comprar esses dois supercomputadores, tanto dos Estados Unidos quanto da China, é criar um modelo Gripen da IA. Ou seja, eles não vão só comprar a máquina, instalar aqui e deixá-la rodando. Eles querem que as empresas que ganhem esses editais transfiram tecnologia. Não quer dizer transferir a arquitetura do chip, mas várias outras tecnologias envolvidas num supercomputador de IA: a forma como os sistemas rodam, o software, a formação de pessoal, formar pessoas para desenhar chips e semicondutores. Todo o stack de um supercomputador de IA pode ser transferido para o Brasil.
Helton Simões Gomes

Pix muda para 'seguir' dinheiro em contas laranjas usadas em golpes

O Pix vai ampliar o prazo para contestar transferências fraudulentas e intensificará um mecanismo para rastrear por quais contas o dinheiro passou quando um golpe é identificado. No novo episódio de Deu Tilt, o podcast do UOL para os humanos por trás das máquinas, Helton Simões Gomes e Diogo Cortiz explicam como as mudanças tentam sufocar estelionatos cada vez mais sofisticados.

Unico x Serasa: perícia enfraquece caso do 'maior roubo de dado do Brasil'

Uma perícia judicial concluiu que não encontrou "nenhum dado biométrico oriundo da Único" nos sistemas da Skill, empresa que aparece no centro da disputa entre a gigante da biometria e a Serasa. No novo episódio de Deu Tilt, o podcast do UOL para os humanos por trás das máquinas, Diogo Cortiz e Helton Simões Gomes contam por que essa conclusão pode mudar os rumos do caso.

DEU TILT

Toda semana, e conversam sobre as tecnologias que movimentam os humanos por trás das máquinas. O programa é publicado às terças-feiras no e nas. Assista ao episódio da semana completo.