Startup brasileira usa brecha de big techs e cria detector de deepfake

(Toda semana, e conversam sobre tecnologia no podcast. O programa vai ao ar às terças-feiras no, no, no e no. Nesta semana:; ; )

Detectar se uma imagem ou um vídeo foi gerado por inteligência artificial virou um desafio central em ano de eleição, com a promessa de uma enxurrada de sátiras, personagens e deepfakes nas redes. No novo episódio de , o podcast do para os humanos por trás das máquinas, e discutem por que a tecnologia que cria conteúdo realista ainda não entrega, na mesma medida, um jeito confiável de identificar o que é sintético.

Helton afirma que não existe "teste definitivo" para cravar a origem de um conteúdo: as ferramentas, em geral, só estimam probabilidades. A aposta do episódio recai sobre um protocolo de origem e autenticidade - e sobre como uma startup brasileira decidiu usar esse padrão para tentar preencher uma lacuna deixada pelas big techs.

Detectar que um vídeo ou uma imagem foi feita com IA é 100% impossível. As ferramentas que existem, no máximo, indicam uma probabilidade de aquilo ter sido feito com IA. Ela encontra alguns traços digitais, mas fica nisso. Por causa dessa preocupação com autenticidade, empresas como Adobe, Microsoft, ARM e Intel se juntaram com a Truepic e com a BBC e criaram uma coalizão chamada C2PA, a Coalizão para Origem e Autenticidade de imagens. A ideia é criar um protocolo incluído em cada imagem fornecida, fabricada, modificada, editada pelos serviços das integrantes. É um rótulo: o C2PA.
Helton Simões Gomes

Diogo lembra que as deepfakes são um tipo específico de manipulação: quando alguém usa IA para colocar uma pessoa real dizendo algo que nunca disse. Para ele, o problema tende a piorar porque os sinais do "vale da estranheza" - pele lisa demais, sombra estranha, voz metálica - devem desaparecer à medida que os modelos melhorarem.

Hoje a gente ainda percebe algum traço: textura, voz metálica, pele muito lisinha, uma sombra esquisita. Você sente que tem alguma coisa errada. Cara, isso vai acabar. Daqui um ano, dois anos, acabou. A inteligência artificial vai ficar muito boa em fazer conteúdos extremamente efetivos. E aí você vai ter que usar a tecnologia para suprir isso. Só que isso precisa de cooperação entre as empresas. Metadado é a coisa menos efetiva possível: você manda no WhatsApp, eu tiro um print e acabou. Vai ser um jogo de gato e rato.
Diogo Cortiz

No episódio, Helton apresenta a Inspire IP, empresa brasileira focada em propriedade intelectual de ativos digitais, que criou um produto chamado SignaIP. A ferramenta usa o protocolo C2PA para verificar se uma imagem carrega um "certificado" de origem e um histórico de edição - e, em alguns casos, indicar qual serviço gerou o arquivo.

Eu criei uma imagem do Lula, do Donald Trump e do Barack Obama se abraçando. Coloquei essa imagem na interface da Inspire IP e ela detectou que foi feita pelo ChatGPT. Mostra o histórico de edição, como ela foi gerada inicialmente e que veio da OpenAI. Isso insinua uma esperança num momento em que tem muitas incertezas sobre como identificar uma deepfake.
Helton Simões Gomes

Mas os testes relatados por Helton também expõem as "brechas" do ecossistema: o SignaIP funcionou bem com imagens geradas por ferramentas da OpenAI, mas não identificou da mesma forma uma imagem feita no Gemini. Além disso, ao passar a imagem pelo WhatsApp e depois reenviar para verificação, o certificado sumiu, porque a compressão do app removeu os dados do arquivo.

Helton cita ainda a dificuldade do público em reconhecer falsificações. Ele diz que "8 a cada 10 brasileiros" já viram uma deepfake, mas que a capacidade de identificar esse tipo de conteúdo, quando testada, fica perto do acaso - o que se agrava conforme as imagens ficam mais realistas.

Na conversa, os apresentadores também apontam que o combate às deepfakes não depende só de tecnologia. Diogo defende uma mudança cultural e alerta para um efeito colateral: a desconfiança generalizada pode levar pessoas a negar fatos reais alegando que "foi IA", especialmente em disputas políticas.

Helton acrescenta que, nas eleições deste ano, candidatos que usarem IA terão de sinalizar o uso em vídeos, imagens e textos. Ele também afirma que, no período de 72 horas antes e 24 horas depois do pleito, fica proibido usar IA para modificar imagem e voz de candidato e manifestações atribuídas a ele.

Mundo da tecnologia tenta convencer Igreja que IA pode ser filha de Deus

Empresas e pesquisadores de tecnologia tentam promover um casamento forçado entre religião e inteligência artificial e religião, que vai desde ensinar valores cristãos a chatbots até empregar robôs em rituais sagrados. Diogo Cortiz e Helton Simões Gomes contam como esse esforço não é isolado e ocorre dos EUA ao Japão.

A fé entrou em cena de dois jeitos: como material de treinamento para aumentar o alcance linguístico de modelos de IA e, mais recentemente, como tentativa de fazer sistemas como o Claude, da Anthropic, compreenderem moral, sofrimento e até estado espiritual de entidades sintéticas

Em 2023, a IA da Meta falava 100 idiomas e, de uma hora pra outra, passou a falar 1.100. O ‘milagre da multiplicação’ foi fazer a IA ler a Bíblia. A Bíblia já foi traduzida para mais de 3.500 idiomas; como tem várias versões, dá para verter de um idioma para outro treinando com ela; e as pessoas gravam muitas passagens em voz, então dá pra checar como elas falam. Só que, naquele momento, a IA da Meta aprendeu com a Bíblia apenas a linguagem, não absorveu valores morais. O que a gente tem visto agora é o contrário: uma tentativa de apregoar valores morais, valores humanos, à inteligência artificial.
Helton Simões Gomes

Você treina IA e ganha R$ 0; veja como não trabalhar de graça para big tech

As big techs prometem gastar cifras recordes com inteligência artificial em 2026, mas o usuário segue no fim da fila quando o assunto é ganhar algo com isso. Helton Simões Gomes e Diogo Cortiz explicam por que você treina IA e ganha R$ 0 — e o que dá para fazer para reduzir essa colaboração involuntária.

Segundo os apresentadores, o contraste aparece em duas frentes: de um lado, investimentos bilionários em data centers, chips e energia; do outro, demissões e a captura do trabalho e dos dados de usuários (e até de funcionários) para alimentar modelos e agentes de IA.

As quatro principais empresas de tecnologia dos Estados Unidos juntas, e só nesse ano, só em 2026, elas prometem investir, em inteligência artificial, 720 bilhões de dólares. (...) A Amazon é a empresa com o plano mais agressivo, porque ela promete investir 200 bilhões de dólares em inteligência artificial. (...) A Microsoft elevou sua projeção para 190 bilhões de dólares. (...) A Meta também tem um plano agressivo de 145 bilhões. E o Google, a Alphabet, planeja investir 190 bilhões de dólares aproximadamente.
Diogo Cortiz

DEU TILT

Toda semana, e conversam sobre as tecnologias que movimentam os humanos por trás das máquinas. O programa é publicado às terças-feiras no e nas. Assista ao episódio da semana completo.