Redes sociais nos dividiram, a IA pode nos unir. E aí começa outro problema

A gente sabe que o objetivo de toda rede social é só um: aumentar o tempo de tela. Para isso, os algoritmos são treinados para entregar conteúdos que prendem e sequestram a atenção. E nada melhor do que aquilo que provoca, irrita ou divide.

Quando uma mensagem desperta emoções que o usuário não consegue ignorar, a plataforma vence. É por isso que esses mecanismos tendem a radicalizar e amplificar o extremo.

Só que agora surge a hipótese de que a IA pode fazer exatamente o oposto.

Uma matéria recente publicada no Financial Times testou os principais chatbots em 61 temas políticos e encontrou algo que vai na contramão do que estamos discutindo.

Em vez de polarizar, todos eles empurraram os usuários para posições mais moderadas, mais ao centro.

A explicação para isso não é nenhum mistério. Redes sociais ganham com atenção, e atenção vem da indignação e do conflito.

A IA quer ganhar pela utilidade e confiança, e isso exige respostas ponderadas e precisas.

Cada tecnologia é influenciada por seus modelos de negócios, e eles são diferentes. Pelo menos até agora.

Essa parece uma boa notícia. E talvez seja. Só que ainda existem perguntas relevantes que precisamos fazer antes que esse processo oculto se torne ainda mais poderoso e influente na vida das pessoas.

De que centro estamos falando? Definido por quem, com quais dados e refletindo a cultura de onde? Moderar não é necessariamente o mesmo que informar.

Quando tento entender um fenômeno novo, gosto de dar nome a ele. Nomear ajuda a enxergar melhor o problema. Neste caso, fiquei em dúvida entre "paradoxo do consenso" e "ditadura do consenso". Acho que fico com a segunda opção.

E quando falo em ditadura, não me refiro ao sentido clássico de proibir alguém de dizer ou de pensar. É algo mais sutil.

Os sistemas passam a definir, de forma invisível, o que parece razoável, equilibrado e aceitável sem que ninguém tenha votado nisso e sem que o leitor perceba as escolhas que estão sendo feitas.

O consenso geralmente é construído a partir do debate, da negociação de ideias. Mas o que a IA faz é nos conduzir para um consenso a partir de um mecanismo de influência que foi calibrado a partir dos dados de treinamento e com ajustes que também têm o dedo de quem controla o sistema.

É por isso que o Grok, a IA de Elon Musk, tende a dar respostas um pouco mais a centro-direita do que seus concorrentes.

O lance é que a IA está se tornando o principal mediador do debate público, e é por isso que esse problema pode ser estrutural.

O extremo das redes sociais é fácil de identificar porque é barulhento, mas a "ditadura do consenso" opera no silêncio do que parece sensato. E quanto mais a IA se vender como isentona, menos alguém vai questionar o equilíbrio que ela está oferecendo.

Entendem o poder que ganha quem controla a definição do que é razoável?

Neste ano, vamos ter eleições em um momento em que a IA está ficando cada vez mais popular. O TSE deu um passo importante ao proibir que sistemas de IA ranqueiem, recomendem ou priorizem candidaturas, mesmo quando isso é solicitado pelo usuário.

Mas, ainda assim, a regulação não consegue operar em todos os níveis de interação.

Quando o eleitor perguntar à IA qual é a posição mais equilibrada sobre a reforma tributária ou segurança pública, a IA responde livremente, tentando encontrar um equilíbrio que faz parte de uma escolha invisível, determinada também por quem treinou o modelo.

O problema das redes sociais foi transformar o extremo em espetáculo. O da IA pode ser transformar o consenso em uma infraestrutura invisível.

Se o primeiro é fácil de enxergar, o segundo talvez nem seja reconhecido como um problema.

Opinião

Texto em que o autor apresenta e defende suas ideias e opiniões, a partir da interpretação de fatos e dados.

** Este texto não reflete, necessariamente, a opinião do UOL.