Adestrando algoritmos

A livraria estava cheia e me acomodei em um canto para folhear alguns livros. Uma mulher e um homem com sacolas nas mãos se esgueiravam por entre pessoas e prateleiras, de forma que enquanto passavam atrás de mim eu só consegui escutar um trecho da conversa em que ela dizia:

"Ah, não, eu não. Eu adestrei meu algoritmo! Não vejo mais nada disso. Agora só aparece coisa que eu gosto".

Em vão, tentei seguir os dois para escutar o resto da conversa. Tentei também achar algum pequeno cachorro preso numa coleira sendo arrastado livraria adentro, mas o pequeno Algoritmo não estava lá. Belo nome para um pet.

Eu não quis interromper, mas havia equívocos naquela fala que me impeliam a isso. Na remota hipótese de que se tratasse de um encontro romântico e ela, sei lá, estivesse tentando impressionar mostrando seu poder dominador sobre as big techs, eu cortaria o barato levantando objeções.

É claro, porém, que passei o resto da tarde disperso em pensamentos ruminantes que elaboravam intervenções para esclarecer àquela jovem senhora que:

Um. Não, amiga, não existe "o" algoritmo, assim no singular. E cada vez que isso é pronunciado dessa forma, um chatbot agêntico é desligado na Matrix.

Virou senso comum usar o termo dessa forma. Nas conversas familiares e aqui na imprensa, "O Algoritmo" virou o termo como nos referimos aos recursos de personalização que alimentam nossos feeds (sem trocadilhos). Mas a simplificação pode ser mais perigosa do que elucidativa.

Na prática, existem diversos algoritmos e comandos que são sobrepostos como camadas para tentar acertar as recomendações do que você acessa. Isso vale para Instagram, TikTok, YouTube, Facebook, o Google em seu celular, Spotify, Netflix, Amazon, iFood, provavelmente seu banco, além de tantos outros serviços digitais que tentam antecipar seus interesses com ofertas de consumo dos mais variados tipos quando você acessa seus aplicativos.

E não é bobagem insistir nessa correção. Ao reduzir a definição - e por consequência, compreensão - do funcionamento desses sistemas, caímos no equívoco de que existe um elemento maligno manipulativo instalado em nossos dispositivos e perfis programados intencionalmente para nos causar danos.

Algoritmos não têm vontade própria, mas assumem padrões que vão sendo ajustados e priorizam o que exibem a partir de "gatilhos" que são: o comportamento dos usuários e os contextos utilizados para tal personalização. As principais abordagens a partir das quais atuam são a observação do histórico de interesses de uma pessoa (o que você vê, acessa, clica, curte, segue e compartilha) e os padrões de comportamento e interesses de pessoas com perfis semelhantes ao seu, assumindo então uma premissa expandida da ideia "quem gosta de tricô talvez também goste de bordado, portanto?" ou "quem compartilha receitas com coentro não pode ter bom gosto, logo?" só para ficar no campo dos exemplos factíveis.

Essa personalização não é planejada individualmente. Os padrões agregados vão formando uma base estatística e criam diversos perfis possíveis em que cada pessoa vai sendo enquadrada. Não é uma curadoria, mas um processo adaptativo.

Portanto, para que fossem adestrados pela moça da livraria, seria necessário assumir que algoritmos são dotados de vontades ou algum tipo de instinto. Mas eles são funções de otimização, não agentes. Logo, a intenção não está nos sistemas, mas nos objetivos de otimização definidos por quem os desenvolveu.

A intenção por trás desse emaranhado de programações é oferecer um serviço eficiente (a lógica da relevância) e, em muitos casos, manter a atenção do usuário por mais tempo presa às engrenagens de uma espécie de programa de recompensas efêmeras. Saber disso ajuda a entender que (1) é tudo muito mais complexo do que gostamos de imaginar e (2) pode ser ainda mais perigoso se não refletirmos e discutirmos o tema com cuidado - e as , mas tendo no o efeito mais delicado para essa leitura que estamos fazendo aqui.

O que me leva querer entrar no meio da conversa daquele casal outra vez, cutucar o ombro do homem e dizer que:

Dois. Queridão, é claro que lá na outra ponta, os robozinhos sem vontade própria são programados a partir de decisões de pessoas. E por isso a conversa sobre responsabilidade é mais importante do que nosso espanto com os efeitos da tecnologia em nosso cotidiano.

"Não é feitiçaria, é tecnologia", foi uma frase notória do passado televisivo brasileiro, mas cuja revelação da fonte comprometeria a pouca reputação que ainda não construí por aqui.

Reduzir o problema à questão algorítmica, assim de maneira fria, tira de cena que tomam as decisões que orientam a forma como esses programas são desenvolvidos e, por consequência, nos afetam. Há questionamentos e debates acontecendo não apenas a respeito dos algorítmos, mas também quanto ao design das redes sociais e sua forma de consumo.

Ainda que não exista intenção maliciosa em um conjunto de códigos, há uma decisão de negócios que rege a forma como são escritos e que atropela os riscos associados à indução de comportamentos que estão entre suas potenciais consequências. Entre elas, as métricas de engajamento, as inserções manuais de comandos para priorização e a retenção de atenção.

Se para você esse tipo de programação é nociva, conhecer minimamente o modelo de funcionamento dos sistemas a que estamos expostos boa parte do dia pode ser a melhor forma de diminuir seu grau de influência. Distinguir entre o sistema e quem define o que ele otimiza é um passo necessário nessa dinâmica de adestr? digo, prevenção.

Em pouco tempo, é possível que migremos de um modelo de consumo de informação a partir de plataformas (como as redes sociais, por exemplo) para o ambiente super customizado de interfaces e feeds criados por agentes de inteligência artificial. Você talvez não seja capaz de domesticar algoritmos, mas poderá criar sua própria página, aplicativo ou newsletter recheada com seus interesses, integrando diferentes fontes e as nutrindo pouco a pouco de acordo, exclusivamente, com o que gosta de consumir. Sua rotina então estará mais como a de quem alimenta tamagochis do que adestra pets.

De volta à livraria. O argumento da nossa amiga acaba revelando o oposto do que ela deseja. Reduzir o espectro do que consumimos e fechar a possibilidade para o contraditório favorece o consumo de desinformação. Quem acaba sendo adestrada é ela. Em vez de cortar o que lhe parecia falso, ela achou uma forma de se enclausurar em uma bolha. Ou melhor, bolhas. Aí está outra palavra que precisa ser dita no plural e discutiremos numa próxima conversa.

[refs]

O The Guardian publicou essa semana sua lista com os de todos os tempos. Quando me deparo com esse tipo de lista ( há alguns meses, mas foi mais modesta e se restringiu ao século XXI), só consigo me sentir fútil e impotente por não acumular esse tipo de repertório. Fui ligeiramente consolado pelo em sua coluna aqui no UOL na semana passada.

Gastei mais horas do que devia navegando pelo , uma revista digital de arte que cobre, entre outras coisas, o processo de criação dos artistas. Gastei mais horas do que gostaria lendo o veredito do processo movido por Elon Musk contra a OpenAI. Vou te poupar com um spoiler: .

O Reuters Institute publicou em janeiro suas . Quase no fim do primeiro semestre, é uma boa ideia rever que futuro nos esperava até aqui. E falando em futuro até aqui, hoje o Google começou o Google I/O em Mountain View. Na principal conferência da empresa, o The Verge fez uma lista dos no evento (tudo, basicamente, começa com A e termina com I).

Voltando ao tema do texto, se a ideia de ser domesticado por algoritmos te incomoda, lembre que sempre é uma opção assinar um veículo de imprensa profissional editado por pessoas (tem um link lá no topo da página), ler livros e escutar álbuns inteiros da sua banda favorita.

Opinião

Texto em que o autor apresenta e defende suas ideias e opiniões, a partir da interpretação de fatos e dados.

** Este texto não reflete, necessariamente, a opinião do UOL.