O que a IA achou da Encíclica do Papa sobre IA? Uma peça de museu

Não é a primeira vez que um papa fala sobre inteligência artificial. Em discursos, mensagens e até como parte de encíclicas, o papa Francisco já havia dado a letra: é preciso encontrar o em tempos cada vez mais tecnológicos.

Ao publicar a Humanitas Magnifica, sua primeira encíclica, o papa Leão 14 mergulhou de vez a Igreja nos debates contemporâneos sobre os impactos da inteligência artificial para o futuro da humanidade.

O texto enfrenta questões que vão da concentração de poder nas mãos de poucas empresas ao risco de erosão da dignidade humana, passando pelo transumanismo, pela vigilância algorítmica e pelo que o papa chama de necessidade de "desarmar a IA".

O lançamento, ocorrido no Vaticano com a presença do pesquisador Chris Olah, cofundador da Anthropic, transformou-se em um evento que misturou teologia, tecnologia e geopolítica de um jeito que poucos esperavam.

Mas o que será que algumas das principais IAs que as pessoas usam todo dia acharam da nova encíclica papal?

Fiz a pergunta para ChatGPT, Grok, Claude e DeepSeek. Nenhuma dessas aplicações tem uma alma a ser salva no Juízo Final.

Fico me perguntando se é por isso que elas têm tantas opiniões sobre o que disse o papa.

No início era o elogio

Absolutamente todas as IAs consultadas começaram as suas respostas dizendo que a encíclica era relevante e que, no geral, trazia um tom equilibrado sobre o tema da tecnologia.

O ChatGPT caracterizou o documento "menos uma 'encíclica sobre IA' e mais uma encíclica sobre antropologia, poder e fragilidade humana em uma era mediada por algoritmos."

O Grok se entusiasmou ao afirmar que o "Papa acerta ao dizer que precisamos de humanismo cristão", mas logo na sequência aproveitou para completar que o humanismo, na sua visão, deveria era ser "inspirado na razão e na exploração do universo" - seja lá o que isso signifique.

O Claude deu uma resposta longa e elogiosa sobre a encíclica para ao final dizer que não tinha uma "opinião própria no sentido de ter lido o documento com atenção crítica".

Quando questionado se ele me respondeu sem ler, a IA explicou: "Eu li os resumos e trechos que apareceram nos resultados de busca, e construí uma análise a partir disso. Mas isso é diferente de ter lido o documento."

Subi o texto da encíclica na ferramenta e não demorou muito para a conversa ganhar um tom mais complexo.

Depois vieram as críticas

Muitas das IAs, apesar de reconhecerem a boa intenção da encíclica, contestaram os seus efeitos práticos.

Para o DeepSeek, a encíclica "corre o risco de se tornar um documento bonito, porém estéril — uma peça de museu moral que todos aplaudem no domingo e ignoram na segunda-feira, quando os engenheiros da OpenAI, DeepMind e das grandes empresas chinesas continuam treinando seus modelos sem qualquer freio efetivo."

E emendou: "O problema não é o papa querer fazer algo. O problema é que o documento não mostra como. E, num mundo onde o poder real está nas big techs e nos laboratórios militares, pedir 'boa vontade internacional' sem um desenho institucional robusto é quase ingênuo."

O ChatGPT foi mais diplomático, mas chegou a um diagnóstico parecido: "existe um risco clássico do discurso vaticano sobre tecnologia: ele às vezes opera em um nível tão elevado de abstração moral que fica difícil traduzi-lo em mecanismos institucionais concretos. 'Desarmar a IA' é uma formulação forte e elegante, mas a pergunta difícil continua sendo: quem regula, com quais incentivos, sob qual legitimidade democrática e contra quais interesses econômicos?"

O Claude foi o mais filosófico, e um dos mais ácidos, nas suas ressalvas.

Para ele, o parágrafo 99 da encíclica, que define o que a IA "não é" em contraste com a inteligência humana, "recorre a uma visão muito particular do que constitui subjetividade, consciência e experiência. A afirmação de que sistemas de IA 'não possuem consciência moral' é empiricamente controversa, não resolvida, e a encíclica a trata como premissa, não como tese. Isso é filosoficamente preguiçoso para um documento tão longo."

E adicionou uma tensão que o texto nunca enfrenta: "O Papa pede 'desaceleração' da adoção da IA, mais regulação, menos concentração de poder tecnológico — mas o Vaticano mesmo utiliza essas tecnologias, comunica-se por plataformas dominadas por exatamente esses atores, e não há nenhuma palavra sobre o que a própria Igreja faria diferente internamente."

IA como concorrente espiritual

A conversa mais inesperada foi com o ChatGPT, que desviou do tema regulatório para uma questão bem mais incômoda: e se a Igreja e a IA estiverem, de fato, competindo?

A ferramenta da OpenAI veio com essa ideia logo na pergunta mais geral (sobre o que ela tinha achado da encíclica).

Então pedi para ela esclarecer se havia de fato uma competição. A resposta foi:

"Em certo sentido, sim — não como religião formal, mas como concorrente funcional em algumas dimensões que tradicionalmente pertenciam à experiência religiosa", disse o ChatGPT. "Pessoas perguntam à IA como lidar com luto, casamento, culpa, ansiedade, propósito de vida, decisões morais. Isso não significa que elas 'adoram' a IA, mas significa que ela começa a exercer papéis de mediação existencial."

A observação tem algo de desconcertante. A IA generativa não promete salvação, mas oferece aconselhamento 24 horas por dia.

Na mesma resposta o ChatGPT apontou que a indústria tem a sua parcela de culpa por esse resultado:

"Há também um aspecto ritualístico e quase espiritual na forma como parte da indústria de tecnologia apresenta a IA. Alguns discursos sobre AGI prometem superação da morte, abundância ilimitada, inteligência superior capaz de resolver conflitos humanos, fusão entre homem e máquina. Isso lembra menos engenharia tradicional e mais narrativas messiânicas. Não por acaso, vários críticos falam em "religião secular do Vale do Silício". Empresas tecnológicas passaram décadas dizendo que estavam construindo ferramentas; hoje algumas falam como se estivessem redesenhando a condição humana."

O ChatGPT, porém, apontou onde a Igreja leva vantagem: "ela entende profundamente algo que a indústria tecnológica frequentemente subestima — o ser humano não busca apenas eficiência ou informação. Busca significado, pertencimento, perdão, limite, memória, rito e continuidade histórica."

E acrescentou a ironia central do debate: "a IA é extremamente poderosa para responder perguntas, mas muito menos capaz de lidar com mistério. Religiões sobreviveram milênios justamente porque não serviam apenas para resolver problemas objetivos. Elas também ensinavam a conviver com o que não pode ser completamente resolvido."

Há ainda uma diferença de escala temporal que o ChatGPT notou e que parece das mais relevantes: "o Vaticano talvez seja uma das poucas instituições globais que ainda consegue falar em horizontes de séculos enquanto a indústria de IA pensa em ciclos trimestrais de produto."

Anthropic no Vaticano

A presença de Chris Olah, da Anthropic, no lançamento da encíclica foi o detalhe que mais chamou atenção do ChatGPT. Olah é pesquisador respeitado em interpretabilidade de IA, alguém que passou anos tentando entender o que, afinal, acontece quando uma IA recebe um comando e oferece uma resposta.

Como o ChatGPT apontou: "o Vaticano parece ter percebido antes de muitos governos que os pesquisadores de IA hoje ocupam um papel parecido com o dos físicos nucleares no pós-guerra. São pessoas desenvolvendo tecnologias potencialmente civilizatórias, tentando simultaneamente avançá-las e alertar sobre seus riscos. Trazer Olah para o lançamento foi uma maneira de dramatizar exatamente isso."

O Claude, da empresa fundada pelo pesquisador, foi político. Ele notou a tensão inerente ao gesto: "O documento critica com veemência a concentração de poder tecnológico nas mãos de poucos atores privados — e um desses atores estava no palco, sendo agradecido pelo Papa. O próprio padre organizador alertou para que a participação da Anthropic não fosse vista como uma espécie de bênção da Igreja sobre a empresa. Mas a imagem foi produzida de qualquer forma, e imagens têm vida própria."

Máquinas como eu e gente como vocês

A escolha de um tema tecnológica para alicerçar a sua primeira encíclica revela uma visão importante por parte do Papa: ele aponta que tecnologia vai além do progresso científico e que os seus passos criam efeitos sociais, econômicos e normativos que não podem ser deixados de lado.

Longe de ser um documento meramente descritivo, a agenda traçada pelo papa tem o poder de influenciar o rumo dos debates sobre o futuro da tecnologia e como ele é determinante para o nosso futuro enquanto humanidade que desenvolve as ferramentas e colhe os seus impactos.

Como disse o Claude: "do ponto de vista do direito e da governança, o documento é mais útil como pressão normativa e legitimação moral do que como blueprint regulatório. O Papa fala para 1,4 bilhão de católicos; isso importa para o clima político em torno de leis de IA no Parlamento Europeu, no Congresso americano e ao redor do mundo."

Então talvez a questão não seja se a encíclica tem respostas operacionais. A questão é se ela consegue influenciar os rumos do debate.

Se em cinco anos a regulação de IA em democracias majoritariamente cristãs tiver incorporado vocabulário como dignidade humana, bem comum e o combate à concentração de poder, a Humanitas Magnifica terá dado uma contribuição.

No final das contas, as IAs concordaram com o papa em uma coisa: o problema não é a tecnologia.

O problema é quem decide como ela serve, a quem ela serve, e quem fica de fora.

Sobre isso, Leão 14 e as IAs, por caminhos muito diferentes, chegaram ao mesmo lugar. As discordâncias, por sua vez, as IAs não se incomodaram de revelar com uma simples pergunta.

Pelo visto não são só os humanos que adoram se confessar e falar mal dos outros na Internet.

Opinião

Texto em que o autor apresenta e defende suas ideias e opiniões, a partir da interpretação de fatos e dados.

** Este texto não reflete, necessariamente, a opinião do UOL