Anthropic achou consciência ?humana? no Claude? Pergunta deveria ser outra
A Anthropic publicou uma pesquisa dizendo ter encontrado dentro do Claude, seu modelo de IA, um espaço interno de raciocínio que ninguém tinha mapeado. O artigo viralizou porque muitos influenciadores e a mídia internacional começaram a dizer que o mecanismo encontrado era muito parecido com uma das teorias do funcionamento da própria consciência humana, só que dentro da IA.
Na prática, o que a empresa encontrou foi um espaço oculto dentro do modelo, batizado de J-space, e uma técnica para espiá-lo, a J-lens. É como se, além de tudo que o modelo processa de forma automática, existisse ali dentro um quadro menor onde ele segura os conceitos que está de fato manipulando naquele momento.
Para mostrar que esse quadro é real, os pesquisadores fizeram um teste. Trocaram lá dentro a representação de "França" pela de "China" e, sem mudar mais nada na pergunta, o modelo passou a responder como se a conversa fosse sobre a China, falando em Pequim e Ásia. Ou seja, mexer naquele pedacinho interno mudou o rumo da resposta.
A pesquisa traz uma contribuição técnica importante. Muito do que a IA faz acontece numa espécie de caixa preta que nem quem desenvolve o modelo enxerga direito, então qualquer técnica que nos ajude a entender melhor esses mecanismos é importante.
Meu problema é com a embalagem. O artigo usou a palavra consciência dezenas de vezes e evocou um conceito da neurociência para investigar um mecanismo de funcionamento da IA. O resultado foi o estudo ter viralizado em poucas horas. E aí a coisa deixa de ser só ciência.
Isso me lembrou da "sopa de pedra", uma velha fábula que a cientista cognitiva Alison Gopnik usa para falar de IA. No conto, alguns viajantes chegam a uma aldeia sem ter o que comer. Eles colocam uma pedra dentro de uma panela com água e dizem que estão preparando uma "sopa de pedra".
Muitos moradores ficam curiosos, e então os viajantes comentam que a sopa ficaria ainda melhor com um pouco de sal, depois com uma cenoura, algumas batatas e outros ingredientes. Aos poucos, cada morador contribui com alguma coisa.
No fim, a panela está cheia e todos comem uma boa sopa. O resultado é atribuído à suposta magia da pedra, mas, na verdade, foram as pequenas contribuições de cada um que tornaram aquilo possível. É um jeito sútil de manipular a percepção e comportamentos.
Gopnik usa a história para dizer que o modelo de IA é a pedra e o caldo somos nós, os nossos textos e dados. Eu queria puxar a fábula para outro lado. No estudo da consciência, a pedra é a própria palavra consciência, jogada na panela para fazer uma pesquisa boa parecer ainda mais profunda. E, de repente, convencer que aquela tecnologia é mais especial do que imaginamos.
E essa pedra funciona porque a gente é presa fácil. Desde os anos 1960, quando um chatbot simples chamado ELIZA devolvia perguntas genéricas e as pessoas juravam estar sendo compreendidas, já sabemos o quanto somos capazes de enxergar a mente em qualquer coisa que use linguagem.
O filósofo Daniel Dennett também falava disso, dessa nossa tendência de atribuir intenção e pensamento ao que quer que se comporte como se pensasse. A novidade é que agora a máquina fala fluentemente, e a possibilidade de nos enganarmos ficou ainda mais aparente.
A gente vive discutindo se estamos atribuindo humanidade demais à máquina, mas o problema fica ainda mais sensível quando começamos a pensar no movimento contrário. O cientista comportamental Valerio Capraro deu nome a isso num artigo recente: LLMorphism, que é quando a gente começa a acreditar que funciona como uma IA, que a nossa cognição só prevê a próxima palavra como os modelos de linguagem.
A teoria do espaço de trabalho global, que a Anthropic usou de moldura, saiu do estudo do cérebro humano e foi aplicada na máquina, não o contrário. Essa pesquisa serve mais para mostrar a nossa tendência de encontrar a mente do outro lado do que ser uma evidência de como a nossa funciona.
A pergunta da semana foi se a máquina ficou mais parecida com a gente, mas ninguém fez a pergunta inversa. Talvez o risco seja buscar entender a nossa própria natureza numa máquina que não tem nada a ver com a gente.
Opinião
Texto em que o autor apresenta e defende suas ideias e opiniões, a partir da interpretação de fatos e dados.
** Este texto não reflete, necessariamente, a opinião do UOL.
