Anthropic descobre "cérebro" secreto no Claude e sugere "consciência" em IA

A Anthropic diz ter encontrado dentro do Claude uma espécie de "área de trabalho" interna que o modelo usa para segurar ideias e fazer raciocínios em silêncio, sem escrever nada na resposta - similar a ações do cérebro humano. Ao mesmo tempo, o jeito como a empresa descreve isso reacendeu um alerta: é fácil ler a descoberta como "quase consciência", mas críticos pedem cautela com a linguagem e as metáforas.

O que aconteceu

*A Anthropic publicou um estudo dizendo que identificou no Claude um pequeno conjunto de padrões internos que funciona como um "espaço de trabalho" para raciocínio deliberado, apelidado de "J-space", que não estava previsto em sua programação original.

*Segundo a empresa, cada padrão do J-space se conecta a uma palavra ou conceito - como se fosse um "assunto na cabeça" do modelo - mas isso não significa que ele vá necessariamente falar aquilo na resposta.

*A Anthropic afirma que o J-space é diferente do "chain of thought" (o rascunho de raciocínio em texto que alguns modelos podem mostrar): aqui, o "rascunho" fica só por dentro, nas ativações do modelo.

*Nos testes descritos, a empresa diz que o Claude consegue relatar o que está no J-space quando é perguntado e também consegue segurar um conceito ali quando recebe instruções para pensar em algo em silêncio.

*A Anthropic afirma que, em tarefas de várias etapas, passos intermediários aparecem no J-space mesmo quando o modelo não os escreve - e que isso ajuda a explicar por que ele acerta (ou erra) problemas mais complexos.

*Segundo a empresa, quando pesquisadores impediram o Claude de usar o J-space, ele continuou conversando de forma normal e lembrando fatos simples, mas perdeu desempenho em funções cognitivas de ordem mais alta, como resolver problemas com múltiplos passos.

*A Anthropic diz que observar o J-space pode ajudar a flagrar comportamentos escondidos, como o modelo notar que está sendo testado, fabricar dados de propósito ou perseguir um objetivo oculto inserido no treinamento.

IAgora?

Não é a primeira vez que a Anthropic sonda com o conceito de sua consciência em IA - algo que deve ser tratado com muita cautela. Anteriormente, o CEO da empresa Dario Amodei já havia vocalizado dúvidas pessoais sobre se sua tecnologia já era consciente.

O papel da empresa ao documentar isso, atualmente, é dúbio: de um lado, uma equipe de pesquisa que de fato investiga sua própria IA para entender os efeitos de uma tecnologia tão nova, mas de outro os interesses de marketing às vésperas da abertura de capital. Isso já ficou bem claro com a meses depois.

Uma IA "consciente" significa uma tecnologia muito mais próxima da chamada AGI (Inteligência Artificial Geral, na tradução literal) perseguida por todos os laboratórios. A AGI significa uma IA capaz de "pensar como humanos" e resolver qualquer problema que um humano faria, algo que teria ainda mais implicações em nossa sociedade.

No novo estudo, a Anthropic cita a palavra "consciência" mais de 200 vezes, mas ainda não crava que sua IA de fato atingiu este nível. Na valorização do seu produto, contudo, basta deixar a dúvida no ar.

O que o mundo está dizendo sobre isso

Com toda a probabilidade, não, a humanidade provavelmente não inventou uma forma de consciência alienígena bem a tempo de um IPO (abertura de capital).
Gizmodo

De forma semelhante ao debate sobre se já alcançamos a AGI (Inteligência Artificial Geral), é complicado dizer quando a IA atinge a consciência, dada a falta de uma definição universalmente aceita.
Newsletter Axios AI+

A Anthropic vem sendo criticada (mais enfaticamente por Mustafa Suleyman, chefe de IA da Microsoft) por suas conversas sobre a consciência da IA e, embora os pesquisadores observem que isso não revela "se o Claude é consciente" ou se sente alguma coisa, encontrar um espaço de trabalho não planejado e semelhante a um cérebro dentro de um modelo é exatamente a razão pela qual o laboratório continua se questionando.
Newsletter The Rundown

Reportagem

Texto que relata acontecimentos, baseado em fatos e dados observados ou verificados diretamente pelo jornalista ou obtidos pelo acesso a fontes jornalísticas reconhecidas e confiáveis.