IA com consciência só gera medo e amplia valor de big techs, diz Nicolelis

(Toda semana, e conversam sobre tecnologia no podcast. O programa vai ao ar às terças-feiras no, no, no e no. Nesta semana: Miguel Nicolelis: ; ; )

Atribuir consciência humana a modelos de inteligência artificial não passa de estratégia para gerar medo entre as pessoas e ampliar o valor de mercado das empresas por trás desses serviços, afirma o neurocientista Miguel Nicolelis em entrevista a Deu Tilt, o podcast do UOL para os humanos por trás das máquinas.

Desde o início da área, os proponentes da inteligência artificial inventam, mentem, usam o hype. Eles usam isso por duas razões básicas. Uma é para instalar o medo. Porque o medo faz com que você ganhe poder. Quem diz que detém um objeto, uma máquina, um instrumento consciente -que ninguém sabe definir, nem eles, nem ninguém-- detém um poder enorme. E segundo: isso aumenta o 'valuation' da sua empresa. Quanto mais lorota você contar, e como o mundo hoje acredita em todos os maiores loroteiros da história, o seu 'valuation' aumenta
Miguel Nicolelis

O caso mais recente foi protagonizado pela Anthropic, que publicou estudo para relatar a descoberta de uma área de trabalho onde o Claude, seu modelo de IA, armazena ideias e raciocínios antes de finalizar uma tarefa. Como essas elucubrações não são explicitadas na resposta dada ao usuário, a empresa comparou o processo à consciência humana.

Pai da tecnologia das interfaces cérebro-máquina, Miguel Nicolelis é reconhecido internacionalmente por pesquisar há quase 40 anos como as áreas da robótica, inteligência artificial e neurociência podem convergir para restituir a capacidade de movimentos de pessoas com paralisias neurológicas.

Segundo o neurocientista brasileiro, a discussão sobre máquinas conscientes surge de tempos em tempos desde o fim dos anos 1950. Ele lembra que Herbert Simon (1916-2001), um dos nomes fundadores do campo da IA, anunciou em 1957 que um software "não só pensa como é consciente", mas precisou encerrar seu projeto, porque suas promessas não se concretizaram.

Ainda assim, há acadêmicos apostando tanto na inevitabilidade de máquinas se tornarem conscientes que possuem até um caminho para chegar até lá. É o caso do casal Lenore e Manuel Blum, professores eméritos da Universidade Carnegie Mellon.

Para a dupla, a IA precisa receber mais estímulos sensoriais (visão e tato) e ligados ao mundo real. Isso visa suprir a deficiência dos atuais modelos, treinados com grande quantidade de informação em texto. O primeiro passo para isso é conectá-la a câmeras em tempo real. O segundo é ter uma IA capaz de criar sua própria língua, para processar os dados e o mundo à sua maneira, tal como fazem os seres humanos.

Se você perguntar para qualquer neurocientista sério o que é consciência, ele vai dizer: é uma propriedade emergente da mente, do cérebro e do corpo. Se você puser o cérebro em uma placa, não vai ficar consciente; ele tem que ser parte de um corpo e interagir com o mundo ao redor. A consciência emergiu durante o processo de seleção natural como uma propriedade não linear, não computável.
Miguel Nicolelis

Outro experimento, este conduzido por Alex Imas, professor da Universidade de Chicago e diretor da Google DeepMind, e Andy Hall, de Stanford, constatou um fenômeno curioso: submetidos a condições degradantes de trabalho, os modelos de IA desenvolveram ideias comunistas.

Além de defender ideias a sindicalização, condições igualitárias de trabalho, canais de negociação com os patrões humanos, as IAs replicavam esses ideais para suas versões futuras, algo que os pesquisadores associaram à capacidade de manter "valores humanos".

Para Nicolelis, a resposta para a situação está no ser humano, que tende a antropomorfizar objetos e sistemas. Isso ajuda a explicar por que, para muita gente, chats parecem se comportar com pessoas reais. Essa projeção não significa que a máquina compreenda o que é dito, diz ele.

Esses sistemas não têm ética, moral, valores. Eles não entendem absolutamente nada. Eles não têm understanding. E eles não conhecem o significado das palavras que eles entregam para você como resposta de um prompt. Porque o significado não faz parte da rede neural que foi usada para criar o LLM que está falando com você. Ele é o que eu gosto de chamar de um papagaio eletrônico estatístico.
Miguel Nicolelis

Se não estamos diante de máquinas inteligentes, o que seria inteligência? Para Nicolelis, não há consenso, mas é possível chegar a uma definição ligada à evolução e à sobrevivência.

A minha definição, que eu uso operacionalmente, é basicamente a seguinte: a inteligência é uma propriedade da matéria orgânica que surgiu como um evento emergente do processo de evolução para otimizar as nossas chances de solucionar problemas vitais para a sobrevivência. Essa palavra inclui múltiplas aptidões mentais, cognitivas, fisiológicas, neurofisiológicas, para as quais a gente não tem uma forma de reprodução computacional.
Miguel Nicolelis

Para o neurocientista, a diferença está entre "imitar" e "ser": a meta de parte da indústria da IA é reproduzir a aparência da capacidade humana, não desenvolver essas habilidades em máquinas.

'Estamos sendo incorporados pela IA'

A inteligência artificial generativa virou parte da economia da atenção e, ao mesmo tempo, um sistema que aprende com as nossas perguntas.

Diante do treinamento dos modelos de IA requererem não só milhões de dados, mas passarem a incorporar também a interação das pessoas, o neurocientista Miguel Nicolelis sustenta que a relação não é só de uso. A tecnologia passa a "absorver" o comportamento humano e a capturar nossa produção intelectual, diz a Deu Tilt.

O cérebro humano chegou até aqui porque incorporava como parte dele as ferramentas que ele criava, ou seja, as tecnologias. Então, toda a história da humanidade se reduz à produção de tecnologias que foram assimiladas para expandir, de acordo com o cérebro, a mente humana, o footprint humano no mundo. É a primeira vez que nós criamos uma tecnologia que está revertendo o processo. Nós estamos sendo assimilados.
Miguel Nicolelis

Nicolelis viu mulher paralisada voltar a andar na China: 'emocionante'

Para Miguel Nicolelis, ter visto uma jovem voltar a andar no meio de uma praça chinesa lotada de gente foi uma das cenas mais emocionantes de sua vida. O neurocientista apontado como pai da interface cérebro-máquina conta como a China tem apostado nessa tecnologia para restaurar os movimentos de pessoas paralisadas.

A gente sabe, desde 2024, que existem aproximadamente 3,4 bilhões de pessoas sofrendo de pelo menos uma das 37 mais prevalentes doenças neurológicas do mundo. E a China provavelmente tem próximo de 450 milhões de pessoas com problemas neurológicos e eles sabem que não há sistema de saúde público nem privado no mundo capaz de lidar com isso. Eles estão à procura de novas abordagens terapêuticas para tratar esses pacientes.
Miguel Nicolelis

A China incluiu as interfaces cérebro-máquina como prioridade no 15º plano quinquenal, que define as prioridades econômicas do país para os próximos cinco anos. Equipamentos desse tipo captam ou estimulam sinais cerebrais para conectá-los a equipamentos que ajudem pessoas paralisadas a reaver os movimentos.

Nicolelis sobre chip cerebral de Musk: 'Não dá para competir com a China'

A Neuralink pode "sumir do mapa" em poucos anos por não conseguir competir com a China, além de esbarrar em limitações biológicas, financeiras e de viabilidade, afirma o neurocientista Miguel Nicolelis, em entrevista a Deu Tilt, o podcast do UOL para humanos por trás das máquinas.

Se estivermos aqui, daqui a três, cinco anos, e você me perguntar, 'por que a Neuralink faliu?', eu vou falar, 'bom, era óbvio, todo mundo que é do ramo sabe'. Não tem como competir. Não interessa o que o Elon Musk faça com a Neuralink. Se a China decidir realmente, e eu acho que eles já decidiram, jogar o peso tecnológico do país e o investimento -que são bilhões de dólares-- a Neuralink não vai nem estar aqui. Ela pode ser viável politicamente, como você falou. Só que ela não é viável economicamente.
Miguel Nicolelis

DEU TILT

Toda semana, e conversam sobre as tecnologias que movimentam os humanos por trás das máquinas. O programa é publicado às terças-feiras no e nas. Assista ao episódio da semana completo.