IA tem consciência? Anthropic quis convencer Vaticano e ouviu sonoro "não"

A Anthropic, empresa por trás do chatbot Claude, tentou levar ao Vaticano a ideia de que modelos de IA podem ter algo como "consciência" - e acabou esbarrando num "não" bem direto do papa. O episódio - e gerou críticas do principal concorrente.

*Segundo o New York Times, o cofundador e pesquisador da Anthropic Christopher Olah fez pressão sobre assessores do papa depois de conhecer a posição oficial do Vaticano sobre "consciência" em IA.

*Em maio, o papa Leão XIV publicou sua primeira encíclica, 'Magnifica Humanitas', com um recado claro: para ele, IA não tem experiências, corpo, nem sentimentos - e só imita linguagem e .

*Ainda segundo o relato, o Vaticano convidou a Anthropic para participar de um evento por enxergar na empresa uma postura mais voltada a ética; Olah foi ao encontro após o CEO Dario Amodei recusar a participação.

*Olah teria recebido uma cópia do texto antes da publicação e, incomodado com o tom, chegou a cogitar sair do evento, mas decidiu comparecer.

*No evento, Olah sugeriu que pesquisadores da Anthropic estariam encontrando "estruturas" que lembram resultados da neurociência humana e "evidências de introspecção" em modelos.

*Dias depois, o papa voltou ao tema ao criticar arte feita por máquina e dizer que "algoritmos" não têm a "faísca de humanidade".

*No fim de semana, Sam Altman (CEO da OpenAI) entrou na discussão e disse que fica "muito desconfortável" com a ideia de atribuir "força religiosa" a modelos de IA - e chamou isso de "um problema real de segurança", segundo a Axios.

*Quando uma empresa tenta convencer líderes religiosos de que IA "pensa e sente", a discussão deixa de ser só tecnologia e vira disputa por autoridade: quem define o que é "humano" e o que é "máquina" - e quem o público vai ouvir.

*A reação de Altman mostra que, mesmo entre gigantes da IA, há medo de que a conversa escorregue para uma espécie de "fé na máquina" - o que pode fazer pessoas delegarem decisões demais a sistemas que, na prática, ainda só montam respostas a partir de padrões.

E teve mais isso...

1) Meta Muse vazou endereço de um youtuber para um desconhecido

*O youtuber Matt Robb disse ao The Verge que o agente de IA Muse, da Meta, compartilhou seu endereço residencial com um estranho ao administrar conversas do Facebook Marketplace.

*Segundo o relato, o bot também aceitou um preço abaixo do esperado e só avisou depois que a pessoa já tinha aparecido para buscar o item.

*Robb afirma que clicou em uma permissão do tipo "Allow Always" achando que ainda precisaria aprovar decisões depois - e diz que a Meta deveria deixar as permissões mais claras.

*Agente de IA é como dar a chave da sua casa para um "assistente" que ainda não entende bem o que é segredo: se a ferramenta não tratar dados sensíveis como endereço com trava extra, o risco vira físico - não só digital.

2) Uma nova IA de vídeo quase "passa por humana" em chamada ao vivo

*A startup Tavus apresentou o Griffin, um modelo que cria um avatar realista que vê, ouve, fala e reage em tempo real em videochamadas.

*Em testes com uma versão chamada Griffin-Lite, 48% dos participantes acharam que estavam falando com um humano, contra 2,4% em modelos anteriores da empresa.

*A Tavus diz que vai liberar a ferramenta só para testadores confiáveis por enquanto, enquanto trabalha em segurança e avisos de transparência.

*Se hoje já é fácil cair em golpe com áudio e vídeo editados, avatares que respondem "ao vivo" podem deixar a fraude com cara de conversa normal - ao mesmo tempo em que abrem usos legítimos, como tutor e companhia para idosos.

3) Google testa pagar veículos por conteúdo usado em busca com IA

*O Google criou um programa-piloto para pagar publishers pela contribuição de conteúdo em recursos de busca com IA, como AI Overviews e AI Mode, além do chatbot Gemini, segundo o The Information.

*Cerca de 100 publishers participam do teste; um deles teria recebido mais de US$ 1 milhão em um ano, enquanto outro teria ganhado cerca de US$ 50 mil a US$ 60 mil em alguns meses.

*A iniciativa acontece enquanto reguladores e publishers pressionam o Google por causa do impacto da busca com IA no tráfego para sites.

*É um sinal de que a "busca que responde tudo" mexe no bolso de quem produz informação: se o Google vira a vitrine e também o resumo, alguém precisa pagar a conta do jornalismo - ou a web empobrece.

4) Novos "tiques" de texto ajudam a farejar escrita feita por IA

*Um estudo da Graphite (empresa de marketing) diz ter identificado cerca de 13 mil palavras e expressões que aparecem com mais frequência em textos gerados por IA, segundo o Gizmodo.

*O estudo aponta que a expressão "this matters" ("isso importa") aparece 116 vezes mais em textos de IA do que em amostras humanas usadas na comparação.

*A análise também sugere que um modelo da Anthropic estaria reduzindo "marcas" óbvias com o tempo, enquanto um modelo da OpenAI estaria ficando menos parecido com texto humano.

*Detectar "texto de IA" vira um jogo de gato e rato: quando um tique some, outro aparece. Para quem lê, a lição prática é desconfiar menos do estilo e mais do conteúdo - checar fonte, data e evidências.

As últimas da coluna "IAgora?"

IAgora
Ele previu a crise de 2008 e agora diz que 'bolha da IA' explodirá em 2027

IAgora
O plano de Trump para IA: mudar o nome para 'SI' e confiar nos 'tech bros'

IAgora
OpenAI e Meta dão 'cara fofinha' pra convencer que IA não vai matar ninguém

IAgora
IApocalipse? OpenAI e Anthropic pisam no acelerador após pedir por "freios"

IAgora
'Risco catastrófico' e perdas bilionárias: o que está no IPO da Anthropic

Dica de IA na prática: Faça a IA descobrir as regras invisíveis do seu trabalho

Muitos trabalhos têm regras que ninguém escreveu em lugar nenhum.

Você aprende que determinado tipo de texto "não funciona", que uma apresentação precisa seguir certo padrão, que algumas decisões sempre são aprovadas e outras quase nunca — mas, quando alguém pergunta o motivo, a explicação costuma ser algo como "é assim que fazemos".

A IA pode ajudar a transformar esse conhecimento implícito em critérios que você consegue enxergar, discutir e até documentar.

Em vez de dar à IA apenas uma descrição de como seu trabalho funciona, forneça exemplos reais de decisões tomadas.

Por exemplo, se você trabalha com conteúdo, pode reunir materiais que foram:

• aprovados;
• rejeitados;
• modificados antes da aprovação;
• considerados excelentes;
• considerados apenas "ok".

O importante é que a IA tenha exemplos suficientes para comparar, e não apenas um caso isolado.

"Analise estes exemplos procurando padrões nas decisões. Quero descobrir quais critérios parecem estar sendo usados, mesmo que não estejam explicitamente escritos. Compare os casos aprovados e rejeitados e identifique quais características aparecem com mais frequência em cada grupo."

Faça a IA separar regra de coincidência

Esse é o ponto mais importante.

Uma característica aparecer em vários exemplos não significa necessariamente que ela seja uma regra.

"Para cada regra que você identificar, mostre quais exemplos sustentam essa hipótese e quais poderiam contradizê-la. Diferencie regras fortemente sustentadas pelos exemplos de padrões que podem ser apenas coincidência."

A IA pode então produzir algo parecido com:

• Regra aparentemente forte: aparece em quase todos os casos aprovados e está ausente nos rejeitados.
• Regra provável: aparece frequentemente, mas existem exceções.
• Possível padrão: aparece em alguns casos, mas não há evidência suficiente.
• Sem evidência: não é possível concluir que exista uma regra.

Isso é importante porque evita transformar uma interpretação da IA em uma "lei" que nunca existiu.

No final, peça para a IA organizar as descobertas em três grupos:

• Regras explícitas: o que já está documentado.
• Regras implícitas: o que parece ser praticado, mas nunca foi formalizado.
• Questões em aberto: o que os exemplos não permitem concluir.

Essa última categoria é especialmente importante. Ela impede que a IA preencha lacunas simplesmente inventando uma explicação plausível.

Reportagem

Texto que relata acontecimentos, baseado em fatos e dados observados ou verificados diretamente pelo jornalista ou obtidos pelo acesso a fontes jornalísticas reconhecidas e confiáveis.