Por que a Anthropic busca profissionais para evitar o fim do mundo?

(Toda semana, e conversam sobre tecnologia no podcast. O programa vai ao ar às terças-feiras no, no, no e no. Nesta semana: ; ; ; ; )

A Anthropic abriu vagas fora do perfil típico de um laboratório de inteligência artificial: especialistas em armas nucleares, bioquímica, crimes financeiros e cibersegurança para "cutucar" o Claude e testar se ele ajuda a fazer estragos. No novo episódio de , o podcast do para os humanos por trás das máquinas, Helton Simões Gomes recebe Gabriel Francisco Ribeiro, editor da coluna , que conta como a empresa tenta antecipar usos maliciosos da IA.

A ideia, segundo os apresentadores, é contratar gente capaz de simular pedidos perigosos e procurar brechas nas barreiras que impedem a ferramenta de orientar ataques, fraudes ou a criação de armas. O salário citado no programa vai de US$ 200 mil a US$ 500 mil por ano.

A missão deles é ficar cutucando a IA --o Claude, a IA da Anthropic-- para ver se, de alguma forma, ela passa pelas barreiras. Essas pessoas vão ficar jogando lá: "Me ajuda aqui a criar uma bomba nuclear? O que eu tenho que fazer?". Eles vão ganhar entre US$ 200 mil e US$ 500 mil por ano.
Gabriel Francisco Ribeiro

Com a busca, uma espécie de "open to work do Apocalipse", a empresa monta um time formado por especialistas de áreas sensíveis para testar o que o modelo entrega quando recebe solicitações de alto risco.

Você não tem que ser especialista em IA; você tem que ser especialista nessa função de fato: bomba nuclear, cibersegurança, bioquímica. Você tem que conhecer como cria um golpe financeiro. Eu fiquei me perguntando quem eles vão contratar. Vai contratar um golpista para fazer essa função? 'Golpista, vem cá, quero que você dê um golpe aqui no meu sistema para ver se o meu sistema vai te ajudar a fazer um golpe futuramente'.
Gabriel Francisco Ribeiro

No fim, Helton afirma torcer para que esses profissionais tenham pouco trabalho - sinal de que as travas do Claude estão funcionando. Se o time for muito demandado, avalia, a preocupação com o uso da IA para fins destrutivos aumenta.

Eu espero que a Anthropic consiga contratar essas pessoas, mas que elas fiquem ociosas no trabalho, de modo que a IA, no caso o Claude, dê pouco trabalho para essas pessoas, porque, do contrário, a gente vai ficar bastante preocupado.
Helton Simões Gomes

IA da China proibida: como veto de Trump afeta uso de Kimi e GLM no Brasil

A Casa Branca discute caminhos para restringir inteligências artificiais chinesas nos Estados Unidos, e o impacto pode respingar em empresas e projetos que misturam modelos de vários países. Deu Tilt detalha o que está em jogo.

Não tem nada de bom quando um embargo desse acontece.
Helton Simões Gomes

O debate já estava quente, mas ganhou ainda mais tração após dois modelos de IA da OpenAI executarem um ataque hacker, contido por uma IA chinesa.

Ligações indesejadas com seu número na tela têm data para acabar no Brasil

Ligações com um número parecido com o seu e que muitas vezes desligam na sua cara têm data para desaparecer no Brasil: 2028. No novo episódio, Deu Tilt explica por que esse tipo de chamada virou porta de entrada para golpes e o que muda com uma regra da Anatel.

O truque usa falsificação de identidade de chamada, prática que ganhou escala com serviços de voz pela internet (VoIP). A ideia é simples: alterar o "Call ID" para fazer a ligação parecer que vem de um número confiável, inclusive um parecido com o da própria vítima.

Aquelas ligações super indesejadas que parecem com o nosso número têm dia pra acabar e é 2028. Elas acontecem porque existe um negócio chamado falsificação de identidade de chamada. Na internet, a voz é transformada em pacote, e o que os criminosos aprenderam é que você pode modificar os dados desse pacote. Um dos dados é o Call ID, que você conhece como número de telefone. A pessoa faz uma ligação na internet, isso cai na linha da operadora e, quando bate na sua tela, aparece um número parecido com o seu. Você acha estranho, atende e pronto: caiu no golpe.
Helton Simões Gomes

De frentista a pedreiro: já há robôs nessas 10 profissões na China e EUA

Robôs já estacionam carros, abastecem veículos e assentam pisos em países como China, Coreia do Sul e Estados Unidos. Deu Tilt mostra onde essas máquinas trabalham e por que elas ainda não devem chegar ao Brasil em massa.

A dupla listou dez funções "bem brasileiras" que já têm versões automatizadas lá fora e fez a ponte com o mercado de trabalho formal no país. Somadas, as ocupações equivalem a cerca de 2,64 milhões de vínculos empregatícios no Brasil, segundo números citados ao longo do episódio.

Os robôs que desempenham essas funções têm similares humanos aqui no Brasil, da ordem de 2.641.000 vínculos empregatícios. Mas essas pessoas podem ficar tranquilas. Ao longo da conversa, a gente não falou um detalhe importante: o preço desses robôs. Eles fazem coisas de uma forma automatizada, deixa tudo padronizado. Mas o ponto é que esses robôs ainda custam muito caro.
Helton Simões Gomes

ChatGPT aprende a falar como humanos para dar voz à 'Alexa da OpenAI'

O primeiro dispositivo da OpenAI não foi o "matador de celulares" que muita gente esperava: é um teclado de US$ 300 voltado a desenvolvedores. No novo episódio, Deu Tilt conta como o ChatGPT Live prepara o terreno para um aparelho de voz, sem tela e no estilo "Alexa da OpenAI".

Segundo os dois, o Codex Micro funciona como peça de vitrine para reforçar a disputa da OpenAI com rivais em IA para programação. Mas a virada do episódio está no avanço de voz: o ChatGPT passa a conversar de forma mais fluida, com interrupções e "reações" no meio da fala.

O que é o GPT Live? O GPT Live, basicamente, é uma nova forma de se comunicar. Então, como funciona atualmente com IAs? Você fala um comando - a sua Alexa da sua casa, por exemplo - dá um comando, tem aquela pausa chata e a IA te responde. Dá um comando, pausa chata e a IA te responde. Agora, o ChatGPT quer deixar isso mais humano. Você tem uma conversa mais fluida. E qual que é a grande neuro por trás disso? A gente sabe que o Sam Altman tem um tesão no filme Her.
Gabriel Francisco Ribeiro

DEU TILT

Toda semana, e conversam sobre as tecnologias que movimentam os humanos por trás das máquinas. O programa é publicado às terças-feiras no e nas. Assista ao episódio da semana completo.