Karen Hao: 'Não devemos acreditar no que dizem líderes das empresas de IA'

(Toda semana, e conversam sobre tecnologia no podcast. O programa vai ao ar às terças-feiras no, no, no e no. Nesta semana:;;;)

Antes de criar o ChatGPT, a OpenAI tocava projetos nada vistosos até praticamente tropeçar no GPT-2, tecnologia criada a partir de uma ideia forjada pelo Google, escreve a jornalista norte-americana Karen Hao no bestselling "Império da IA". Para a escritora, o segredo para a errática empresa ter colocado a inteligência artificial generativa na boca do mundo não foi inventar um método inédito ou encontrar o produto certo de cara, mas, sim, algo menos intuitivo: escala.

Apostar em mais dados e mais poder computacional fez a OpenAI largar na frente, diz Karen Hao em entrevista a , o podcast do para os humanos por trás das máquinas. Na conversa, ela detalha por que classifica as empresas de IA de "impérios", contesta as previsões de líderes do setor, como Sam Altman, e ainda aponta riscos para a democracia e a autonomia de países que viram grandes consumidores de IA.

Eu não acho que devemos confiar nessa previsão dele. Previsão não deve ser entendida apenas como uma descrição do futuro, mas como um ato de fala e um instrumento de poder. As pessoas preveem que algo vai acontecer como uma forma de tentar fazer aquilo acontecer. Se alguém como Sam Altman consegue convencer todo mundo de que a visão de mundo dele inevitavelmente vai se concretizar, isso vira uma profecia autorrealizável. Por isso, não deveríamos simplesmente acreditar no que Sam Altman diz ou no que qualquer líder dessas empresas de IA diz.
Karen Hao

Ao explicar por que a OpenAI ganhou tração com o ChatGPT, Hao afirma que a diferença central para o Google foi levar a arquitetura Transformer, criada pela rival, ao limite, usando computadores para treinar máquinas em uma escala inédita.

A principal coisa que a OpenAI fez de diferente do Google foi escalar a arquitetura Transformer. Isso é alimentar o Transformer com cada vez mais dados e usar cada vez mais poder computacional. A OpenAI foi do GPT-2 ao GPT-4, aumentando a quantidade de dados e de capacidade computacional em mais de 10 mil vezes, algo que simplesmente nunca havia sido tentado antes.
Karen Hao

Em seu livro, Karen Hao relata a saga da empresa desde sua criação, uma união incomum entre Elon Musk e Sam Altman, a corrida para a criação do ChatGPT e os bastidores da relação com a Microsoft. Ela também narra as incoerências dos personagens envolvidos, ora movidos pelo ego, ora pela fé quase religiosa de que participavam de um movimento para transformar a humanidade.

Diante das descobertas feitas por ela, os brasileiros deveriam se preocupar, já que o Brasil é o terceiro maior mercado do ChatGPT e polo de desenvolvedores de aplicações com a IA da OpenAI? Para Hao, usar essas plataformas ou construir com elas significa transferir poder para um império que cresce com dados, energia, água e trabalho.

Devemos reconhecer que cada vez que você usa uma das tecnologias da OpenAI, cada vez que desenvolve um aplicativo baseado nas tecnologias da OpenAI, você cede mais e mais poder ao império. Os dados dos quais você abre mão, o controle do qual você abre mão, é o que permite ao império continuar se expandindo. A maior ameaça é à democracia, porque impérios e democracia são incompatíveis.
Karen Hao

"Império da IA" narra ainda a perseguição de Altman e outros fundadores da OpenAI pela chamada inteligência artificial geral (AGI, na sigla em inglês), um sistema autônomo tão poderoso a ponto de replicar as características humanas. Só que não há definição clara da linha de chegada para este estágio da tecnologia, o que Hao vê como proposital.

Não há definição [para AGI] e é realmente apenas o que a OpenAI diz que é. A empresa já usou pelo menos quatro definições diferentes de AGI. Eles definem oficialmente como sistemas altamente autônomos que superam os humanos na maioria dos trabalhos economicamente valiosos. Depois, no contrato com a Microsoft, definiram como um sistema que gera US$ 100 bilhões em receita. Diante do Congresso, Sam Altman disse que a AGI vai resolver mudanças climáticas, curar o câncer e aliviar a pobreza. Quando falam com consumidores, dizem que é o melhor assistente digital.
Karen Hao

As brigas recorrentes entre nomes como Elon Musk, Sam Altman e Dario Amodei são outro atrativo do livro. Hao atribui os conflitos mais a diferenças mínimas de rota e a uma busca desenfreada pelo controle sobre a tecnologia do que a diferenças muito nítidas entre esses personagens.

Até as menores diferenças nas ideias sobre como desenvolver a IA acabam se transformando em conflitos enormes. Eles podem passar de amigos a rivais em muito pouco tempo. No fundo, eles não são realmente diferentes uns dos outros. A questão não deveria ser simplesmente: 'devemos usar a Anthropic ou a OpenAI?'. Precisamos pensar em uma abordagem fundamentalmente diferente para o desenvolvimento da inteligência artificial, guiada pela comunidade, de baixo para cima.
Karen Hao

Ao falar sobre a baixa presença de mulheres em processos decisivos da indústria, ela descreve um ambiente "profundamente patriarcal" e cita o caso de Timnit Gebru como exemplo de como críticas internas podem ser punidas. A ex-cientista do Google, diz ela, foi demitida por fazer bem demais seu trabalho. Para Hao, parte das pesquisadoras evita o setor por discordar do caminho "imperialista e destrutivo" das big techs.

Você vai passar 25 anos diante da tela; veja como sair da frente do celular

Ela diz ainda que se surpreendeu com o "grau quase religioso" de movimentos que sustentam a indústria, com pessoas que acreditam tanto em utopias quanto em cenários de colapso. Na leitura dela, essa ideologia ajuda a mobilizar apoio e a moldar decisões no setor.

Um brasileiro pode passar cerca de 25 anos diante de telas ao longo da vida se mantiver o ritmo médio de uso diário, calculam e, de, o podcast do para os humanos por trás das máquinas.

No novo episódio, a dupla explica como o celular sequestra a atenção e o que fazer para reduzir o tempo de tela. Helton conta que desconfiou de um estudo que falava em 52 anos diante de telas e refez as contas com outro levantamento, além de checar o próprio uso no iPhone e no computador. A conclusão, segundo ele, assusta, mas também dá pistas de por onde começar.

Eu topei com um estudo feito pela NordVPN que mostrava que o brasileiro vai gastar 52 anos na frente de uma tela de celular, de computador e por aí vai. Eles ouviram alguns brasileiros e chegaram a um número de mais de 14 horas por dia e extrapolaram para o tempo de vida. Eu olhei e pensei: não é possível. Fiz perguntas, as respostas não vieram e eu comecei a desconfiar. Fui atrás de uma estimativa de uma consultoria mundialmente conhecida e cheguei ao número de 9 horas e 13 minutos por dia. Fazendo as contas, dá 28 anos, 2 meses e 7 dias diante de telas. Aí eu falei: essa conta está errada porque parece que a pessoa nasceu e já está na frente de uma tela. Então calculei a partir dos 9 anos e cheguei a 25 anos na frente de uma tela.
Helton Simões Gomes

Arrependidos do TokkenMaxxing: a conta chegou para os maníacos da IA

Durou pouco e não deixou saudade. A corrida do Vale do Silício para mostrar estar antenado levou empresas a incentivar seus funcionários a gastar o que podiam —e não podiam— com ferramentas de inteligência artificial. Apelidada de "tokkenmaxing", a doideira foi simbolizada por rankings dos profissionais que mais consumiam tokens, promessas de bônus aos mais gastadores e até declarações públicas de bambambãs das big techs de não havia outro caminho. Só que tinha.

Diogo Cortiz e Helton Simões Gomes explicam como a conta astronômica do uso desenfreado da IA chegou. Literalmente: os boletos foram tão altos que companhias como Uber, Microsoft e até Meta deram um jeito de pisar no freio. A onda de exagero foi percebida até no Brasil. E agora a ressaca está saindo mais caro do que a satisfação com o esbalde.

Manual para virar trilionário: 10 passos para seguir o caminho de Elon Musk

Vivemos em um mundo onde 1 trilhão já não é uma abstração para quantidades inatingíveis, graças ao empresário sul-africano Elon Musk, que se tornou o primeiro trilionário da história da humanidade. O caminho trilhado por ele foi acelerado pelo frenesi da inteligência artificial e pela esperança da retomada da corrida espacial. Mas toda grande jornada começa com um primeiro passo.

O episódio de cria o "manual do trilionário", um tutorial que remonta a trajetória do dono da SpaceX para replicar em 10 simples passos o caminho das pedras para quem quiser se tornar o segundo, terceiro ou quatro trilionários do mundo. Afinal, se ele conseguiu, qualquer um consegue. Spoiler: contém ironia.

DEU TILT

Toda semana, e conversam sobre as tecnologias que movimentam os humanos por trás das máquinas. O programa é publicado às terças-feiras no e nas. Assista ao episódio da semana completo.