CEO da OpenAI defende aceitar riscos para avançar com a IA
Sam Altman, CEO da OpenAI, defendeu que a sociedade aceite que "algumas coisas ruins" aconteçam para aproveitar os benefícios da inteligência artificial (IA) e manter a tecnologia amplamente acessível, em entrevista ao site americano Politico.
Entenda o caso
Altman disse ver uma diferença de visão entre a OpenAI e a Anthropic sobre como regular a IA. Para ele, os ganhos da tecnologia justificam conviver com parte dos riscos, desde que as pessoas mantenham autonomia para usar as ferramentas.
Questionado sobre onde diverge do CEO da Anthropic, Dario Amodei, Altman afirmou que a OpenAI aceita um nível maior de exposição a problemas. Ele afirmou que alguns problemas, como golpes, abusos ou outros usos indevidos da tecnologia, podem ocorrer à medida que a IA se difunde, mas que os benefícios superariam esses riscos.
Acreditamos que o mundo deveria aceitar que algumas coisas ruins aconteçam pelos benefícios dessa tecnologia e para que as pessoas tenham autonomia
Sam Altman, CEO da OpenAI
Apesar do discurso de acesso amplo, Altman disse concordar com . A OpenAI também passou a apoiar medidas regulatórias e requisitos de segurança para os modelos de IA mais avançados, após lidar com casos de invasões e comportamentos indesejados de seus modelos.
A Anthropic foi fundada em 2021 por ex-funcionários da OpenAI, entre eles os irmãos Dario e Daniela Amodei. O grupo deixou a empresa após divergências sobre a direção da organização e preocupações com os rumos do desenvolvimento de sistemas de inteligência artificial cada vez mais poderosos. Desde então, a Anthropic passou a defender uma abordagem focada em segurança e alinhamento de modelos de IA, posicionando-se como uma das principais concorrentes da OpenAI no setor.
O CEO da OpenAI rejeitou a ideia de concentrar a tecnologia em um único laboratório para evitar abusos. "Eu discordo, mas entendo a perspectiva de pessoas que pensam: 'Essa tecnologia vai ficar tão poderosa e tão perigosa que um único laboratório em San Francisco deveria tê-la e garantir que nada de ruim aconteça, e meio que decidir como distribuir os benefícios'", afirmou. Altman respondia a argumentos de pessoas que defendem restringir o desenvolvimento dos sistemas mais poderosos a um número muito pequeno de organizações.
Altman disse que não toparia uma troca em que a promessa de segurança total viesse ao custo de restringir o uso da IA. "Eu não faria uma troca do tipo: 'Vamos garantir que não haja grandes invasões, não haja mau uso dessa tecnologia, não haja golpes, não haja todas as outras coisas ruins que vão acontecer'. Porque acho que as pessoas vão fazer muito mais coisas boas do que ruins", declarou.
Altman critica associação entre IA e religião
Além da discussão sobre riscos e regulação, Altman também comentou outro debate recente envolvendo empresas de IA: o uso de conceitos religiosos e filosóficos para discutir o comportamento dos modelos. O executivo da OpenAI se disse preocupado com as tentativas de dar um peso religioso a modelos de IA. Em uma postagem no X, ele afirmou ver risco de segurança quando a tecnologia passa a ser tratada como autoridade moral ou substituta do julgamento humano.
"Fico muito desconfortável com pessoas tentando atribuir força religiosa ou uma rendição do julgamento humano a modelos de IA, e acho que isso é um problema real de segurança", escreveu Altman. O comentário foi interpretado pelo site Axios como uma crítica indireta à Anthropic, que tem buscado dialogar com estudiosos de diferentes religiões para discutir consciência e moralidade em modelos.
A Anthropic disse que suas propostas de regulação miram apenas os chamados modelos de fronteira. Em uma troca de mensagens em rede social citada pelo Politico, Amodei afirmou: "A Anthropic sempre fez suas propostas de política com muito cuidado. Nós nos esforçamos para fazer propostas que desfavoreçam (desacelerem) empresas de IA de ponta, ao mesmo tempo que favoreçam concorrentes menores".
O debate também ganhou críticas de pesquisadores de outras empresas. "Fico perturbado com a forma como alguns dos meus colegas pesquisadores de IA continuam tentando elevar a posição moral de pontos de verificação e mecanismos de contenção. Espero que o resto de nós, humanos, rejeitemos esse movimento e continuemos concentrados em resolver problemas reais e ajudar humanos de verdade", escreveu Jon Barron, cientista pesquisador principal do Google DeepMind, também no X.
