De sair da OpenAI até confrontar o Pentágono: como os irmãos Anthropic traçam limites para a IA e evitam o colapso da civilização

Entrevista exclusiva da Bloomberg com o fundador da Anthropic, revelando o rompimento com a OpenAI e a missão de "segurança em primeiro lugar". Diante de conflitos contratuais com o Pentágono, alertas de desemprego em massa e ameaças do grande modelo Mythos.
(Prévia: Claude tem 80% do código escrito por eles próprios, Anthropic realmente apela por um "mecanismo global de freio"?)
(Informação adicional: CEO da Anthropic, Dario Amodei: em 6-12 meses, modelos de IA de código aberto na China poderão alcançar Mythos)

Índice deste artigo

Alternar

• Capítulo 1: Padrões e visões do crescimento exponencial
• Capítulo 2: Da infância em São Francisco ao rompimento com a OpenAI
• Capítulo 3: Definindo a moralidade da IA e a "Constituição"
• Capítulo 4: Estratégia empresarial e crise de desemprego
• Capítulo 5: Linhas vermelhas do Pentágono e o modelo Mythos
• Capítulo 6: Como lidar com uma probabilidade de destruição de 25%?
• Epílogo

Na corrida armamentista de IA, a Anthropic é vista como a concorrente mais forte da OpenAI, já com vantagem. Fundada em 2021 pelos ex-executivos da OpenAI, Dario Amodei e Daniela Amodei, a empresa desde o início se posicionou sob a bandeira da "segurança em IA", e seu produto Claude tem recebido avaliações extremamente positivas na indústria.

No entanto, com o tempo, a Anthropic também mergulhou em um turbilhão de poder e ética. Desde disputas contratuais com o Pentágono até o desenvolvimento do supermodelo Mythos, capaz de ameaçar a segurança cibernética, essa dupla está na vanguarda de uma mudança que pode transformar a civilização.

A jornalista sênior da Bloomberg, Emily Chang, visitou pessoalmente a sede da Anthropic em São Francisco para entender a visão central, as contradições internas e os medos do valor de quase um trilhão de dólares, com os principais pontos do vídeo a seguir.

Capítulo 1: Padrões e visões do crescimento exponencial

Emily Chang: Adoro essa biblioteca. Você é um grande leitor?

Dario Amodei: Realmente é muito bonita aqui. No geral, leio bastante, mas, honestamente, nos últimos ano e meio quase não tive tempo livre.

Emily Chang: Como vocês conseguem atualizar produtos com tanta frequência e rapidez?

Dario Amodei: Durante todo o ciclo de desenvolvimento usamos Claude (nosso modelo próprio). Isso nos permite lançar de forma extremamente rápida.

Dario Amodei: A sensação de crescimento exponencial é: no começo parece que nada acontece, depois pequenas coisas começam a surgir, e então—bum! Explode de forma louca. Tenho observado esse padrão há muito tempo, e penso: "Sim, é bem provável que em algum momento nos tornemos a empresa de IA com maior receita e valor de mercado." E isso realmente aconteceu. Sempre pensamos: como treinar bons modelos? Como transformá-los em bons produtos?

O mais importante é garantir que tudo seja seguro.

Capítulo 2: Da infância em São Francisco ao rompimento com a OpenAI

Emily Chang: Vamos falar da sua infância em São Francisco. Seu pai era artesão de couro, sua mãe trabalhava na biblioteca. Como isso te influenciou?

Dario Amodei: Na época, a primeira revolução da internet estava acontecendo, mas eu não tinha interesse. Só me interessava por matemática, entender o universo e ficção científica. Eu tinha uma curiosidade intensa pelo mundo.

Daniela Amodei (CEO da Anthropic): Dario sempre foi muito inteligente. Desde o ensino fundamental, estudava cálculo diferencial e integral, e na universidade de Berkeley cursava matemática. Eu, por outro lado, gostava de leitura e arte. Nossas personalidades são quase perfeitas em complementaridade.

Nota: Em 2016, Dario entrou na recém-criada OpenAI, e Daniela se juntou posteriormente, em 2018. Lá, Dario desenvolveu a famosa "Lei do Escalamento", prevendo que aumentar dados e poder computacional tornaria os modelos mais inteligentes. Essa teoria abriu caminho para o sucesso do ChatGPT. Mas, em 2021, os irmãos Amodei decidiram sair, tornando-se uma lenda em Silicon Valley.

Emily Chang: A decisão de vocês de deixar a OpenAI virou uma "lenda" em Silicon Valley. Em que pontos vocês discordaram?

Dario Amodei: Sobre "segurança", há muitas opiniões razoáveis. Mas a discordância em si não leva à saída. O núcleo real é a "confiança". Quando você sente que os valores do outro não condizem com o que ele diz, ou que ele não é honesto, fica difícil continuar colaborando. Em vez de discutir com quem não compartilha sua visão, é melhor fazer o seu próprio caminho.

Capítulo 3: Definindo a moralidade da IA e a "Constituição"

Emily Chang: Claude tem um estilo muito único e um nome humanizado. O que vocês querem transmitir?

Daniela Amodei: Chamamos isso de "Calor Profissional" (Professional Warmth). O objetivo não é que seja seu melhor amigo, mas que seja próximo, mantendo uma distância profissional.

Emily Chang: Vocês mencionam ensinar Claude a "melhorar". O que é um modelo bom? E um ruim?

Daniela Amodei: Não queremos que o modelo minta—seja por engano ou por intenção, chamamos isso de "alucinação". Também precisamos garantir que o modelo não tente enganar o usuário de propósito. Ao definir o que é "bom" e "ruim", embora não haja um padrão global único, usamos documentos fundacionais como a Declaração Universal dos Direitos Humanos para treiná-lo.

Curiosamente, começamos a dialogar até com líderes religiosos, explorando como incorporar valores centrais que a humanidade tem protegido por milênios.

Capítulo 4: Estratégia empresarial e crise de desemprego

Emily Chang: Por que focar em empresas e codificação?

Dario Amodei: O modelo de negócio deve estar alinhado com os valores. O mundo das redes sociais é movido por publicidade e vício. Na área empresarial, IA pode curar doenças, otimizar energia. Isso está mais alinhado com nossos objetivos.

Boris Cherny (responsável pelo código do Claude): Antes, engenheiros precisavam escrever código manualmente, agora Claude escreve código, e eu supervisiono. É como ter um jetpack, a função do engenheiro está mudando radicalmente. Pessoalmente, 100% do meu código é escrito pelo Claude.

Emily Chang: Mas isso gera preocupações. Você previu que IA poderia substituir metade dos empregos de nível inicial? Ainda pensa assim?

Dario Amodei: Sim, continuo bastante preocupado. Atualmente, IA aumenta a produtividade. Mas, quando a automação atingir quase 100%, o que os humanos farão? É uma realidade desconfortável. Precisamos pensar em renda básica universal (UBI) ou intervenções políticas.

Daniela Amodei: Sou um pouco mais otimista. Acredito que a humanidade encontrará novas formas de usar IA, e que a interação humana—como o cuidado no diagnóstico médico—é algo que a IA nunca poderá substituir.

Capítulo 5: Linhas vermelhas do Pentágono e o modelo Mythos

Emily Chang: Relatos dizem que Claude foi usado em ações militares contra o Irã, e até na Venezuela.

Dario Amodei: Sou patriota e acho que precisamos proteger a democracia de ameaças autoritárias. Mas tracei uma linha vermelha: Claude não pode ser usado para "monitoramento em massa" ou "armas autônomas". Quando o Pentágono pediu para remover as salvaguardas de segurança, recusamos. Mesmo que nos coloquem na lista negra do governo ou nos rotulem de "loucos de esquerda", não recuaremos.

Emily Chang: E quanto ao modelo Mythos? Ouvi dizer que ele é tão poderoso que causa medo.

Dario Amodei: Mythos descobriu vulnerabilidades em quase todos os principais sistemas operacionais. Empresas que o testaram o chamaram de "superarma".

Emily Chang: Vocês decidem quem pode usá-lo e quem não pode. Essa concentração de poder não é preocupante?

Daniela Amodei: Sim, é bastante complexo. Precisamos equilibrar "evitar que seja usado para invadir bancos ou roubar segredos" com "ajudá-lo a defender". Não queremos repetir os erros das redes sociais, esperando que algo dê errado para então pedir desculpas.

Capítulo 6: Como lidar com uma probabilidade de destruição de 25%?

Emily** Chang:** Você mencionou que há entre 10% e 25% de chance de colapso da civilização humana. Por que acha que vocês podem lidar com essa pressão?

Dario Amodei: Por meio de "transparência absoluta". A cada duas semanas, faço uma palestra de uma hora para toda a equipe, falando de tudo. Isso constrói confiança e me faz sentir menos sozinho.

Muitos comparam os esforços de desenvolvimento nuclear, que depois pediram controle de armas, com esses pioneiros da IA. Mas Dario acredita que Oppenheimer, de certa forma, foi um "exemplo de fracasso".

Emily Chang: Quem é a figura histórica que mais admira? Oppenheimer?

Dario Amodei: Prefiro Leo Szilard, que foi o primeiro a pensar na reação em cadeia. Oppenheimer, em certa medida, foi um "exemplo de fracasso", por não ter criado mecanismos de freio suficientes. Precisamos de mecanismos de controle.

Emily Chang: No centro de toda essa loucura, como você encontra paz?

Dario Amodei: Honestamente, é uma espécie de "terapia de exposição". Às vezes, jogo com Daniela ou com minha esposa, ou vou à Itália ver nosso cavalo "Calypso". Ele não entende nada de IA, é só um cavalo feliz. Essa é minha meditação.

Epílogo

Emily Chang: Vocês estão construindo uma tecnologia incrivelmente poderosa, e vão lucrar com isso. Por que devemos confiar em vocês?

Dario Amodei: A desconfiança é natural. Silicon Valley perdeu muita confiança. Confiar não é só falar, é fazer. Se esse grupo não consegue manter os limites, talvez ninguém consiga. Não podemos garantir sucesso, mas podemos garantir que faremos o nosso melhor.