Desde a saída da OpenAI até ao confronto com o Pentágono: Como os irmãos Anthropic traçam limites para a IA e evitam o colapso da civilização

Bloomberg entrevista o fundador da Anthropic, revelando a ruptura com a OpenAI e a missão de "segurança em primeiro lugar". Diante de conflitos contratuais com o Pentágono, alertas de desemprego em massa e ameaças do grande modelo Mythos.
(Prévia: Claude tem 80% do código escrito por si próprio, Anthropic realmente apela por um "mecanismo global de travagem"?)
(Informação adicional: CEO da Anthropic, Dario Amodei: Em 6-12 meses, modelos de IA de código aberto na China poderão alcançar Mythos)

Índice deste artigo

Alternar

• Capítulo 1: Padrões e visões do crescimento exponencial
• Capítulo 2: Da infância em São Francisco à ruptura com a OpenAI
• Capítulo 3: Definindo a ética da IA e a "Constituição"
• Capítulo 4: Estratégias empresariais e crise de desemprego
• Capítulo 5: Linhas vermelhas do Pentágono e o modelo Mythos
• Capítulo 6: Como lidar com uma probabilidade de 25% de destruição?
• Epílogo

Na corrida armamentista de IA, a Anthropic é vista como a concorrente mais forte da OpenAI, já com vantagem. Esta empresa, fundada em 2021 por Dario Amodei e sua irmã Daniela, ex-executivos da OpenAI, sempre se posicionou sob a bandeira da "segurança em IA", e seu modelo Claude tem recebido avaliações extremamente positivas na indústria.

No entanto, com o tempo, a Anthropic também mergulhou em um turbilhão de poder e ética. Desde disputas contratuais com o Pentágono até o desenvolvimento do supermodelo Mythos, capaz de ameaçar a segurança cibernética, os irmãos estão na vanguarda de uma mudança que pode transformar a civilização.

A repórter sênior do Bloomberg, Emily Chang, visitou pessoalmente a sede da Anthropic em São Francisco, para entender a visão central, os conflitos internos e os medos sobre o futuro desta empresa avaliada em quase um trilhão de dólares. A seguir, os principais pontos do vídeo.

Capítulo 1: Padrões e visões do crescimento exponencial

Emily Chang: Gosto muito desta biblioteca. Você é um grande leitor?

Dario Amodei: Realmente é muito bonita aqui. No geral, leio bastante, mas, honestamente, nos últimos ano ou mais, quase não tenho tempo livre.

Emily Chang: Como vocês conseguem atualizar produtos com tanta frequência e rapidez?

Dario Amodei: Usamos o Claude (nosso modelo próprio) durante todo o ciclo de desenvolvimento. Isso nos permite lançar de forma extremamente rápida.

Dario Amodei: Essa sensação de crescimento exponencial é: no começo parece que nada acontece, depois surgem pequenas coisas, e então—bum! Explode de forma louca. Tenho observado esse padrão há muito tempo, e penso: "Sim, provavelmente em algum momento seremos a empresa de IA com maior receita e valor de mercado." E isso realmente aconteceu. Sempre pensamos: como treinar bons modelos? Como transformá-los em bons produtos?

E o mais importante, como garantir que tudo seja seguro.

Capítulo 2: Da infância em São Francisco à ruptura com a OpenAI

Emily Chang: Fale sobre sua infância em São Francisco. Seu pai era artesão de couro, sua mãe trabalhava na biblioteca. Como isso te influenciou?

Dario Amodei: Na época, a primeira revolução da internet estava acontecendo, mas eu não tinha interesse. Só me interessava por matemática, entender o universo e ficção científica. Eu tinha uma curiosidade intensa pelo mundo.

Daniela Amodei (CEO da Anthropic): Dario sempre foi muito inteligente. Desde o ensino médio, estudava cálculo diferencial e integral, e na universidade de Berkeley cursava matemática. Eu, por outro lado, gostava de leitura e arte. Nossos perfis são quase complementares na personalidade.

Nota: Em 2016, Dario entrou na recém-criada OpenAI, e Daniela se juntou posteriormente, em 2018. Lá, Dario desenvolveu a famosa "Lei da Escala", prevendo que, ao aumentar dados e poder computacional, os modelos ficariam mais inteligentes. Essa teoria abriu caminho para o sucesso do ChatGPT. Mas, em 2021, os irmãos Amodei decidiram sair, tornando-se uma lenda em Silicon Valley.

Emily Chang: Sua saída da OpenAI virou uma "lenda" em Silicon Valley. Em que pontos vocês discordaram?

Dario Amodei: Sobre "segurança", há muitas opiniões razoáveis divergentes. Mas a divergência em si não leva à saída. O núcleo real é a "confiança". Quando você sente que os valores do outro não condizem com o que ele diz, ou que ele não é honesto, fica difícil continuar colaborando. Em vez de discutir com quem não compartilha sua visão, é melhor fazer seu próprio caminho.

Capítulo 3: Definindo a ética da IA e a "Constituição"

Emily Chang: Claude tem um estilo muito único e um nome humanizado. O que vocês querem transmitir?

Daniela Amodei: Chamamos isso de "Calor Profissional" (Professional Warmth). O objetivo não é que seja seu melhor amigo, mas que seja próximo, mantendo uma distância profissional.

Emily Chang: Vocês mencionam ensinar Claude a "melhorar". O que é um bom modelo? E um ruim?

Daniela Amodei: Não queremos que os modelos mintam—seja por engano ou por intenção, chamamos isso de "alucinação". Também precisamos garantir que o modelo não tente enganar o usuário de propósito. Ao definir o que é "bom" e "ruim", embora não haja um padrão global único, usamos documentos fundacionais como a Declaração Universal dos Direitos Humanos para treiná-lo.

Curiosamente, começamos a dialogar até com líderes religiosos, para explorar como incorporar valores centrais que a humanidade tem protegido por milênios.

Capítulo 4: Estratégias empresariais e crise de desemprego

Emily Chang: Por que focar em empresas e codificação?

Dario Amodei: O modelo de negócio deve estar alinhado com os valores. O mundo das redes sociais é movido por publicidade e vício. Mas, na área empresarial, IA pode curar doenças, otimizar energia. Isso está mais de acordo com nossos objetivos.

Boris Cherny (responsável pelo código Claude): Antes, engenheiros precisavam escrever código manualmente. Agora, Claude escreve código, e eu supervisiono. É como ter um jetpack; o papel do engenheiro está mudando radicalmente. Pessoalmente, 100% do meu código é escrito pelo Claude.

Emily Chang: Mas isso gera preocupações. Você previu que a IA poderia substituir metade dos empregos de nível inicial? Ainda pensa assim?

Dario Amodei: Ainda estou muito preocupado. Atualmente, a IA aumenta a produtividade. Mas, quando a automação chegar a quase 100%, o que os humanos farão? É uma realidade desconfortável. Precisamos pensar em renda básica universal (UBI) ou intervenções políticas.

Daniela Amodei: Eu sou um pouco mais otimista. Acredito que as pessoas encontrarão novas formas de usar a IA, e interações humanas, como o cuidado ao lado do leito em diagnósticos médicos, são algo que a IA nunca poderá substituir.

Capítulo 5: Linhas vermelhas do Pentágono e o modelo Mythos

Emily Chang: Relatos dizem que Claude foi usado em ações militares contra o Irã, e até na Venezuela.

Dario Amodei: Sou patriota e acho que precisamos proteger a democracia de ameaças autoritárias. Mas tracei uma linha vermelha: Claude não pode ser usado para "monitoramento em massa" ou "armas autônomas". Quando o Pentágono pediu para remover as salvaguardas de segurança, recusamos. Mesmo que nos coloquem na lista negra ou nos rotulem de "radicais de esquerda", não recuaremos.

Emily Chang: E quanto ao modelo Mythos? Ouvi dizer que é tão poderoso que causa medo.

Dario Amodei: Mythos descobriu vulnerabilidades em quase todos os sistemas operacionais principais. Empresas que o testaram dizem que é uma "superarma".

Emily Chang: Vocês decidem quem pode usar e quem não pode. Essa concentração de poder não é preocupante?

Daniela Amodei: É realmente complicado. Precisamos equilibrar "evitar que seja usado para invadir bancos ou roubar segredos" com "ajudá-lo a defender". Não queremos repetir os erros das redes sociais, esperando que algo dê errado para então pedir desculpas.

Capítulo 6: Como lidar com uma probabilidade de 25% de destruição?

Emily** Chang:** Você mencionou que há entre 10% e 25% de risco de colapso da civilização. Por que acha que vocês podem lidar com essa pressão?

Dario Amodei: Uso a "transparência absoluta" para lidar com isso. A cada duas semanas, faço uma palestra de uma hora para toda a equipe, falando de tudo. Isso constrói confiança e me faz sentir menos sozinho.

Muitos comparam os esforços de desenvolvimento de armas nucleares, que depois pediram controle, a esses pioneiros da IA. Mas Dario acha que Oppenheimer, de certa forma, foi um "exemplo de fracasso".

Emily Chang: Quem é a figura histórica que mais admira? Oppenheimer?

Dario Amodei: Prefiro Leo Szilard, que foi o primeiro a pensar na reação em cadeia. Oppenheimer, de certa forma, foi um fracasso, por não ter criado mecanismos de freio suficientes. Precisamos de mecanismos de controle.

Emily Chang: No centro de toda essa loucura, como você encontra paz?

Dario Amodei: Honestamente, é uma espécie de "terapia de exposição". Às vezes, jogo com Daniela ou com minha esposa, ou vou à Itália ver nosso cavalo "Calypso". Ele não entende nada de IA, é só um cavalo feliz. Essa é minha meditação.

Epílogo

Emily Chang: Vocês estão construindo uma tecnologia incrivelmente poderosa, e vão lucrar com isso. Por que devemos confiar em vocês?

Dario Amodei: Desconfiança é natural. Perderam muita confiança no Vale do Silício. Confiança não se conquista só com palavras, mas com ações. Se essas pessoas não conseguirem manter os limites, talvez ninguém consiga. Não podemos garantir sucesso, mas podemos garantir que faremos o máximo.