Original video title: Inside the Mind of Anthropic CEO Dario Amodei | The Circuit | Extended Interview

Origem do vídeo: Bloomberg Original
Tradução: Web3 Sky City

Editor: O CEO da Anthropic, Dario Amodei, encontra-se numa posição bastante delicada. Por um lado, detém o modelo de IA mais avançado do mundo, por outro, foi involuntariamente alvo de uma ordem de proibição do governo dos EUA, levando ao seu desligamento global, e até mesmo membros da equipa fora dos EUA não podem utilizá-lo.

Ainda não se sabe como esta situação irá terminar. Diz-se que Amodei continua a esforçar-se, e os espectadores podem continuar a acompanhar as novidades. Mas podemos, através desta última entrevista com Emily, vislumbrar a mentalidade deste líder controverso na primeira linha da codificação de IA.

Num cenário de poder na Silicon Valley, a Anthropic ocupa uma posição extremamente singular e carregada de tensão. Como principal desafiante do OpenAI, foi fundada por um grupo de investigadores de topo que decidiram "sair" devido a divergências de valores.

Quando o CEO Amodei fala sob os holofotes sobre o crescimento exponencial da IA, demonstra uma calma rara, quase cirúrgica. Não se trata apenas de uma competição tecnológica, mas de um jogo profundo de confiança, segurança e de como a civilização humana deve comportar-se perante uma explosão de inteligência.

Resumo completo

A última entrevista aprofunda-se na jornada mental de Amodei perante o crescimento exponencial da IA, abordando desde os bastidores da sua saída do OpenAI, às escolhas do modelo de negócio da empresa, até ao impacto da IA no mercado de trabalho, na cibersegurança e na geopolítica.

O CEO explica detalhadamente como a Anthropic tenta equilibrar o poder através de mecanismos como um "Fideicomisso de Benefício de Longo Prazo", e, ao mesmo tempo, busca liderar tecnologicamente, estabelecendo "linhas vermelhas" e adiando o lançamento de modelos de alto risco (como o Mythos), para manter os seus valores de segurança.

Nota: As declarações de Amodei têm sido frequentemente pouco amistosas em relação ao grande país do Oriente. Cabe a cada um julgar.

Pontos centrais

· A indústria da IA está numa fase de "crescimento exponencial estável", onde a acumulação de mudanças quantitativas eventualmente provoca uma explosão qualitativa.

· A confiança é a base da cooperação na IA. A Anthropic defende que participantes confiáveis devem unir-se para estabelecer padrões do setor.

· Modelos empresariais e valores de segurança na IA são mais compatíveis, ajudando a evitar a competição por conteúdos viciantes e de baixa qualidade, comum no mercado de consumo.

· Quanto ao risco de desemprego causado pela IA, a sociedade deve antecipar e criar políticas macroeconómicas, procurando uma "utilização de recursos para fazer mais com o mesmo" em jogos de ganho positivo.

· Aplicações militares devem seguir o princípio de "o humano no ciclo de decisão", mantendo linhas vermelhas contra vigilância massiva e armas totalmente autónomas.

Segue a entrevista completa:

Pressão e experiência do crescimento exponencial

· Emily Zhang: Quantas horas de sono costuma ter?

· Dario Amodei: Nunca fui uma pessoa de sono de alta qualidade. Posso dizer que estou a aprender a relaxar e adormecer sob pressões extraordinárias.

· Emily Zhang: Tudo acontece a uma velocidade vertiginosa. Como é sentir-se no meio disto tudo?

· Dario Amodei: É uma sensação de crescimento exponencial. Como se estivesse numa nave a viajar à velocidade da relatividade, afastando-se da Terra. Segundo a relatividade especial, ao acordar de uma sesta, já passaram dois dias na Terra. Portanto, tem de resolver duas jornadas num dia.

Depois, volta a dormir, acelerando continuamente, e na Terra passaram três dias. No dia seguinte, quatro dias. É mais ou menos assim que se sente.

· Emily Zhang: Costuma ficar ansioso por não saber o que vai enfrentar ao acordar?

· Dario Amodei: Já temos problemas suficientes para resolver, claros e urgentes. Enquanto os trato, penso também em como estar preparado. Mas acho que ser paranoico ou preocupar-se com o que vai encontrar ao acordar não ajuda em nada. Estudei pessoas que enfrentaram situações de alta pressão na história. É preciso aprender a reagir racionalmente, sem comparar perigos de diferentes níveis.

Este estado de oscilar entre "não me preocupo" e "meu Deus, temos de estar em pânico hoje" é, na minha opinião, um sinal de decisão imatura. Uma decisão madura reconhece isto, sem ignorar o risco, sem baixar a guarda.

Na verdade, a situação está a ficar cada vez mais arriscada, mas temos de reagir racionalmente, como um cirurgião numa operação, ou um comandante numa missão militar. Ou qualquer pessoa que tome decisões que afetam muitos, que deve entender os riscos, mas manter a calma básica.

Por exemplo, ontem o meu filho quis usar a minha conta Claude. Disse-lhe que não, preciso dos meus tokens. Estamos a ver cada vez mais aplicações no mercado de consumo. Quisemos ser uma empresa focada no setor empresarial, mas, mesmo sem investir muito nisso, o mercado de consumo está a crescer rapidamente.

· Emily Zhang: Estás no centro do universo da IA. Como é essa sensação?

· Dario Amodei: É interessante. Desde que entrei na Anthropic, tenho sentido uma crescimento exponencial estável.

Este crescimento é como: nada acontece, nada acontece, nada acontece, depois surgem pequenas coisas, e de repente, explode de forma louca. É assim que o mundo funciona. É também a experiência da escala da empresa, em relação às outras e ao mundo.

Por isso, olhei para o gráfico durante muito tempo, e pensei que, por volta deste momento, seríamos a empresa de IA com maior receita e valor de mercado. E aconteceu. Portanto, não me surpreende, porque a curva no gráfico é bastante suave.

Por outro lado, quando a coisa realmente acontece, vemos mais detalhes, cores, nuances. E, isso é, sem dúvida, surpreendente.

Sempre nos perguntamos: como treinar modelos excelentes? Como aplicá-los em produtos de qualidade? Como garantir segurança? Como gerir os riscos sociais que esta tecnologia gera, ajudando as pessoas? São as mesmas perguntas, só que com uma lupa maior.

Contexto de crescimento e espírito de Silicon Valley

· Emily Zhang: Como era a tua infância em São Francisco? Sei que o teu pai era artesão de couro, e a tua mãe trabalhava na biblioteca. Como isso te influenciou?

· Dario Amodei: Na altura, a revolução da internet acontecia ao meu lado, mas não me interessava. Só gostava de estudar matemática, desenhar, explorar o universo, ler ficção científica. Estava num ambiente de forte curiosidade pelo mundo. Acho que só tinha uma grande curiosidade pelo que me rodeava.

· Emily Zhang: Cresceste numa cidade considerada centro tecnológico, que agora é também o centro da IA. Que fatores moldaram a tua visão de mundo?

· Dario Amodei: Sim. Acho que há um espírito de não seguir a maioria, valorizar o individualismo, e pensar que "um pouco de loucura não faz mal". Grande parte disso influenciou-me de forma subtil.

Contar histórias, como quando viajo por países europeus ou outras regiões, e percebo que pensar de forma diferente é muitas vezes reprimido, visto como estranho ou louco.

Tenho muitas críticas a Silicon Valley, mas uma coisa boa é que ela incentiva uma ideia: mesmo que todos os especialistas digam que estás errado, se tiveres uma visão coerente e um mundo próprio, deves persegui-la. Essa é a essência.

Talvez não funcione, mas, se funcionar, tem um efeito de cauda longa: podes aprofundar em certos setores e, eventualmente, descobrir um grande filão. Essa mentalidade é muito importante.

· Emily Zhang: Tu, Daniela, a tua irmã, e o marido dela, Holden Karnovsky, moraram juntos em 2016. Sobre o que discutiam na altura?

· Dario Amodei: Na altura, o projeto Open Philanthropy tinha acabado de começar. Holden era responsável pelo projeto. Eu era biólogo, ajudava em questões de saúde em países em desenvolvimento ou investigação biológica. Dava conselhos sobre áreas promissoras ou não.

Divórcio do OpenAI: divergências centrais

· Emily Zhang: A tua decisão de sair do OpenAI tornou-se lendária na Silicon Valley. O que aconteceu? Além das narrativas, qual é a questão fundamental? Onde divergiam?

· Dario Amodei: É simples. Quando se constrói tecnologia poderosa, há muitos desafios. A Anthropic enfrenta-os todos os dias. Não sabemos se as nossas decisões são certas ou erradas.

Por exemplo, há debates legítimos sobre segurança. Tivemos divergências, mas isso não foi motivo suficiente para sair. As pessoas aqui discordam entre si, e também comigo.

Quando não confias numa pessoa, quando percebes que os valores dela não são os que aparenta, ou que ela não é sincera, fica difícil continuar a trabalhar ou confiar na empresa. No fundo, quando não há uma visão comum, e a confiança desaparece, por que continuar a discutir?

A solução é seguir caminhos separados. Cada um faz o seu. Eu aceito isso: fazemos as coisas à nossa maneira, eles à deles. Vamos ver quem vence no mercado, na opinião pública. E, na minha opinião, estes factos valem mais que qualquer especulação dramática sobre quem saiu, porquê, ou quem tem razão.

Devemos lembrar que estamos a dar um exemplo de como implementar esta tecnologia de forma responsável. Se discordarem, que apresentem argumentos. Não há necessidade de mais discussões.

Colaboração setorial e reconstrução de confiança

· Emily Zhang: No Fórum de IA na Índia, houve um momento em que tu e Sam Altman pareciam recusar-se a apertar as mãos no palco. O que aconteceu?

· Dario Amodei: A situação foi caótica. Estávamos a subir ao palco no último momento, mudaram a ordem, tiraram uma foto, e mandaram-nos de mãos dadas. Se já participaste em eventos assim — e não quero criticar a Índia — sabes que estes encontros internacionais com chefes de Estado são sempre confusos.

· Emily Zhang: Mas todos se apertaram as mãos. Por favor.

· Dario Amodei: Olha, não sei bem o que dizer. Naquele momento, o Narendra Modi pediu que todos se segurassem pelas mãos.

· Emily Zhang: Certo, certo.

Narrador: Olha só, Sam e Elon estão a processar-se mutuamente. Parece que não gostas do Sam.

· Emily Zhang: Se os principais desenvolvedores de tecnologia do mundo não conseguem apertar as mãos no palco, como podemos confiar que vão colaborar em riscos existenciais?

· Dario Amodei: É isso que quero dizer. Entre os participantes na construção desta tecnologia, há diferenças enormes de competência e confiança. Acredito que isso significa que há pessoas que não confiam umas nas outras, o que não acho correto.

Conheço Demis Hassabis, que constrói o modelo Gemini, concorrente do Claude. Conheço-o há 15 anos. Trabalhámos juntos em muitos problemas. Compramos recursos computacionais do Google. Troca-se ideias sobre segurança frequentemente.

Por isso, na minha opinião, alguns participantes são mais confiáveis que outros. E, fora da Anthropic, também confio em alguns. Acredito que eles são confiáveis. O que precisa acontecer é que participantes confiáveis se unam para lidar com os que não são confiáveis, obrigando todos a seguir padrões comuns.

Com a experiência, percebo que há pessoas que não fazem o que é certo por iniciativa própria. Mas, se a maioria do setor agir corretamente, os outros não terão escolha senão seguir a tendência. É uma forma de incentivar positivamente.

Assim como Demis e eu nos motivamos mutuamente. Ele trabalha no AlphaFold, e nós tentamos fazer algo na biologia, na interpretabilidade. Eles começaram a estudar interpretabilidade. Nem sequer é uma competição.

Cada empresa faz coisas incríveis, e as outras acham que são incríveis também. Queremos experimentar, ver se conseguimos criar algo novo. É a face "cenoura" da competição de topo. E há também a " vara", ou seja, o reconhecimento de que esses esforços corretos são o caminho. Se os outros não fizerem o mesmo, a situação parecerá ruim.

Vemos frequentemente comportamentos assim: pessoas que, apesar de fazerem o certo, tentam disfarçar, insinuando intenções ruins ou más. É previsível. Mas, na minha opinião, é assim que se constrói uma indústria colaborativa.

Modelos de negócio: alinhamento com valores e setor empresarial

· Emily Zhang: Antes, outros focavam em aplicações de consumo impressionantes e divertidas. Tu apostaste na codificação e no setor empresarial, com sucesso no Claude Code e no Claude Co-work. Por que essa aposta? Foi uma decisão baseada em valores ou no negócio?

· Dario Amodei: Quando criámos a Anthropic, o mais importante sempre foi o nosso desejo interno. Queríamos fazer as coisas de forma correta. Mas é preciso perguntar: para financiar esses modelos caros, a empresa precisa de um modelo de negócio. Será que esse modelo de negócio impede a realização dos valores?

Este dilema existe sempre. Mas, na minha experiência em outras empresas, aprendi que: se o modelo de negócio conflitar com os teus valores, vais ter dificuldades. Ou vais trair os teus princípios, ou vais ser ultrapassado pelo tempo.

No fundo, fica-se numa encruzilhada difícil. É muito melhor escolher um modelo de negócio que seja compatível com os teus valores.

Quando refletimos sobre isso, percebemos que o mundo das redes sociais e do consumo incentiva a interação, até a dependência. A lógica por trás de conteúdos de baixa qualidade, produzidos em massa, é maximizar o tempo de atenção, alimentando-se de receitas de publicidade.

Por outro lado, no setor empresarial, queremos que os modelos ajudem as pessoas. Se penso em tudo o que a IA pode fazer de positivo, lembro-me de alertar para os efeitos negativos, mas, na essência, acreditamos que o lado positivo vai superar o negativo. Muitas aplicações positivas são, na verdade, aplicações empresariais.

Queremos usar IA para curar doenças que antes eram incuráveis, colaborando com biotech, farmacêuticas e universidades. Tudo isso é setor empresarial. Queremos usar IA para tornar a energia mais barata e eficiente. Também é setor empresarial.

Queremos usar IA para melhorar a educação. Grande parte dessas aplicações é empresarial. Para resolver problemas de saúde e desenvolvimento em países em vias de desenvolvimento, também. Apesar de serem organizações sem fins lucrativos, no fundo, são setores empresariais. Queremos impulsionar o crescimento económico. E isso também é setor empresarial.

Outro fator importante é que as empresas valorizam a confiança e as relações de longo prazo. Aplicações de consumo podem parecer superficiais, enquanto no setor empresarial, o foco é construir parcerias duradouras: trabalhar com uma empresa durante anos, cumprir promessas, gerar confiança. Isso é altamente compatível com a nossa missão de implementar modelos de forma segura e responsável. Por isso, ter um modelo de negócio alinhado com os nossos valores é uma vantagem.

Embora, por vezes, haja conflitos ou escolhas difíceis, acredito que esses casos são menos frequentes do que noutras circunstâncias.

Barreiras competitivas e o "fim do SaaS"

· Emily Zhang: Desenvolvedores podem trocar de Claude para GPT ou Gemini numa tarde. Na indústria, é realmente possível manter uma liderança duradoura? Quanto tempo leva a um concorrente sério copiar o que vocês fizeram?

· Dario Amodei: A qualidade do modelo é o mais importante. Por exemplo, atualmente, estamos muito à frente nesse aspeto. Apesar de alguma inércia, nunca dependemos disso, nem a Anthropic, de uma ideia de "alta fidelidade de produto, com utilizador que não troca".

Queremos um modelo melhor, um produto melhor. E, ao contrário do que se pensa, o crescimento não mostra sinais de desaceleração. Pelo contrário, até aumenta, pelo menos na altura desta entrevista. Para mim, isso é o mais importante.

· Emily Zhang: Pouco depois do lançamento do Claude Co-Work, o valor de mercado despencou 285 mil milhões de dólares num dia, sendo apelidado pelos traders de "fim do SaaS" (SaaSpocalypse). Se a IA continuar a evoluir a este ritmo, quanto do software tradicional será substituído, e com que velocidade?

· Dario Amodei: É uma questão difícil de prever. Se fosse possível prever com perfeição, já teriam feito, e ganhariam fortunas no mercado, sempre acertando.

Por isso, ninguém sabe exatamente o que vai acontecer. Mas posso apontar alguns pontos: todas as empresas tradicionais têm alguma barreira de proteção. Acredito que algumas dessas barreiras vão desaparecer, outras vão permanecer. A capacidade de escrever software rapidamente, por exemplo, vai desaparecer, se a sua barreira for "construímos software complexo que ninguém consegue fazer" — boa sorte. Não vai conseguir defender isso.

Por outro lado, há conhecimentos específicos, relações com clientes, expertise em domínios. Meu conselho é: não se acomodem. Não ignorem isso. Façam uma lista de todas as suas barreiras, e percebam que algumas vão desaparecer, outras vão tornar-se ainda mais importantes, por serem fatores limitantes. E podem surgir novas barreiras.

Quem for ágil, quem souber aproveitar as barreiras existentes e criar novas, terá sucesso. Quem se acomodar, acha que os métodos do passado vão sempre funcionar, não terá dias fáceis. Essa é a minha recomendação.

Afinal, acho que, no fundo, — e isto depende de como definimos SaaS —, o setor de software vai crescer, não diminuir. E haverá grandes perdedores.

Explicação, por favor

· Dario Amodei: Acho que o setor de software vai expandir, porque, com IA, o "bolo" está a crescer. As empresas tradicionais podem encolher, mas o mercado de IA vai crescer exponencialmente, e isso vai puxar tudo para cima.

· E, mesmo que algumas empresas percam valor, outras vão ganhar. O crescimento será maior do que nunca, e o setor vai ficar maior, não menor.