Título do vídeo: A Oferta e a Demanda de Tokens de IA | Entrevista com Dylan Patel
Autor do vídeo: Invest Like The Best
Tradução: Peggy, BlockBeats

Nota do editor: Com o contínuo avanço das capacidades dos modelos de IA, ferramentas como Claude Code, Cursor e outras sendo amplamente adotadas por empresas, a discussão no setor está mudando de "quão forte é o modelo" para "como o modelo entra na produção". Mas, à medida que a programação de IA, análise automatizada e modelagem de dados se tornam novos consensos, uma questão mais fundamental começa a emergir: quando os custos de execução são rapidamente reduzidos, o que realmente é escasso: mão de obra, capital ou o direito de usar modelos de ponta e tokens?

À esquerda, o apresentador Patrick O'Shaughnessy, à direita, Dylan Patel

Este artigo é uma compilação de uma conversa entre Patrick O'Shaughnessy e Dylan Patel, fundador da SemiAnalysis. Dylan há muito tempo acompanha infraestrutura de IA, cadeia de suprimentos de semicondutores e economia de modelos. Nesta conversa, partindo do aumento explosivo nos gastos de sua própria empresa com Claude Code, ele discute como a IA está mudando a organização empresarial, serviços de informação, demanda por tokens, cadeia de suprimentos de computação e o clima social.

O aspecto mais interessante dessa conversa não é a atualização de benchmarks de algum modelo, mas a forma como ela oferece uma nova compreensão da economia de IA — vendo a IA como um sistema de produção que está redistribuindo capacidades de execução, eficiência organizacional e lucros industriais, e não apenas uma atualização de ferramenta de software.

A conversa pode ser entendida de cinco perspectivas principais.

Primeiro, o custo de execução foi rompido. Antes, ideias não eram escassas; o verdadeiro desafio era transformar ideias em produtos, sistemas e serviços entregáveis. Agora, Claude Code permite que não técnicos escrevam código, construam aplicações, façam análise de dados — tarefas que antes exigiam uma equipe dedicada a longo prazo — e que agora podem ser feitas por poucos, com o auxílio de modelos. Os gastos anuais com Claude Code na SemiAnalysis já atingiram 7 milhões de dólares, mais de um quarto de seus custos com salários, indicando que a IA deixou de ser apenas uma ferramenta de aumento de eficiência e está se tornando um novo capital de produção para as empresas.

Em segundo lugar, o setor de serviços de informação foi o primeiro a ser reescrito. O negócio de Dylan, essencialmente venda de análises, consultorias e conjuntos de dados, é justamente o campo mais suscetível à comercialização por IA. Análise reversa de chips, modelagem de redes de energia, construção de indicadores macroeconômicos — tarefas que antes demandavam equipes de longo prazo, agora podem ser feitas por poucos em semanas. Isso significa que a pressão da IA sobre empresas de serviços de informação não é "vai substituir pessoas", mas "quem consegue refazer os produtos dos concorrentes mais rápido". Empresas que não adotarem IA serão rapidamente substituídas por outras mais ágeis, e as que adotarem precisarão continuamente elevar seus padrões para não serem substituídas por concorrentes mais eficientes.

Mais profundamente, tokens estão se tornando novos meios de produção. Antes, empresas compravam assinaturas de software, e a questão central era se a ferramenta era útil; agora, o acesso a modelos de ponta, limites de taxa, contratos empresariais e orçamentos de tokens começam a determinar a capacidade de produção. Modelos mais poderosos não necessariamente custam mais, pois tokens mais inteligentes podem realizar tarefas de maior valor com menos passos. A competição real está mudando de "quem usa IA" para "quem consegue obter o modelo mais forte e usar seus tokens mais caros nos cenários de maior valor".

Essa demanda também se estende por toda a cadeia de suprimentos. O aumento no uso de tokens, por sua vez, gera uma pressão contínua sobre GPUs, CPUs, memória, FPGA, PCBs, cobre, equipamentos semicondutores e fábricas de wafers. O chamado "efeito chicote" mencionado no artigo é exatamente essa lógica: uma demanda aparentemente apenas por chamadas de modelos na ponta inferior da cadeia pode se transformar, na ponta superior, em pedidos multiplicados, expansão de capacidade e aumento de preços. Assim, os lucros da indústria de IA não ficarão restritos às empresas de modelos ou à NVIDIA, mas se espalharão ao longo da cadeia de semicondutores e centros de dados.

Por fim, a resistência social à IA pode chegar antes do esperado. Quando a IA realmente entra no fluxo de trabalho, as preocupações públicas com substituição de empregos, consumo de energia, expansão de data centers e concentração de poder aumentam. Dylan até prevê protestos em massa contra IA em até três meses. Para as empresas de modelos, continuar a enfatizar que "IA vai mudar o mundo" pode não aliviar a ansiedade, mas reforçar a sensação de perda de controle na percepção do público. O setor de IA precisará, a partir de agora, demonstrar não apenas capacidades técnicas, mas como cria valor público concreto e perceptível no momento presente.

Hoje, a questão central da IA está mudando de "o que os modelos podem fazer" para "quem consegue obter, usar e capturar o valor criado pelos modelos". Nesse sentido, o foco não é mais apenas Claude Code, Anthropic ou uma única empresa de IA, mas uma reestruturação que envolve produtividade, gastos de capital, eficiência organizacional e aceitação social.

A seguir, o conteúdo original (reorganizado para facilitar a leitura):

TL;DR

· Os principais fatores da IA estão mudando de "pode fazer" para "vale a pena fazer"; após a queda drástica de custos de execução, o que realmente escapa é a alta ideia de valor que o modelo pode amplificar.

· Gastos com Claude Code representam 25% dos custos com salários, apenas o começo de uma transformação onde a IA se torna novo capital de produção empresarial.

· A competição por modelos de ponta não é mais apenas por capacidade, mas por direitos de acesso a tokens; quem consegue obter o modelo mais forte mais cedo e de forma estável pode criar novas barreiras comerciais.

· O setor de serviços de informação será o primeiro a ser reestruturado pela IA, pois os custos de produção de dados, análises e pesquisas estão caindo rapidamente, e empresas mais lentas serão substituídas por mais ágeis.

· A demanda por tokens não diminui com a redução de preços de modelos antigos, pois cada avanço gera novos casos de uso de alto valor, levando os usuários a modelos mais avançados e caros.

· A maior mudança trazida pela IA não é menos trabalho, mas que poucos podem produzir várias vezes mais em igual tempo; quem não consegue criar e capturar valor de tokens ficará "permanentemente na base".

· A escassez de capacidade de computação se estende por toda a cadeia de semicondutores, de GPUs, CPUs, memórias a fabricantes de placas e equipamentos, impulsionada pela demanda de IA.

· O valor econômico da IA é difícil de ser capturado pelo PIB tradicional; o verdadeiro problema não é quanto as empresas de modelos ganham, mas quanto o uso de tokens e suas decisões geram de "PIB fantasma".

Entrevista original:

Claude Code virou uma nova força de trabalho

Patrick O'Shaughnessy (apresentador):
Você me contou uma história muito interessante sobre a mudança na quantidade de tokens usados pela sua equipe neste ano. Pode repetir? Como isso te ajudou a entender o que está acontecendo no mundo?

Dylan Patel (fundador da SemiAnalysis):
No ano passado, achávamos que éramos usuários intensivos de IA. Todo mundo usando ChatGPT, todo mundo usando Claude, eu também assinando várias plataformas para a equipe. Na época, nossos gastos com isso eram de alguns milhares de dólares por ano.

Mas este ano, os gastos dispararam. O ponto de virada foi no final de dezembro passado, com o lançamento do Opus. Inclui também Doug, nosso presidente, que lidera a adoção de IA por não técnicos para escrever código. Ele praticamente levou toda a empresa nisso. Claro, engenheiros já usavam, mas a partir de janeiro, nossos gastos subiram drasticamente e explodiram rapidamente.

Depois, assinamos contrato empresarial com a Anthropic. Na última vez que conversamos, nossos gastos anuais eram de cerca de 5 milhões de dólares; agora, já estão em 7 milhões de dólares.

Patrick O'Shaughnessy:
E esses números são da semana passada.

Dylan Patel:
Sim, grande parte é pelo volume de uso. O mais interessante é que pessoas que nunca tinham programado antes agora usam Claude Code, e alguns gastam milhares de dólares por dia. Mas, no geral, nossos gastos anuais com Claude Code já atingiram 7 milhões, enquanto nossos salários somam cerca de 25 milhões. Ou seja, o gasto com Claude Code representa mais de 25% dos custos com salários.

Se essa tendência continuar, até o final do ano pode ultrapassar 100% dos salários. É assustador. Mas, felizmente, não preciso escolher entre "pessoas" e "IA", porque a empresa está crescendo rápido. É mais uma questão de: posso não contratar tanto, mas gastar mais com IA, que realmente funciona e acelera o crescimento.

Mas acho que outras empresas vão acabar enfrentando esse problema: se uma pessoa usando Claude Code consegue fazer o trabalho de cinco, dez ou até quinze pessoas, o que fazer? Primeiro, talvez seja hora de cortar pessoal; segundo, esses cenários de uso são muito amplos.

Por exemplo, temos um laboratório de engenharia reversa em Oregon, que funciona há um ano e meio. Com equipamentos avançados, como microscópios eletrônicos e de varredura. O foco é analisar chips, extrair arquitetura, materiais usados na fabricação. Esses dados também vendemos.

Antes, essa análise era lenta. Agora, uma pessoa na equipe gastou só alguns milhares de tokens de IA para criar uma aplicação. Essa aplicação acelera GPU, roda em servidores na CoreWeave. Basta enviar uma foto de chip, e ela marca materiais, cobre, tântalo, germânio, cobalto, tudo automaticamente. Depois, faz análise de elementos finitos visualizada, com painel completo.

Ele trabalhou na Intel e disse que, antes, isso era feito por uma equipe inteira. Agora, com IA, parece inacreditável.

Outro exemplo interessante é Malcolm, ex-economista de um grande banco. Uma equipe de 100 a 200 pessoas. Ele criou algo surpreendente.

Conectou vários dados, incluindo FRED, relatórios de emprego, APIs diversas. Firmou contratos com fornecedores de dados, acessou APIs. Roda regressões, analisa impacto de mudanças econômicas na inflação ou deflação.

O Bureau de Estatísticas do Trabalho dos EUA tem cerca de 2000 tarefas. Malcolm usa IA para avaliar: quais tarefas podem ser feitas por IA, quais não, e dá notas. Resultado: cerca de 3% das tarefas já podem ser feitas por IA.

Criou um índice para medir o que pode ser feito por IA e o efeito deflacionário. A produção pode aumentar, mas, por causa do custo baixo, o PIB pode encolher — chamou de "PIB fantasma".

Fez análises com esse conceito, criou um benchmark de modelos com cerca de 2000 avaliações.

Patrick O'Shaughnessy:
Tudo isso foi feito por ele sozinho?

Dylan Patel:
Sim, tudo por ele. Disse: "Irmão, isso levaria um time de 200 pessoas um ano para fazer." Agora, ele vive imerso em Claude, tudo mudou.

Patrick O'Shaughnessy:
Como empresário, como você interpreta isso? Vocês começaram quase sem gastos, agora já é 25% dos salários, e continua crescendo. Quando você pensa: "Espera, devo frear? Controlar gastos? Talvez usar modelos mais baratos, como o Opus 4.7, ao invés do mais avançado?"

Dylan Patel:
No fundo, eu vendo informação. Vendemos análises, consultoria, conjuntos de dados. Não vejo motivo para acreditar que isso não será totalmente comercializado em breve.

Se eu não melhorar continuamente, meu primeiro produto de dados já é copiado por outros. Ainda vendemos porque fazemos melhor, mais detalhado. Mas, em 2023, nossa abordagem é semelhante à de outros hoje. Se não elevar o padrão, serei substituído. Se não for rápido, perco vantagem.

Então, a questão é: sim, IA vai transformar muitos setores, como software, mas quem agir rápido, manter relacionamento com clientes e melhorar serviços, vai crescer. Quem não fizer nada, vai ficar para trás.

É uma questão de sobrevivência: se não usar IA, outros usarão e me vencerão.

Outro exemplo simples é energia. Há um ano, alguns analistas tentaram montar um modelo energético. Mercado de dados energéticos vale cerca de 9 bilhões de dólares, um grande mercado. Mas, apesar de um ano de trabalho, ainda não entramos nele de fato.

Até que veio o "Claude Code doente". Jeremy, responsável por energia de data centers, começou a usar Claude Code. Em três semanas, gastou bastante, cerca de 6 mil dólares por dia. Mas conseguiu mapear todas as usinas, linhas de transmissão, dados públicos, criar um mapa completo da rede elétrica americana, incluindo dados de demanda.

Criamos um painel para monitorar escassez e excesso de energia por regiões. Em semanas, ficou pronto.

Mostramos a clientes, inclusive traders de energia. Eles disseram: "Quanto tempo levou? Está ótimo, melhor que a concorrência." Descobrimos que uma grande empresa de energia, com 100 pessoas, trabalha nisso há dez anos.

Claro, nosso produto ainda não é tão completo, mas em alguns aspectos já é melhor. Assim, estamos começando a comercializar esses dados energéticos. Mas, se não acelerarmos, quem vai fazer isso primeiro?

Do ponto de vista empresarial, não é só gastar muito. É: o que esses gastos me trazem? Mais receita? Se sim, vale a pena.

Patrick O'Shaughnessy:
Você não teme que, no final, os controladores de capital, os investidores, aqueles que contratam vocês, digam: "Temos nossos analistas, são inteligentes, fazemos internamente"? Se for tão fácil, tudo volta para dentro das instituições de investimento, que podem usar esses dados com maior alavancagem.

Dylan Patel:
Primeiro, toda análise de informação é assim: o valor que eu obtenho de uma informação, é menor que o valor que o cliente consegue extrair dela.

Se eu vender por 1 dólar, o cliente compra porque sabe que essa informação ajuda a tomar uma decisão que rende mais de 1 dólar. Ou seja, ele faz uma arbitragem, ganha mais do que paga.

Fundos de investimento também têm sua análise própria. Como Jane Street, Citadel, que investem pesado em dados. Ainda assim, compram nossos dados, continuam comprando, e nossa parceria cresce.

Acho que há um "fator diferencial". Somos mais rápidos, flexíveis, equipe menor, focada em infraestrutura de IA e suas mudanças, tokens, economia. Vemos mais cedo, construímos mais rápido.

Investidores tentam fazer o que fazemos, mas, na maioria das vezes, compram nossos dados e constroem a partir deles. É mais barato do que começar do zero. Mas, no final, alguém vai fazer por conta própria.

Tokens como nova matéria-prima de produção

Patrick O'Shaughnessy:
Sempre que converso com você, volto ao mesmo ponto: oferta e demanda de tokens. É o que mais me interessa. Com sua experiência, você tem uma nova visão sobre a demanda? Quando sente isso na pele, sua avaliação muda?

Dylan Patel:
Se olharmos macro, a ARR da Anthropic pode ter crescido de 9 bilhões para 35-40 bilhões de dólares. Quando o episódio for ao ar, talvez já esteja em 40-45 bilhões.

Mas o crescimento de capacidade de computação deles não acompanhou esse aumento. Se calcularmos, assumindo que não reduziram pesquisa e desenvolvimento — o que não fizeram, pois lançam modelos como Metis, Opus 4, 4.7 —, isso mostra que o aumento de capacidade, mesmo direcionado à inferência, mantém a margem de lucro mínima em torno de 72%.

Na prática, parte dessa capacidade adicional também vai para pesquisa, então a margem real pode ser maior. No começo do ano, vazaram documentos de financiamento deles, mostrando uma margem de lucro de pouco mais de 30%.

Como uma empresa consegue, em tão pouco tempo, elevar sua margem de lucro a esse nível? Basicamente, a demanda é tão alta que eles podem restringir uso, limitar taxas e aplicar restrições. O mais importante é ter gerentes de clientes, contratos empresariais e conseguir aumentar limites de taxa. Caso contrário, tokens se tornarão extremamente escassos.

Quem pode pagar, consegue acesso. Anthropic enfrenta o mesmo problema — e isso é a operação normal do capitalismo. Clientes podem pagar 40 bilhões de dólares por tokens por ano, mas o valor que esses tokens geram para eles é muito maior.

Cada empresa valoriza seus tokens de forma diferente. Mas, à medida que os modelos ficam mais inteligentes, o que importa é: quem consegue obter os tokens mais inteligentes e usá-los nas tarefas mais valiosas.

Como pessoa, você decide: como usar esses tokens para expandir seu negócio e criar valor. Muitos querem tokens, consomem tokens. Mas uma startup comum em São Francisco, usando Claude para criar software, talvez não gere valor real. Então, cedo ou tarde, o preço do token vai expulsá-la do mercado.

Patrick O'Shaughnessy:
Hoje, no caminho para cá, experimentei isso. Quando saiu o Opus 4.7, quis usar imediatamente. Mas fui limitado, não consegui. Nem consigo imaginar usar o 4.6, embora estivesse satisfeito com ele.

Você fica surpreso com a obsessão das pessoas por usar os modelos mais caros e avançados?

Dylan Patel:
De jeito nenhum. Uma das memórias mais engraçadas das últimas semanas foi eu e meu amigo Leopold implorando ao cofundador da Anthropic por acesso ao Metis.

Sabíamos que existia, então pedimos: "Por favor, deixe a gente usar." Ele respondeu: "Não sei do que vocês estão falando."

Patrick O'Shaughnessy:
Quando aparece a tabela de preços ou o cartão de avaliação, qual sua reação?

Dylan Patel:
Na Bay Area, já se ouvia rumores antes. Sabíamos que seria muito forte. Benchmark, claro, muda o tempo todo, mas Mephisto / Metis provavelmente é o maior salto de capacidade de modelo nos últimos dois anos.

Isso é muito importante: é tão forte que a Anthropic nem quer lançar tudo de uma vez. Mesmo tendo divulgado preços para alguns clientes, de forma seletiva, para cenários de segurança cibernética, por exemplo, o custo de tokens pode ser 5 ou 10 vezes maior, mas eles ainda não querem liberar tudo, por receio do impacto no mundo real.

Hoje, o que nos oferecem é uma versão inferior, o Opus 4.7, que eles dizem ter uma otimização deliberada para segurança cibernética, com capacidade reduzida. Talvez você tenha lido essa parte.

Então, minha recomendação é: quem tem capital suficiente, deve assinar a versão empresarial da Anthropic, pagando por token, não por assinatura comum, para evitar limitações.

Depois, é preciso pensar: como usar esses tokens na tarefa de maior valor e lucrar com isso. Afinal, talvez em um ou dois anos, muitas operações sejam basicamente arbitragem de tokens. Tokens são poderosos, mas o segredo é saber onde usá-los.

Daqui a três ou quatro anos, os próprios modelos podem aprender a usar tokens de forma a maximizar valor.

Se você olhar benchmarks antigos, verá que alcançar determinado nível de capacidade custava X; hoje, talvez só precise de 1% ou 0,1 desse valor. Por exemplo, alcançar o GPT-4, antes, custava seis centésimos do que hoje. E esse custo continua caindo.

Claro, ninguém mais se preocupa com GPT-4. O que importa é o modelo de ponta, que gera valor econômico real. Mas esses modelos de ponta também podem ser usados em tarefas menores.

A demanda é impulsionada por novos casos de uso, não pela redução de custos de modelos antigos. Hoje, usamos Opus 4.6 ou 4.7. Daqui a um ano, para obter o mesmo nível de capacidade, talvez gastemos só 7 mil dólares — 100 vezes mais barato.

Mas isso não importa, porque, na prática, usaremos modelos ainda mais avançados para tarefas mais valiosas.

O modelo Metis, por exemplo, é mais caro por si só, mas consome muito menos tokens para fazer a mesma coisa, tornando-se mais barato na maioria das tarefas.

Dylan Patel:
Exatamente. Mesmo cada token sendo mais "inteligente" e caro, ele realiza tarefas com menos tokens.

Patrick O'Shaughnessy:
Na última vez que te vi, o Metis tinha acabado de ser lançado, ou o modelo de avaliação tinha saído. Você disse que ele era tão forte que dava medo. O que você quis dizer?

Dylan Patel:
A meta da Anthropic para 2025, e até de 2024, é que o modelo tenha nível de um engenheiro de software L4. Em geral, eles usam o Opus 4.6 para isso.

Mas, comparando com o Metis, que é mais avançado, parece mais um engenheiro de nível L6 — bastante experiente.

L4 é um engenheiro iniciante, L6 é um experiente.

A Anthropic disse que o modelo já estava disponível internamente desde fevereiro, ou seja, em dois meses, passou de L4 para L6. E o que vem depois?

Ao pensar na evolução dos modelos, percebemos que ela está acelerando. A velocidade de lançamento da Anthropic está aumentando, assim como a da OpenAI. Por quê? Porque para fazer modelos melhores, você precisa de três coisas:

Primeiro, muita capacidade de computação, que é cara e tem seu próprio ritmo. Estamos acompanhando isso, e ela cresce, mas de forma relativamente previsível. Os contratos de capacidade já firmados estão basicamente definidos.

Segundo, ótimos pesquisadores, pelos quais as empresas pagam milhões.

Terceiro, a implementação. Historicamente, era difícil transformar ideias em realidade. Agora, ideias abundam, implementação ficou mais fácil, embora custe caro.

A questão é: como decidir quais ideias implementar? Quando a implementação fica tão fácil, você consegue fazer mais ideias, correr mais rápido.

Isso acontece na pesquisa de modelos de IA, onde o ciclo de lançamento passou de seis meses para dois meses. Ou em outros setores, como modelar todas as usinas de energia dos EUA, fazer regressões, analisar oferta e demanda.

Ideias são baratas. O que importa é: quais valem a pena? Quais justificam o investimento em tokens? Porque a capacidade de implementar já está aí. Essa é a maior mudança.

Se o custo de implementação continuar caindo — e ele está caindo — ainda nem usamos o Metis de verdade. O Opus 4.7 foi lançado há poucas horas, e nossa equipe já está empolgada.

O que isso vai fazer ao mundo? Acho que vai reordenar a economia.

Antes, execução era difícil, ideias eram baratas. Agora, ideias são baratas e abundantes, execução ficou fácil. Então, só vale a pena o que realmente prova que, mesmo com custos baixos, vale a pena gastar.

Patrick O'Shaughnessy:
Você realmente tem medo? Ou é só uma incerteza difícil de controlar?

Dylan Patel:
Há incerteza, claro. Mas acho que isso traz um certo medo. A questão é: como a sociedade vai se reorganizar?

Quando "a capacidade de realizar uma coisa" não for mais tão importante, o que será? Importa se você consegue escolher a ideia certa para IA realizar, vendê-la, ou levantar capital para ela. Essas coisas vão passar a ser mais importantes.

E isso volta à questão: quem consegue acesso às últimas versões dos modelos?

A Anthropic tem um projeto, que eu chamo de Earwig, uma brincadeira com o inseto "earwig" (earwig em inglês, que significa "ouvido de grilo" ou "inseto que entra no ouvido"). Eles só fornecem Metis para algumas empresas, para cenários de segurança cibernética. Acho que isso vai continuar, modelos cada vez mais restritos, menos acessíveis ao público geral.

Nota: "Earwig" significa "inseto", uma brincadeira com o fato de que esses modelos podem "invadir" o sistema de forma silenciosa.

Se a OpenAI, Anthropic e outras empresas dizem que querem democratizar IA, ela é muito cara. Quem paga por toda a infraestrutura de trilhões de dólares? Quem tem dinheiro e pode construir coisas úteis com IA?

Você também não quer que alguém distile seu modelo e o libere amplamente. Vai fornecer a poucos clientes, que também vão competir por tokens.

A menos que a Anthropic aumente muito os preços. Pode dobrar o preço do Opus, e eu continuarei pagando. A maioria continuará. Mas isso não resolve o problema de capacidade.

Então, a questão é: onde essa rodada termina? Quando o uso de tokens e o valor que eles geram se concentra em poucas mãos, o que acontece?

Eu não tenho o Metis agora, mas quem tem? Os maiores bancos, por exemplo. Eles podem usar em segurança cibernética, mas podem também negociar acesso antecipado ou limites maiores, se tiverem contratos com a Anthropic.

Se meus concorrentes não tiverem esse acesso, posso vencê-los.

Outra possibilidade é alguém como Ken Griffin, da Citadel, que tem conexões e dinheiro. Pode fazer um acordo com OpenAI ou Anthropic, comprando uma grande quantidade de tokens antecipadamente, dominando o mercado.

Isso pode acontecer em segurança, análise de dados, ou qualquer setor.

O impacto é amplo. Ninguém sabe exatamente o que esses modelos podem fazer. Anthropic, OpenAI, ninguém sabe. No final, cabe ao usuário final descobrir: onde esses tokens podem ser usados? O que podem construir? Que impacto terão?

Isso pode aumentar muito a produtividade, com efeitos positivos, mas também pode concentrar recursos e poder.

Robôs vão atender às próximas demandas

Patrick O'Shaughnessy:
Hoje, o consumo de tokens por robôs ou na robótica é quase insignificante comparado a outros setores. Como você vê? Pode se tornar uma segunda curva de demanda? Aqui, dentro de um quilômetro, surgem novas startups de robótica tentando fazer algo interessante.

Dylan Patel:
Existe um conceito chamado "singularidade apenas de software". Ou seja, o mundo pode primeiro experimentar uma singularidade de IA só no software. Mas o mundo ainda é físico na maior parte. No final, tudo se organiza em torno de hardware, não só de software. Então, acho que a "singularidade de software" será uma fase curta, não o fim. Porque, no final, vamos entrar no mundo físico.

Quando o software fica muito fácil, qual é a parte mais difícil na robótica? Programação, microcontroladores, atuadores, controle de tudo isso. Essas partes ainda são muito difíceis.

Modelos de IA têm uma característica interessante: sua eficiência de aprendizado é baixa. Só aprendem porque recebem uma quantidade enorme de dados, e em alguns aspectos superam humanos.

Mas, por exemplo, modelos como VLA (Vision-Language-Action), que estão em alta, podem não ser a solução final. Eles têm baixa eficiência de dados, e não conseguimos escalar rapidamente a quantidade de dados de robôs.

No futuro, certamente haverá uma forma de pré-treinar modelos de robôs em grande escala, como fazemos com humanos, que veem muitos exemplos na vida. Humanos são "alto eficiente em amostras". Um ou dois exemplos, e aprendem.

Se essa capacidade for aplicada à robótica, tudo muda. Quando a singularidade de software acontecer, a implementação será muito barata, qualquer um poderá construir esses modelos. Então, começaremos a criar robôs realmente úteis.

Acredito que, em 6 a 18 meses, veremos avanços reais na robótica. A habilidade principal será o aprendizado com poucos exemplos, o few-shot learning. Um modelo pré-treinado, e você dá alguns exemplos, e ele faz a tarefa.

Você mostra duas coisas, e ele faz. Você diz: "Este pode se equilibrar", e ele tenta. Já derrubei muitas coisas com meus próprios experimentos.

Portanto, os robôs terão essa capacidade de aprender com poucos exemplos.

Hoje, muitas empresas fazem robôs para publicidade ou tarefas simples. Mas, em breve, eles ficarão mais especializados: robôs para dobrar roupas, limpar quadros, etc. Pode ser um serviço de aluguel ou um pacote de modelos, que você baixa e usa.

De qualquer forma, o setor de produtos físicos vai acelerar muito, gerando deflação. E isso vai continuar impulsionando a demanda por tokens. Então, não acho que a demanda por tokens vá diminuir.

Patrick O'Shaughnessy:
O que você aprendeu com o Metis e sua construção? Se dividir as leis de escala em partes, como pré-treinamento...

Dylan Patel:
É um modelo muito maior que os anteriores. Dez vezes maior que o Blackwell, por exemplo, equivalente a dezenas de milhares de chips da geração anterior. Claro, há diferentes ritmos de lançamento, mas, no geral, o Metis é claramente maior.

Ele prova que as leis de escala ainda valem. Tudo indica que, ao investir mais em capacidade, o modelo melhora.

E, ao longo do processo, também melhoramos a eficiência de cálculo. Todo o investimento em pesquisa e desenvolvimento se traduz na redução de custos para alcançar determinado nível de capacidade. Mesmo aumentando a escala, há ganhos de capacidade.

Sim, isso mostra que a tendência continua. Google, Anthropic, OpenAI — todos vão lançar modelos melhores, com ritmo acelerado.

Este ano, veremos modelos cada vez melhores, com lançamentos cada vez mais rápidos.

Patrick O'Shaughnessy:
Já conversamos bastante, mas quase não mencionamos a OpenAI. Antes, isso seria estranho.

Dylan Patel:
Exatamente. Agora, muitos dizem: "A Anthropic já ganhou, né?" Eles têm o Metis desde fevereiro, sem lançar oficialmente, por achar que não é necessário. Seus lucros já crescem 10 bilhões por mês. E hoje lançaram o Opus 4.7, tudo antes do rumor do lançamento do "Spud" pela OpenAI, que foi noticiado por veículos como The Information.

Parece que a Anthropic está na frente, e a OpenAI ficou para trás. Mas, na verdade, a Anthropic tem limitações de capacidade. Eles podem expandir lentamente. Dario até dizia que a OpenAI era mais agressiva na expansão de capacidade, enquanto a Anthropic era mais racional.

Hoje, talvez eles pensem: "Deveríamos ter investido mais em capacidade."

A OpenAI, por outro lado, tem recursos para pagar por mais capacidade. Já levantaram muito dinheiro, compraram capacidade de várias fontes, incluindo Oracle, CoreWeave, SoftBank, Microsoft, e agora também Trainium da Amazon.

Eles estão fazendo algo muito ousado, e sabem que precisam de mais capacidade.

Se olharmos para o Opus 4.6, sem considerar melhorias de modelo, a difusão tecnológica é clara: qualquer um pode usar no dia do lançamento, mas outros levarão tempo para aprender. A "consciência de Claude" não acontece para todos ao mesmo tempo.

Se um modelo como o Opus 4.6 gerar 100 bilhões de dólares por ano, isso não é exagero, considerando o crescimento atual de 40 bilhões.

Patrick O'Shaughnessy:
Isso é uma projeção linear.

Dylan Patel:
Sim, uma projeção linear, não exponencial. Para crescimento exponencial, precisamos de modelos melhores. Mas a capacidade de capacidade da Anthropic não é suficiente para atender a tudo. Se a OpenAI ou Google atingirem esse nível, quem será o próximo?

Talvez a Anthropic consiga uma margem de lucro de 70%, mas se a OpenAI alcançar o mesmo nível, mesmo com 50% de margem, ela absorverá toda a demanda adicional. E provavelmente também não terá capacidade suficiente para todos.

Assim, um modelo como o Metis, se houver capacidade suficiente globalmente, pode gerar receitas de 500 bilhões de dólares ou mais. A demanda por tokens é enorme, e a oferta de capacidade, limitada.

Já vimos isso na alta do preço do H100. A vida útil das GPUs está se estendendo. Mesmo laboratórios secundários estão vendendo tokens, e os principais também.

O valor econômico do melhor modelo está crescendo mais rápido que a infraestrutura que fornece esses tokens. Essa lacuna se amplia. Os lucros dos laboratórios de modelos continuam a subir, até que a cadeia de hardware e infraestrutura perceba: "Por que não aumentar minha margem?"

Patrick O'Shaughnessy:
Então, sua avaliação da demanda, especialmente com seu exemplo na SemiAnalysis, é explosiva. E, mais amplamente, com a "psicose de IA", as pessoas sentem na pele o que podem fazer, a facilidade de implementação. Eu também percebo isso. Em poucas semanas, meus gastos com tokens dispararam.

Isso é uma boa avaliação de demanda. Mas há algo que estamos deixando passar? Se você não usar mais tokens, ficará "permanentemente na base". Pode explicar essa frase?

Quer dizer, ou você usa mais tokens e gera valor econômico, ou fica preso na base, com uso limitado. Muitas pessoas usam de forma preguiçosa, pensando: "Depois, só trabalho uma hora por dia, deixo a IA fazer o resto."

Dylan Patel:
Isso é uma abordagem chata. Uma forma mais interessante é: eu trabalho oito horas por dia, mas faço oito vezes mais, ou ganho cinco vezes mais. Talvez não cinco, mas a direção é essa.

Se você trabalha para uma empresa, é difícil fazer isso. Mas há quem tenha múltiplos empregos, crie negócios, venda produtos. Antes que a IA se torne padrão, é preciso aproveitar seu valor econômico.

Se você não usar mais tokens, não criar valor com eles, não capturar esse valor, ficará "permanentemente na base".

Tem três questões: usar mais tokens; criar valor com eles; capturar esse valor. Se não fizer essas três coisas, com o avanço dos modelos e a concentração de recursos, ficará para trás.

Vamos falar da oferta. O que está acontecendo? Se a demanda explode, toda a cadeia de suprimentos de ponta está mudando. Com a demanda alta, os preços sobem. GPUs, CPUs, memórias, tudo. E a vida útil também se estende.

O preço do H100 mostra isso. Antes, diziam que GPUs durariam cinco anos, mas não é verdade. GPUs de três ou quatro anos atrás estão sendo renovadas por mais três ou quatro anos.

Assim, a vida útil real é de sete ou oito anos. E os preços continuam subindo na renovação.

Isso significa que a margem de lucro de um cluster é maior que 35%. Os lucros das nuvens aumentam, assim como os de hardware, que continuam a lucrar com margens de 75%.

Na cadeia, componentes como memórias, módulos ópticos, também têm margens crescentes. Empresas como MKS, que fornecem componentes, também estão recebendo pré-pagamentos, aumentando suas margens.

Empresas como a TSMC, que fabricam chips, também estão pagando grandes adiantamentos. Mesmo que as margens não aumentem imediatamente, o custo de capital e o retorno sobre investimento estão crescendo.

Na cadeia toda, há uma tendência de aumento de margens e de investimentos. Até o PCB, que usa cobre, está com alta de preços e pré-pagamentos.

Enquanto houver demanda, a disputa por capacidade vai continuar, com preços e investimentos crescendo.

A escassez de capacidade de computação se espalha por toda a cadeia

Dylan Patel:
A cadeia de suprimentos costuma reagir rápido, mas desta vez é diferente. A complexidade aumentou, e os projetos são maiores, com prazos mais longos.

Memória, por exemplo, cresce cerca de 20-30% ao ano. NAND, menos. Mesmo com sinais fortes de demanda, a capacidade nova só virá em 2027 ou 2028.

O resultado é que os preços de memória estão nas alturas. Acredita que podem subir mais duas ou três vezes?

Sim, especialmente para DRAM, que pode dobrar ou triplicar de preço.

Muita gente acha que a história da memória já está saturada, mas não é verdade. A demanda por capacidade ainda é enorme, e os preços sobem porque a oferta não acompanha.

Para a lógica de chips, o mesmo. A fabricação de wafers leva tempo. TSMC, por exemplo, anunciou que vai aumentar muito o investimento, chegando a 1000 bilhões de dólares em alguns anos.

Isso significa que a cadeia toda vai precisar de mais capacidade, e os preços vão subir ainda mais.

A cadeia de semicondutores está se preparando para uma expansão enorme, com efeitos de chicote que podem multiplicar pedidos e preços.

Se a TSMC realmente investir 1000 bilhões de dólares até 2028, muitos acharão loucura, mas é possível.

E o que isso significa para o ecossistema? Para fornecedores de equipamentos, materiais, para empresas como a Lam Research, Applied Materials, ASML?

O efeito chicote será ainda maior.

Nota: "efeito chicote" refere-se à