Entrevista com o CEO da Cerebras: em mãos com 25 mil milhões em encomendas em atraso, a procura por capacidade de computação de IA já está completamente reservada

标题原文:Open Source Wins,AGI Is Here,and Scorsese's AI Toolkit—Cerebras & Black Forest Labs CEOs
原文来源:All-In Podcast
原文编译:深潮 TechFlow

要点总结

Nesta edição, convidámos os dois CEOs de empresas de infraestruturas de IA. Andrew Feldman é o fundador da Cerebras — uma empresa especializada em chips de inferência — e acabou de concluir um IPO; tem nas mãos 25 mil milhões de dólares em encomendas acumuladas. Ele repete insistentemente uma ideia: a procura por capacidade de computação de IA já está toda reservada; não existe o cenário de “construímos e agora esperamos que alguém venha”. A OpenAI, a Anthropic, a SpaceX e a Google têm apetite muito maior do que a oferta. E o aparecimento de raciocínio (reasoning) faz com que a intensidade de computação volte a disparar — este é precisamente o campo de batalha dos “chips rápidos”. Robin Rombach é o fundador da Black Forest Labs. Ele trabalha com modelos de geração de imagens e vídeo (a série Flux). Antes, inventou o algoritmo de latent diffusion, isto é, a base de todos os modelos atuais de geração de imagens e vídeo. Acabou de colaborar com Martin Scorsese para permitir que o realizador use IA para visualizar as imagens na sua mente; mas o que o entusiasma mais é a possibilidade de a mesma família de modelos multimodais filmar e, ao mesmo tempo, ser instalada em robôs como “cérebro”. O destino do vídeo gerativo não é o ecrã; é o mundo físico.

Resumo de ideias marcantes

O raciocínio é o próximo “buraco negro” de computação

· “O interessante é que esta vaga é diferente da anterior: eles não apostam no ‘construído e depois aparece gente’; a procura já reservou a capacidade. Temos 25 mil milhões de dólares em encomendas acumuladas.”

· “Raciocínio é reasoning. O reasoning consome tokens em massa — e isto é exatamente o campo de batalha dos ‘chips rápidos’.”

· “Se a Cerebras for 15 vezes mais rápida, e tu correres 24 horas, é como pensar durante semanas, ou até meses.”

Open source e soberania: as empresas querem controlo

· “Ninguém gosta de estar dependente. A lição aprendida pelos gigantes desde a era x86 é ficar preso à Intel.”

· “Não precisas de ter o chip mais rápido; só precisas de não depender totalmente dos chips de outra pessoa.”

· “Se agora queres correr modelos open source, tens ou o OSS 12B da OpenAI, ou os modelos da China. Para os EUA, há pouca oferta local de open source.”

A AGI, segundo definições de há 20 anos, já chegou

· “Qualquer definição de AGI que propusemos há 20, 30 ou 40 anos — já ultrapassámos isso, de forma muito clara.”

· “Teste de Turing? Já foi esmagado há muito.”

· “O problema já não é que nós não saibamos como formular a pergunta. A IA, ao contrário, consegue dizer-te: ‘Ei, estes humanos atrasados, vocês nem sequer consideraram isto.’”

Vídeo generativo não substitui a criatividade humana

· “Estes modelos de IA são um meio. Não queremos ditar como devem ser usados, especialmente para alguém como Martin Scorsese.”

· “A linguagem é uma forma um pouco deficitária de comunicação; os sinais de informação visual são demasiado ricos. Transformar as imagens na mente em imagens visíveis — aí está o ponto mais forte da tecnologia.”

· “O resultado mais interessante aparece quase sempre quando pessoas estão no circuito e tudo vai iterando.”

Do cinema aos robôs: o mesmo modelo

· “Podes usar o mesmo modelo multimodal para filmar e depois instalá-lo como ‘cérebro’ num robô.”

· “O pré-treino de vídeo ensina implicitamente as regras de interação física ao modelo; depois, a partir do mesmo modelo, obténs previsão de ações — ou seja, controlo do robô.”

· “O objetivo é conseguires comandar um robô com instruções em ‘in-context prompt’: ‘Trás-me aquele copo de sumo de laranja’. Por agora não conseguimos, mas é para aí que vamos.”

AI: uma febre de infraestruturas — centros de dados maiores do que cidades

Apresentador: Nunca vimos um tipo de construção com esta escala. Desde a Muralha da China e as pirâmides, a humanidade não investiu tanto capital, tempo e gente brilhante para construir uma única coisa. Tu, na prática, estás a fazer isso; o teu cliente constrói centros de dados, e tu és uma peça fundamental. Em 2026, o que está a fazer a Cerebras? E como estão aquelas grandes obras no Texas?

Resposta: Os centros de dados de que estamos a falar vão consumir eletricidade que, nos próximos anos, ultrapassará o total da eletricidade consumida pelo planeta nos últimos 50 anos. Só um edifício tem a dimensão de um campo de futebol; a eletricidade ligada ultrapassa a de uma cidade média. Estão a ser construídos por todo os EUA; no Canadá; na Europa do Norte; estão a ser construídos em Paris e em todo o França; no Médio Oriente; e até no Cazaquistão, no Tadjiquistão e na Geórgia também estão a construir grandes centros de dados. Cada país, cada estado, quer participar.

Quem paga? A OpenAI, a Anthropic, a SpaceX AI e a Google — o apetite é assustador. O interessante é que esta vaga é diferente de muitas outras anteriores: eles não estão a apostar no “construir e alguém vir”; a procura já reservou a capacidade. Temos 25 mil milhões de dólares em encomendas acumuladas. A OpenAI quer mais centros de dados; a Microsoft, mais; a AWS, mais. Não é uma procura que espera clientes; os clientes já estão em fila.

Apresentador: Isto também cria um termo chamado “token maxing”, ou seja, fazer tokens sem limite. Há quem questione: com tanta procura, isto realmente gera valor?

Resposta: Claro que se está a gerar muito valor. Claro que também há muito desperdício. Comparado com quando eu saí para a AWS, é demasiado bom saltar o próprio departamento de TI; cada engenheiro só precisa de usar um cartão de crédito para se registar. Muitos casos são mesmo úteis; alguns, depois, pensas: “Ok, afinal não era para ter feito assim.” Mas, no geral, continua a dar dinheiro — apenas alguns caminhos não resultam.

Eu lembro-me de 1988 quando o Costco abriu em Palo Alto. As pessoas iam lá como se fosse passear no Safeway; cada corredor percorria-se. Era um tipo de passeio péssimo: compravas quatro coisas que não precisavas, a 22 dólares cada uma. Mais tarde aprenderam uma estratégia: ir mais para o fundo buscar frango, pegar 18 cupcakes de papel para a festa de aniversário das crianças — e acabar rapidamente. É igual com o consumo de tokens de IA: no início toda a gente usava abertamente; agora as empresas começam a falar de estratégia: quais tarefas bastam com modelos open source, e quais exigem modelos de ponta. Começámos a gerir a IA como se fosse gerir um negócio.

Inferência em vez de treino: por que os “chips rápidos” são a estrela desta vaga?

Apresentador: O Sam Altman disse no AllIn que o próximo passo é reasoning: compreender a intenção, definir estratégias e validar por cruzamento com outros threads de agentes. Saímos de “adivinhar a próxima palavra” durante muito tempo; e agora a Cerebras está precisamente no centro, porque reasoning é inferência, e a carga computacional é enorme.

Resposta: O raciocínio consome tokens em massa; isso cria um campo de batalha para os chips rápidos. Cada passo do reasoning vai engolindo tokens internamente; tu antes dependias de gastar muito tempo para chegar a uma boa resposta. Uma Cerebras 15 vezes mais rápida significa que, correr 24 horas de raciocínio, equivale ao trabalho de pensar de outras pessoas por semanas — ou até meses.

Esta manhã testei um modelo ZAI GLM-52 do BitTensor: dei-lhe capacidade de computação infinita e pedi que, a cada hora, me dissesse tendências que ainda não foram identificadas no mundo. Ele começou a debater-se: “Devo procurar tendências no Hacker News e no Reddit? Ou as tendências surgem primeiro no Instagram?” Eu vi um modelo de raciocínio a discutir sozinho em segundo plano — estava a fazer reasoning. Tokens infinitos significam reasoning infinito; com uma Cerebras 15 vezes mais rápida, 24 horas equivalem a semanas de outras pessoas.

Apresentador: A Cerebras tem a sua própria Lei de Moore? Quanto tempo demora dentro de casa até dobrar?

Resposta: Todos os chips anteriores seguiram a Lei de Moore: duplicavam a cada 18 meses. Nós quebrámos essa linha com este chip e abrimos uma trajetória totalmente nova. A minha previsão é que, nos próximos 18 meses, vamos muito além de 2x. A nova arquitetura ainda tem muito espaço para otimização. As GPUs são uma arquitetura antiga de 20 anos; só conseguem aguentar reduzindo nós de processo, mas a nova arquitetura tem ainda muito para aprender, ajustar e melhorar.

Apresentador: Tens 25 mil milhões em encomendas acumuladas; tens de acompanhar o ritmo da OpenAI, que pode ser uma potencial concorrente no futuro. Como é que geres a empresa?

Resposta: Agora as pastilhas de silício não vão ficar paradas — a procura é grande demais. Mas tens razão: a OpenAI também está a fazer os seus próprios chips; a Amazon também. Ninguém gosta de estar dependente. A lição aprendida pelos hiper-gigantes desde a era x86 é ficar preso à Intel; a lição aprendida pelos fabricantes de GPU é ficar preso a poucos clientes hiper-gigantes — por isso financiaram novas clouds. Fazer os teus próprios chips: o foco não está em ser o mais rápido; está em não depender totalmente dos outros, e em pelo menos controlar uma parte importante do teu destino.

Open source e soberania: as empresas querem controlo

Apresentador: O open source está a chegar a um momento. No início usei OpenClaude; depois Kimmy. Vi que os tokens do meu Claude dispararam, mas não conseguia distinguir a diferença no Kimmy. Os modelos open source começaram a fazer reasoning; e este ano a diferença fechou de repente.

Resposta: Sim! Não queres conduzir um Ferrari num supermercado. Às vezes usas um carro desportivo; outras vezes, uma carrinha. Se uma criança espalhar Cheerios, não te faz diferença. As empresas também: problemas difíceis entregam-se a modelos de ponta (OpenAI, Anthropic, Gemini), mas uma grande parte dos problemas do dia-a-dia só precisa de capacidade open source sólida. Pensa no tempo que uma empresa tem para fazer “copiar e colar” uma coisa do Workday para outra célula numa folha do Excel — não é preciso matemática de medalha, basta um open source estável.

Recentemente virámos outra carta: indústrias reguladas como finanças e saúde (HIPAA, FINRA) receiam fugas de dados e receiam que a “soberania de inteligência” esteja nas mãos de terceiros. Querem colocar os modelos localmente e obter mais controlo com versões open source. A OpenAI, há alguns meses, libertou o OSS 12B; está ok. Mas, neste momento, para os EUA correr open source, tens ou o OSS 12B, ou modelos da China. As opções locais de open source são poucas. A NVIDIA também viu esta janela e está a empurrar os seus próprios modelos open source; mas Jensen também está hesitante. Os clientes dele são Sam, Dario, Elon e Sergey. Se abrir para open source, vai roubar negócios aos próprios clientes?

A posição da Cerebras é mais neutra: nós corremos GLM, corremos Kimmy, corremos a série Qwen e também corremos modelos fechados da OpenAI. Também corremos modelos desenvolvidos por GSK, e ainda modelos próprios da UAE G42 e da MBZUAI. A soberania é uma tendência.

A AGI chegou; o paradigma não vai morrer — as pessoas, sim

Apresentador: Quando Fable 5 e o-56 foram lançados, o governo disse “parem e depois avancem”. A relação entre a Anthropic e a camada administrativa está tensa, mas agora começa a aliviar. Achas razoável fazer lançamentos faseados? Os modelos são mesmo perigosos o suficiente?

Resposta: Eu não vi nada assim antes. Mas olhando para trás, faz sentido: quando um modelo está forte o bastante em pensamento criativo, o governo diz “lança em fases” — para mim, isso não tem problema. A gente também controla remédios fortes; não estou a defender aquela papelada de sete anos da FDA, mas dizer “pelo menos deixa o governo fazer testes de red team e confirmar que as nossas defesas aguentam” — e em duas ou três semanas corrigir falhas óbvias — não é uma exigência absurda.

Mas agora estamos num momento de polarização extrema. Se isto não tivesse sido feito pelo Trump, com outro presidente qualquer, a reação poderia ter sido totalmente diferente. A polarização prejudica o pensamento claro. Os dois lados fazem coisas estúpidas e também coisas inteligentes. As pessoas na base, dentro do governo, estão mesmo a trabalhar a sério; simplesmente esta tecnologia avançou rápido demais.

Nikesh, da Palo Alto Networks, disse-me: eles testaram o modelo no software deles e descobriram dezenas de falhas críticas num espaço de uma hora. Foram obrigados a parar tudo o que estavam a fazer e passaram seis semanas a fazer correções. Tu percebes que esta é uma ferramenta muito potente; talvez seja melhor deixar ver primeiro a um grupo pequeno, ou então fazer primeiro testes de red team.

Apresentador: De acordo com qualquer definição de há 20 anos, a AGI já chegou. O que achas?

Resposta: Sim. O teste de Turing? Já foi esmagado há muito. Qualquer definição que tenha sido proposta há 10, 15, 20, 30, 40 ou 50 anos — nós já ultrapassámos tudo de forma clara. As questões que os escritores de ficção científica colocaram, nós já respondemos. Eles diriam: “Ok, não tenho problema. Desculpem.” É por isso que vale a pena ouvir o que dizem aqueles que, à primeira vista, parecem estar na periferia. O Ilya há oito anos falou de segurança; tu dizias “o quê?” e ele estava certo. O Elon disse que o custo dos foguetes ia cair para quase zero; tu dizias “o quê?” e ele fez.

Apresentador: Aprendizagem recursiva: tu lhe colocas uma pergunta, aprendes com a resposta, fazes de novo, e a segunda resposta fica melhor, cobre mais materiais — estas respostas produzidas em ciclos saltam diretamente de “um pouco melhor” para “muito melhor”. A inclinação da curva exponencial é demasiado íngreme.

Resposta: O ganho recursivo é exponencial. Tu ficas melhor; fazes de novo, e o ganho continua. A inclinação é demasiado íngreme. Foi quando começámos a ver isto. Se continuarmos a investir em capacidade de computação, a resposta vai ficando cada vez melhor? Quando o token ou o orçamento acabar, para; mas até quando é que esta curva exponencial vai continuar? Ou será que segue para sempre na direção nordeste? Esta é uma pergunta muito interessante agora.

A velocidade de aprendizagem humana fica travada por gerações: elefantes e grandes mamíferos demoram 15-20 anos para formar uma geração. Se queres acelerar, tens de ser como uma mosca-das-frutas: duas gerações por dia. A IA está a obter essa velocidade de aprendizagem atravessando milhares de gerações. Quando eu estudava psicologia, um professor disse uma frase: “O paradigma não vai morrer — as pessoas, sim.” Os discípulos do Freud, do Skinner e do Jung ocupam posições de liderança por 20-40 anos e só depois a geração seguinte é que questiona. A IA comprime o intervalo entre gerações para uma velocidade de mosca-das-frutas.

Eu apostava que esta situação é a seguinte: os nossos filhos e todas as pessoas que eles conhecem não vão morrer de cancro. A economia pode ter tremores; quando chegam os carros, a vida é difícil para quem sabe domar cavalos. Mas lista os ganhos e as perdas: energia infinita, comida infinita, conhecimento infinito, educação infinita, habitação infinita. Durante mil anos, sabemos que tutoria 1-a-1 é melhor do que sala de aula: Aristotle a orientar Alexander, Sócrates a orientar os seus alunos. Mas escolhemos um modelo de ensino tipo fábrica. Agora a IA consegue dar a cada criança um tutor que aprende do jeito que ela própria prefere.

Caixa de ferramentas de IA do Scorsese: transformar imagens da mente em realidade

Apresentador: Robin Rombach é cofundador e CEO da Black Forest Labs, com sede na região da Floresta Negra, em Freiburg, e também em São Francisco. Tu já trabalhaste com Stable Diffusion e inventaste o algoritmo de latent diffusion. Qual é o negócio da Black Forest Labs? Qual é o objetivo?

Resposta: Eu e os meus sócios fundámos a empresa há dois anos. Antes fizemos Stable Diffusion; mais cedo, inventámos latent diffusion, que é a base dos algoritmos por trás de toda a geração de imagens, geração de vídeo e até de modelos de IA para física. O princípio é comprimir dados naturais (imagens, vídeo, áudio) para um espaço de representação eficiente; depois treinas transformadores em cima disso — como nos princípios do JPEG e do MP3, mas implementados com algoritmos de redes neurais. Nós criámos isso na nossa fase de doutoramento, em Munique.

Neste momento, estamos a atacar modelos visuais multimodais: pré-treinamos em simultâneo em imagens e em áudio, e estamos a entrar numa nova etapa, juntando action prediction. Assim, o mesmo modelo consegue fazer imagens, fazer vídeo, fazer áudio e também prever ações — e no final pode ser instalado em robôs no mundo real.

Apresentador: De imagens para vídeo para áudio e para robôs — se o modelo consegue gerar vídeo, isso significa que ele compreende o mundo.

Resposta: Existem duas formas complementares de inteligência: inteligência intuitiva e raciocínio profundo. Nós começámos pela via intuitiva: imagens são o ponto de entrada mais natural, e o custo computacional não é tão grande como no vídeo. Mas agora tudo está a convergir para modelos multimodais. O pré-treino em vídeo ensina implicitamente ao modelo regras de interação física; a partir do mesmo modelo, consegues obter previsão de ações — ou seja, controlo do robô.

Apresentador: Tens uma colaboração com Martin Scorsese? Estás ao lado dele para ele usar as tuas ferramentas?

Resposta: Sim. Eu e ele sentámo-nos na mesma sala; ele explorou os nossos modelos. Como um dos principais investigadores, ele estava ao lado — aquela sensação foi insana. E, ao mesmo tempo, eu sou um grande fã dele.

O que ele queria era visualizar cenas da sua mente: uma aldeia no leste da Europa, ele descrevia; nós víamos as saídas; ele iterava. No fim, ele disse isto: transformar as imagens na cabeça em expressão visual — esta eficiência de comunicação é muito superior à linguagem. A linguagem é uma forma um pouco “perdida” de comunicar; a informação visual tem demasiados sinais. Uma imagem ou um vídeo carregam uma quantidade enorme de informação — é uma via de comunicação diferente.

Nós não queremos ditar como usar estes modelos; especialmente não diríamos a Martin Scorsese “deves usar assim”. Os modelos de IA são um meio. Quase tudo o que há de mais interessante aparece quando a pessoa está no circuito e o processo vai iterando.

Do cinema aos robôs: o fim dos modelos generativos não está no ecrã

Apresentador: Os startups estão agora a usar Flux e os vossos modelos para fazer vídeos de lançamento. Antes gastavam 250 mil dólares; agora fazem em uma a duas semanas. Gal Gadot acabou de fazer um filme sobre Bitcoin: os atores atuaram no sound stage, sem precisar de chroma key; todos os fundos foram feitos por IA generativa. Um orçamento de 30 milhões de dólares conseguiu um efeito que, antes, exigia 150 milhões. Tu vês isso a ser usado na produção?

Resposta: Já vi algumas coisas. Uma das aplicações mais exigentes é mesmo a produção de filmes de topo. Fico feliz por haver gente a explorar. Mas quero clarificar: a tecnologia ainda está numa trajetória e está a iterar rapidamente. Alguns anos atrás, quando fazíamos PhD, só conseguíamos gerar imagens 64×64; agora conseguimos vídeo em resolução alta com múltiplas entradas, mas isto não vai parar aqui.

O que mais me entusiasma é isto: podes pegar no mesmo modelo multimodal para filmar um filme e depois instalá-lo como “cérebro” num robô. Ainda não está certo se “computer use” consegue ser usado plenamente, mas a tecnologia está a caminhar para o mundo físico. world models e action models — basicamente, é a mesma coisa.

Apresentador: De onde vêm os dados de treino? É pôr humanos com óculos e luvas a gravar em primeira pessoa? Ou basta ver vídeos no YouTube de mil pessoas a deitar bebidas e pronto?

Resposta: O objetivo é conseguir usar um robô com instruções em “in-context prompt”: “Trás-me aquele copo de sumo de laranja”. Neste momento, ainda não dá. Atualmente, a abordagem é que o modelo já vem com muita compreensão visual; só precisa de poucos horas de dados de microajuste para se adaptar a hardware específico. A direção é fazer o mínimo de microajuste possível e depender o máximo de instruções em in-context prompt — mas isso ainda é uma questão de investigação.

Apresentador: O open source está num momento, as empresas querem soberania. Como deve a Disney, por exemplo, lidar com um grande arquivo de IP? Treina o teu modelo open source internamente, ou colabora convosco para treinar um modelo exclusivo?

Resposta: O mais interessante é quando o caso de uso cria coisas que antes não existiam. É aí que esta tecnologia é mais interessante. As nossas ferramentas públicas não podem gerar um IP específico — faz sentido. Também, de facto, colaboramos com alguns detentores de IP para desenvolver modelos: alguns baseados nos nossos modelos open source; outros baseados nos nossos modelos proprietary mais fortes.

O ângulo mais interessante é: a tecnologia está a ficar mais rápida e mais interativa. Podes imaginar ferramentas de criação de conteúdo interativo penduradas no Disney+.

Apresentador: Agora, o fenómeno mais interessante são os fan films. Antes havia fan fiction a escrever histórias próprias de Star Wars; depois as pessoas começaram a vestir-se de Jedi e a filmar fan films. George Lucas disse que permitia desde que não fosse uso comercial. Agora, as pessoas usam IA para reencenar histórias de Star Wars que nunca foram contadas: Star Wars Stories Untold. Cada vídeo tem milhões de visualizações. Este é o futuro: permitir que os consumidores paguem licenças e usem personagens para criarem as suas próprias histórias.

Resposta: Se encontrarmos um modelo de negócio viável para o detentor de IP — que também permita este tipo de personalização criativa — então seria ótimo. Eu leio um livro ou vejo um filme e sempre penso: “E se isto se desenvolvesse assim?” Agora, finalmente, consigo visualizar esses pensamentos.

Acabámos de passar a marca das 100 pessoas. Estamos a recrutar na Alemanha e em São Francisco: investigadores de treino de modelos em grande escala; pessoas com experiência em treino de diffusion e flow matching; engenheiros que desenvolvem soluções personalizadas em conjunto com clientes; e pessoas interessadas em levar a tecnologia para mais gente.

Link original

Clique para conhecer as vagas na律动BlockBeats

Bem-vindo(a) à comunidade oficial da 律动 BlockBeats:

Grupo de assinatura Telegram: https://t.me/theblockbeats

Grupo de Telegram para conversas: https://t.me/BlockBeats_App

Conta oficial no Twitter: https://twitter.com/BlockBeatsAsia

Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado