Видео название: Предложение и спрос на AI-токены | Интервью с Dylan Patel
Автор видео: Invest Like The Best
Перевод: Peggy, BlockBeats

Редакторский комментарий: На фоне постоянных прорывов в возможностях AI-моделей, таких как Claude Code, Cursor и других инструментов, широко внедряемых в бизнес, отраслевые обсуждения смещаются с вопроса «насколько сильна модель» к вопросу «как модель входит в производство». Но когда программирование AI, автоматизация анализа и моделирование данных постепенно становятся новым консенсусом, возникает более фундаментальный вопрос: при быстром снижении стоимости исполнения, что действительно является редким ресурсом — человеческий труд, капитал или право на использование передовых моделей и токенов?

Слева — ведущий Patrick O'Shaughnessy, справа — Dylan Patel

Эта статья основана на беседе Patrick O'Shaughnessy с основателем SemiAnalysis Dylan Patel. Dylan давно занимается инфраструктурой AI, цепочками поставок полупроводников и экономикой моделей. В ходе диалога он, исходя из резкого роста расходов на Claude Code в своей компании, обсуждает, как AI меняет организацию предприятий, информационные услуги, спрос на токены, цепочки поставок вычислительных мощностей и общественные настроения.

Самое важное в этой беседе — не очередное обновление benchmark какого-либо модели, а способ понять экономику AI — рассматривать AI как систему производства, которая перераспределяет исполнительные способности, организационную эффективность и прибыль отраслей, а не просто как очередной программный инструмент.

Эту беседу можно понять примерно с пяти точек зрения.

Во-первых, — пробитие стоимости исполнения. Раньше идеи не были редкостью, настоящая сложность заключалась в превращении идеи в продукт, систему или услугу. Сейчас Claude Code позволяет непрофессионалам писать код, создавать приложения, делать анализ данных — задачи, которые раньше требовали долгосрочной работы команды, теперь могут выполнять немногие с помощью моделей. Годовые расходы SemiAnalysis на Claude Code достигли 7 миллионов долларов, что превышает четверть их зарплатных затрат, — это говорит о том, что AI перестает быть просто инструментом повышения эффективности и становится новым производственным капиталом.

Во-вторых, — первая отрасль, которая переписывается под AI, — информационные услуги. Основной бизнес Dylan — продажа аналитики, консультаций и датасетов, и это именно та сфера, которая наиболее легко поддается товаризации AI. Анализ обратной стороны чипов, моделирование энергосетей, построение макроэкономических индикаторов — раньше требовали долгосрочных инвестиций команды, а теперь их могут делать немногие за несколько недель. Это означает, что давление AI на информационные компании — не «заменит ли он людей», а «кто быстрее перепишет продукты конкурентов». Компании, не использующие AI, будут быстрее товаризироваться, а те, кто используют — должны постоянно повышать стандарты, чтобы не оказаться вытесненными более эффективными конкурентами.

Глубже — токены превращаются в новые производственные ресурсы. Раньше компании покупали подписки на софт, исходя из удобства использования. Теперь доступ к передовым моделям, лимиты, корпоративные контракты и бюджет токенов начинают напрямую определять производственные возможности. Более мощные модели не обязательно дороже — умные токены могут выполнять сложные задачи за меньшее число шагов. Конкуренция смещается с «кто использует AI» к «кто получит доступ к самым сильным моделям и сможет использовать самые дорогие токены в наиболее ценных сценариях».

Это спрос продолжит цепную реакцию по всей цепочке поставок. Рост использования токенов — не только вопрос стоимости моделей, но и давление на GPU, CPU, память, FPGA, PCB, медь, оборудование для производства полупроводников и фабрики. В статье упоминается «эффект хлыста» — когда рост спроса на модели кажется локальным, а в цепочке он превращается в многократное увеличение заказов, расширение производства и рост цен. Прибыль в индустрии AI — не только у компаний моделей и NVIDIA, она будет распространяться по цепочке полупроводников и дата-центров.

И, наконец, — возможное социальное сопротивление. Когда AI реально войдет в рабочие процессы, общество начнет активно выражать опасения по поводу замещения рабочих мест, энергопотребления, расширения дата-центров и концентрации власти. Dylan даже предсказывает, что в течение трех месяцев могут начаться массовые протесты против AI. Для компаний, создающих модели, продолжение пропаганды «AI изменит мир» не обязательно снизит тревогу — наоборот, может усилить ощущение неконтролируемости. Следующий этап — показать, как AI создает конкретную, ощутимую общественную ценность.

Сейчас ключевой вопрос — не «что могут делать модели», а «кто получит доступ к моделям, как их использовать и кто сможет захватить создаваемую ими ценность». В этом смысле речь идет не только о Claude Code, Anthropic или других AI-компаниях, а о структурных изменениях, связанных с производительностью, капиталовложениями, организационной эффективностью и общественным принятием.

Ниже — оригинальный текст (для удобства чтения немного переработан):

TL; DR

· Основной фактор AI смещается с «может ли модель делать» к «стоит ли это делать», после резкого снижения стоимости исполнения, по-настоящему редким ресурсом становится высокоценная идея, которую модель может масштабировать.

· Расходы на Claude Code составляют 25% от зарплат — это только начало, AI превращается из программного инструмента в новый производственный капитал.

· Конкуренция в области передовых моделей уже не только в возможностях, а в доступе к токенам; кто быстрее и стабильнее получит доступ к самым сильным моделям, тот может создать новую бизнес-барьеру.

· Информационные услуги первыми претерпят изменения, поскольку стоимость данных, аналитики и исследований быстро падает, а медленные компании будут вытесняться более быстрыми.

· Спрос на токены не снизится из-за падения цен на старые модели, потому что каждое улучшение модели открывает новые ценные сценарии и подтолкнет пользователей к более дорогим моделям.

· Главные перемены — не в уменьшении работы людей, а в том, что меньшие группы смогут за одинаковое время делать в разы больше. Те, кто не сможет создавать и захватывать токеновую ценность, останутся в «вечном низу».

· Недостаток вычислительных мощностей распространяется по всей цепочке — от GPU, CPU, памяти до PCB, медных пластин и оборудования. AI-потребности становятся драйвером цен на всю индустрию.

· Экономическая ценность AI трудно уловить в традиционном ВВП; важнее не сколько зарабатывают модели, а сколько «призрачного ВВП» создается за счет решений, эффективности и цепных эффектов, вызванных токенами.

Интервью в полном виде:

Claude Code — новая рабочая сила

Patrick O'Shaughnessy (ведущий):
Ты рассказывал мне недавно очень интересную историю о резком росте использования токенов в вашей команде в этом году. Можешь повторить? Что это говорит тебе о происходящем в мире?

Dylan Patel (основатель SemiAnalysis):
В прошлом году мы думали, что уже очень активно используем AI. Все пользовались ChatGPT, все — Claude, я тоже покупал разные подписки для команды. Тогда расходы были в районе нескольких тысяч долларов в год.

Но в этом году расходы начали расти очень быстро. Началось всё примерно в конце декабря прошлого года с появления Opus. В это число входит и Doug, наш президент Douglas Lawler, который активно продвигал использование AI для написания кода непрофессионалами. Он буквально подтянул всю компанию. Конечно, инженеры тоже использовали, но с января расходы резко пошли вверх и быстро взлетели.

Позже мы подписали корпоративный контракт с Anthropic. В прошлый раз я говорил, что наши годовые расходы — около 5 миллионов долларов; сейчас уже 7 миллионов.

Patrick O'Shaughnessy:
И это было на прошлой неделе.

Dylan Patel:
Да, большая часть — это объем использования. Интересно то, что люди, которые раньше вообще не писали код, теперь используют Claude Code, и некоторые тратят по нескольким тысячам долларов в день. Но в целом по компании расходы на Claude Code уже достигли 7 миллионов долларов в год, а зарплаты — около 25 миллионов. То есть расходы на Claude Code — четверть зарплатных затрат.

Если эта тенденция продолжится, к концу года расходы могут превысить 100% от зарплат. Это немного пугает. Но мне повезло: я сейчас не должен выбирать между человеком и AI, потому что рост компании очень быстрый. Можно не так быстро нанимать людей, зато больше тратить на AI — и это действительно работает, компания растет быстрее.

Но я думаю, что рано или поздно другие компании столкнутся с вопросом: если один человек с Claude Code может делать работу 5, 10 или даже 15 человек, что тогда? Во-первых, возможно, придется сокращать штат; во-вторых, сценариев использования очень много.

Например, у нас есть лаборатория в Орегоне, которая занимается обратным проектированием чипов уже полтора года. Там много дорогого оборудования — микроскопы, сканирующие электронные микроскопы. Основная задача — анализировать чипы, извлекать их архитектуру, материалы производства. Эти данные мы продаем.

Раньше анализ таких данных был очень медленным. Сейчас один человек за несколько тысяч долларов токенов создал приложение, которое использует GPU и работает на серверах CoreWeave. Он просто присылает изображение чипа, и программа автоматически отмечает материалы: медь, тантал, германиевые элементы, кобальт. Потом можно очень быстро делать конечный анализ структуры, визуализировать и получать полную картинку.

Этот человек раньше работал в Intel, он говорит, что раньше это было бы задачей целой команды. А сейчас — это можно делать всей компанией.

Еще один пример — Malcolm, бывший экономист крупного банка. В его банке было 100–200 человек в экономическом отделе. Сейчас он создал очень впечатляющие вещи.

Он подключил разные данные — FRED, отчеты по занятости и другие API. Мы тоже договорились с поставщиками данных, получили API-доступ. Он запустил регрессионный анализ, чтобы понять, как изменения в экономике влияют на инфляцию или дефляцию.

В бюро статистики труда есть около 2000 задач. Malcolm использует AI, чтобы оценить, какие из них сейчас можно делать с помощью AI, а какие — нет, по определенной шкале. В итоге он показывает, что примерно 3% задач уже автоматизируемы.

Он создал индекс, который показывает, какие процессы можно автоматизировать и какой эффект это даст — дефляционный или инфляционный. В результате, несмотря на рост производства, из-за снижения издержек ВВП может даже сократиться — он назвал это «Фантом ВВП» (призрачный ВВП).

Он построил целый анализ на этой идее и создал новый benchmark для языковых моделей, включающий около 2000 оценок.

Patrick O'Shaughnessy:
Это всё он один сделал?

Dylan Patel:
Да, полностью один. Он мне сказал: «Брат, это то, что раньше делала бы команда из 200 экономистов за год». Сейчас он полностью погружен в Claude и говорит, что всё изменилось.

Patrick O'Shaughnessy:
Как бизнесмен, как ты воспринимаешь это? Вы начали с почти нулевых затрат, а сейчас расходы приближаются к 25% от зарплат, и растут. Когда ты почувствуешь, что пора тормозить? Может, стоит ограничить расходы? Может, перейти на более дешевую модель, например Opus 4.5 или 4.6, вместо самой передовой?

Dylan Patel:
В конечном счете, я занимаюсь информационным бизнесом. Мы продаем аналитику, консультации, создаем датасеты. Я не вижу причин, почему это не должно полностью товаризироваться очень быстро.

Если я не буду постоянно совершенствоваться, то первый наш продукт — датасет — уже начинают делать другие. Мы продолжаем улучшать его, делая лучше и точнее. Но в 2023 году наш подход уже очень похож на то, что делают другие. Если я не буду повышать стандарты, меня могут вытеснить. Если я не буду достаточно быстрым, потеряю преимущество.

Поэтому вопрос — да, AI уже товаризирует многое, как это происходит с софтом. Но те, кто действует быстро, умеет поддерживать отношения с клиентами, постоянно улучшать сервис — не сократятся, а будут расти. А те, кто ничего не делает — проиграют.

Это почти вопрос выживания: если я не внедрю AI, кто-то другой сделает это раньше и меня обойдет.

Еще пример — энергетика. В прошлом году у нас было несколько аналитиков, которые пытались построить энергетическую модель. Она очень сложная, а рынок данных о энергии — около 9 миллиардов долларов. Это очень большой рынок, и мы хотели туда войти. Но, несмотря на год работы, мы так и не вошли в бизнес.

И тут пришел «Claude Code» — «бредовая идея». У нас есть человек, отвечающий за энергию и промышленные данные, Jeremy. Он начал использовать Claude Code, и всё резко изменилось. За три недели он потратил много денег — около 6 тысяч долларов в день — и создал карту американской электросети, подключил данные о генерации и потреблении, построил аналитический дашборд.

Теперь можно смотреть, где в США есть дефицит или избыток электроэнергии, и анализировать детали. Всё это было сделано за несколько недель.

Потом мы показали это клиентам, в том числе трейдерам энергии. Они сказали: «Это сделано за сколько? Это круто, лучше, чем у конкурентов». А мы узнали, что у конкурента — 100 человек, и он занимается этим уже 10 лет.

Конечно, наш продукт пока не такой стабильный и полный, но в некоторых аспектах уже лучше. И я сейчас начинаю коммерциализировать эти данные. Но если я не буду работать быстрее, кто тогда меня обгонит?

С точки зрения бизнеса, вопрос не в том, сколько я потратил. Важно — что я получил взамен? Приносит ли это доход? Если да — значит, расходы оправданы.

Patrick O'Shaughnessy:
Ты боишься, что в итоге те, кто контролирует капитал и инвестиции — крупные инвестфонды, банки — скажут: «У нас есть аналитики, и они умнее, мы сделаем сами»? Тогда весь рынок может вернуться внутрь инвесткомпаний, ведь они получат максимальную отдачу от данных и инсайтов.

Dylan Patel:
Вся информационная сфера — по сути, так и работает: ценность информации для меня — больше, чем для клиента, который ее покупает.

Если я продаю информацию за 1 доллар, то клиент готов заплатить именно потому, что эта информация помогает ему принять решение, которое принесет ему больше, чем 1 доллар прибыли. Он использует мою информацию для арбитража. Он зарабатывает больше, чем я за счет продажи этой информации.

Инвестиционные фонды тоже используют данные. Особенно крупные — Jane Street, Citadel — у них очень глубокие аналитические отделы. Но они все равно покупают наши данные, продолжают это делать, и наши отношения растут.

Здесь есть «фактор удачи». Мы действуем быстрее, гибче, у нас меньшая команда, мы сосредоточены на инфраструктуре AI и связанных с ней революционных изменениях. Мы видим тренды раньше и можем быстрее создавать решения.

Поэтому профессиональные инвесторы, конечно, пытаются делать то же самое, что мы. Но чаще они покупают наши данные и используют их для своих целей, чем создают что-то с нуля. Для них дешевле купить наши данные и дальше развивать, чем начинать с нуля. Конечно, кто-то и попробует делать сам.

Токены — новые производственные ресурсы

Patrick O'Shaughnessy:
Я всегда после наших разговоров возвращаюсь к одному вопросу: предложение и спрос на токены. Это сейчас самое интересное для меня. У тебя есть опыт, что ты можешь сказать о спросе? Когда ты сам ощущаешь его, меняется ли твое мнение о необходимости токенов?

Dylan Patel:
Если смотреть глобально, то ARR Anthropic — около 90 миллиардов долларов, сейчас, возможно, уже 350–400 миллиардов. К моменту выхода этого выпуска — около 400–450 миллиардов.

Но их вычислительные мощности не растут так же быстро. Если предположить, что они не сокращают R&D — а они явно не сокращают, ведь выпускают новые модели — Metis, Opus 4, 4.7 — то можно сказать, что их добавленная мощность, даже полностью направленная на inference, дает минимум 72% валовой маржи.

На практике часть новых мощностей идет в R&D, и их реальная маржа может быть выше. В начале года утекла часть информации о финансировании Anthropic, показывающая маржу около 30%.

Как за короткое время повысить маржу до такого уровня? В основном — спрос очень высок. Они могут ограничивать использование, лимиты, скорость. Важен именно менеджмент — наличие корпоративных контрактов, возможность увеличивать лимиты. Иначе токены станут очень дефицитным ресурсом.

Кто платит — тот и получает. У Anthropic есть эта проблема — и это нормально в условиях капитализма. Да, клиенты платят им по 400 миллиардов долларов в год за токены, но ценность, создаваемая этими токенами, гораздо выше.

Разная ценность — у каждого токена. Но с ростом интеллекта моделей, важнее становится — кто получит доступ к самым умным токенам и сможет использовать их в наиболее ценных задачах.

Ты сам решаешь: как использовать эти токены, чтобы развивать бизнес и создавать ценность. Многие хотят токены, используют их, но те, кто создают программные продукты на базе Claude в Сан-Франциско, — не обязательно создают огромную ценность. В итоге, цена токенов вытеснит их из рынка.

Patrick O'Shaughnessy:
Я сегодня по пути сюда столкнулся с этим. Как только вышел Opus 4.7, я сразу захотел его использовать. Но меня ограничили по лимитам, и я не смог. Уже не могу представить себе работу с 4.6, хотя раньше он мне нравился.

Ты удивлен, что люди так стремятся к самым дорогим и передовым моделям?

Dylan Patel:
Совершенно нет. Самое смешное — за последние полтора месяца я вместе с другом Leopold буквально умолял основателя Anthropic дать нам доступ к Metis.

Мы знали, что он есть, и говорили: «Пожалуйста, дайте нам попробовать». А он отвечал: «Я не знаю, о чем вы».

Patrick O'Shaughnessy:
Когда появляется ценовая таблица или eval-карта, какая у тебя реакция?

Dylan Patel:
На Западе уже ходили слухи, что Metis очень сильная модель. Benchmark постоянно меняется, но, судя по всему, Mephisto / Metis — это самый большой скачок в возможностях моделей за последние два года.

Это очень важно: модель настолько сильна, что Anthropic даже не хочет полностью выпускать ее. Они уже объявили цену для некоторых клиентов и проводят выборочные релизы, например, для задач в области кибербезопасности. Стоимость токенов в этом случае — в 5–10 раз выше, но они не хотят выпускать ее полностью, опасаясь последствий для реального мира.

Сейчас нам дают более слабую версию — Opus 4.7. В документации модели четко указано, что в области кибербезопасности они специально сделали более слабую предварительную настройку. Не знаю, читали ли вы это.

Я хочу сказать: если у вас есть достаточно капитала, лучше купить корпоративную подписку Anthropic и платить за токены, а не пользоваться обычной подпиской. Тогда лимиты не будут так ограничивать.

И подумайте, как использовать эти токены в наиболее ценных задачах и зарабатывать на этом. Потому что через год-два многие бизнесы по сути будут заниматься арбитражем токенов. Токены очень мощные, главное — знать, куда их направлять.

Через три-четыре года модели сами научатся правильно использовать токены и создавать максимальную ценность.

Если посмотреть на любой benchmark, то раньше для достижения определенного уровня возможностей требовалось много ресурсов — X. Сейчас, чтобы достичь того же уровня, нужно в 100 или даже 1000 раз меньше затрат. Например, чтобы GPT-4 достигла этого уровня, потребовалось бы в шесть раз меньше ресурсов, чем GPT-4. И стоимость этих моделей продолжает снижаться.

Конечно, сейчас уже никто не гонится за GPT-4. Все хотят передовые модели, потому что именно они создают реальную экономическую ценность. Но GPT-4 все еще можно использовать в меньших задачах.

Главное — не снижение стоимости старых возможностей, а появление новых сценариев использования. Сейчас у вас есть Opus 4.6 или 4.7. Через год, чтобы получить такую же модель, вам потребуется около 70 тысяч долларов — в 100 раз дешевле.

Но это не важно, потому что через год вы все равно будете использовать более мощную модель для более ценных задач.

Модель Metis от Anthropic дороже сама по себе, но она тратит на те же задачи в разы меньше токенов. Поэтому в большинстве случаев она дешевле, чем Opus 4.6.

Dylan Patel:
Потому что она гораздо эффективнее. Даже если каждый токен дороже и «умнее», она выполняет задачи за меньшее число токенов.

Patrick O'Shaughnessy:
Когда ты говорил в прошлый раз, что Metis очень сильная и даже страшная, что ты имел в виду?

Dylan Patel:
Цели Anthropic — к 2025 году иметь модель уровня L4 — программного инженера. К 2024 году они уже почти достигли этого на Opus 4.6.

Но что интересно — сравнивая с benchmark, Metis — это модель уровня L6. L4 — это начинающий инженер, а L6 — очень опытный специалист.

Я помню, что Anthropic говорил, что с февраля модель уже доступна внутри компании. То есть за два месяца они поднялись с уровня L4 до L6. Что дальше?

Когда смотришь на прогресс моделей, понимаешь, что он ускоряется. Темпы выпуска моделей сокращаются: если раньше — раз в полгода, то сейчас — раз в два месяца. Почему? Потому что для улучшения модели нужны три вещи.

Во-первых, — мощные вычислительные ресурсы. Они очень дорогие и требуют времени. Мы отслеживаем их рост — он продолжается, хотя и не очень быстро. Уже подписаны контракты, и объем мощностей примерно фиксирован.

Во-вторых, — талантливые исследователи, за которых компании платят десятки миллионов долларов.

В-третьих, — способность реализовать идеи. В прошлом это было очень сложно: идея — это одно, а реализовать — другое. Сейчас идеи есть у всех, реализовать их — проще, но дорого.

Проблема — как решить, какие идеи реализовать. Когда реализация становится очень доступной, можно делать больше.

Это касается и исследований моделей — выпуск моделей за два месяца вместо полугода. И в других сферах: например, моделировать все электростанции и линии электропередач в США, делать регрессии и анализировать баланс спроса и предложения — теперь это реально.

Идеи — это дешево. Главное — понять, какие идеи важны и стоит инвестировать в них токены. Потому что реализация уже есть. Это главный тренд.

Если стоимость реализации продолжит снижаться — а она действительно снижается — мы еще не получили Metis, только что вышел Opus 4.7, а команда уже очень взволнована.

Что это значит для мира? Я считаю, что это изменит способ функционирования экономики.

Раньше важна была именно реализация — потому что она сложна, а идеи — дешевы. Сейчас идеи не только дешевы, но и очень доступны, а реализовать их — очень просто. Поэтому остаются только те идеи, которые достаточно хороши, чтобы оправдать затраты — даже при очень низкой стоимости реализации.

Patrick O'Shaughnessy:
Значит, ты действительно боишься? Или это просто добавляет неопределенности?

Dylan Patel:
Определенность есть, но я чувствую, что это вызывает страх. Вопрос — как общество перестроится?

Когда ты живешь в мире, где «способность реализовать» уже не так важна, что тогда важно? Важно — выбрать правильные идеи для AI, уметь их продать, и уметь реализовать. Иметь капитал для этого.

Это возвращает к вопросу: кто получит доступ к последним моделям?

У Anthropic есть проект, который я называю условно Earwig — шутливое название, потому что он как «укус в ухо» — модель Metis доступна только для некоторых компаний, например, для кибербезопасности. Думаю, такие ограничения будут только усиливаться: модели станут все более узкоспециализированными и менее доступными для широкой публики.

Примечание: Earwig — в переводе «клоп», маленькое насекомое, в китайском языке тоже используют как метафору «подслушивающего ухо». Здесь — шутливое название, намекающее на скрытность и влияние.

Я знаю, что OpenAI, Anthropic и другие компании говорят, что хотят дать всем доступ к мощным AI. Но AI очень дорог. Кто оплатит инфраструктуру на триллионы долларов? Те, у кого есть деньги и кто умеет строить полезные вещи с AI.

И ты не хочешь, чтобы кто-то дистиллировал твою модель и распространял ее широко. Поэтому ты будешь давать ее только узкому кругу клиентов. И эти клиенты начнут конкурировать за токены.

Если Anthropic резко поднимет цены — например, удвоит стоимость Opus — я все равно буду платить. Большинство пользователей тоже. Но это не решит проблему их мощностей.

И тогда возникает вопрос: когда этот цикл закончится? Когда использование токенов и создаваемая ими ценность сосредоточатся у немногих компаний?

У меня сейчас нет Metis, но у крупных банков есть. Они могут использовать его в кибербезопасности, а я могу договориться с Anthropic о более раннем доступе или более высоких лимитах. Хотел бы я, чтобы так было.

Тогда я смогу обойти конкурентов, у которых нет таких привилегий.

Или — другой сценарий. Например, Ken Griffin из Citadel может договориться с OpenAI или Anthropic: «Я покупаю 10 миллиардов долларов токенов в год, и вы сначала продаете мне все, что есть, а потом уже остальным».

Что произойдет? Он сможет доминировать на рынке.

Это — один из вариантов. Или, например, Anthropic опасается, что модели облегчат взлом систем, или я использую их для информационных сервисов, чтобы обойти конкурентов.

Эти сценарии — очень широкие. Мы не знаем, что эти модели могут делать. Anthropic, OpenAI — никто не знает. В конечном итоге, все зависит от конечных пользователей: что они смогут делать с токенами, что строить, что придумывать.

Это может значительно повысить производительность и принести пользу, но также — усилить концентрацию ресурсов и власти.

Роботы — следующая волна спроса

Patrick O'Shaughnessy:
Сейчас потребление токенов роботами — почти ничто по сравнению с другими сферами. Как ты считаешь, станет ли это второй кривой спроса? В радиусе одной мили появляются новые стартапы, создающие роботов для разных задач.

Dylan Patel:
Есть концепция — «сингулярность только в софте» (software-only singularity). То есть, сначала появится AI-сингулярность в программном обеспечении, а потом — в физическом мире.

Проблема в том, что большая часть мира — физическая. В конце концов, все будет связано с аппаратным обеспечением: роботы, микроконтроллеры, исполнительные механизмы. А это — очень сложно.

Модели AI — очень неэффективны в обучении. Они учатся за счет огромных данных, и только потому, что у них есть доступ к ним, они могут превзойти человека.

Но роботы сейчас — это VLA (Vision-Language-Action), модели, объединяющие зрение, язык и действия. Они очень популярны, но я считаю, что это не финальная точка. Их эффективность низкая, и масштабировать данные для роботов сложно.

В будущем появятся способы предобучать роботов на огромных объемах данных — как человек учится всю жизнь, видя разные ситуации. Человеческая «образцовая эффективность» — очень высокая: один-два примера — и ты уже умеешь.

Если применить это к роботам, ситуация изменится кардинально. Когда появится «сингулярность» в софте, реализовать роботов станет очень дешево, и любой сможет создавать полезных роботов.

Я думаю, что в ближайшие 6–18 месяцев мы увидим реальные прорывы в робототехнике. Главное — это few-shot learning, обучение на малом числе примеров. Тогда появится предобученная модель робота, и достаточно показать ей несколько примеров — и она выполнит задачу.

Например, скажешь: «Сложи эти вещи», — и она сделает. Или: «Поддержи баланс», — и попробует. Я сам уже много раз ронял предметы, так что знаю, о чем говорю.

Роботы с few-shot обучением — это будущее.

Сейчас есть компании, которые делают роботов для рекламы или простых задач. Но дальше — сегментация по задачам: роботы для складывания одежды, для чистки досок, аренда или модели, которые можно скачать и использовать.

В физическом мире — огромный рост спроса, и он будет приводить к дефляции. Поэтому я не считаю, что спрос на токены снизится.

Patrick O'Shaughnessy:
Что ты узнал из Metis и его построения? Есть ли новые идеи о мире? Например, о законах масштабирования — о том, как предобучение влияет на возможности моделей…

Dylan Patel:
Metis — очень большая модель, в разы больше предыдущих. В ней примерно 100 тысяч блоков Blackwell — это как десятки тысяч чипов предыдущего поколения. Конечно, есть нюансы — TPU, Triton — разные скорости, но в целом, да, Metis — это крупная модель, которая подтверждает законы масштабирования. Чем больше ресурсов — тем лучше модель.

И в процессе — не только «больше ресурсов — лучше модель». Мы также постоянно повышаем эффективность вычислений. Все исследования и разработки в лабораториях — это в конечном итоге снижение стоимости достижения определенного уровня возможностей. Сейчас, чтобы достичь уровня GPT-4, нужно в шесть раз меньше ресурсов, чем раньше. И это продолжается.

Это подтверждает, что тренд продолжается. Google, Anthropic — не самые большие пользователи GPU. OpenAI тоже скоро выпустит новую модель. Они идут по более рациональному пути — небольшими шагами. А Anthropic — сделала огромный скачок.

В этом году мы увидим все более мощные модели, и выпуск их будет ускоряться.

Patrick O'Shaughnessy:
Мы уже долго говорим, а почти не упоминали OpenAI. Это странно.

Dylan Patel:
Это самое интересное. Многие думают: «Anthropic уже победила, у них есть Metis, они не публикуют его, потому что не считают нужным». У них уже есть мощность, доход растет — и тут появляется слух о новом проекте — Spud, о котором писали СМИ.

На первый взгляд — Anthropic впереди, а OpenAI — отстает. Но у Anthropic есть ограничение по мощности — они не могут быстро расширяться. Dario раньше говорил, что OpenAI слишком агрессивна в расширении, а Anthropic — более рационально. Но сейчас, возможно, Anthropic жалеет, что не вложили больше ресурсов.

OpenAI может платить любые деньги. Они уже привлекли много финансирования, закупают мощности у Oracle, CoreWeave, SoftBank, Microsoft, и даже получили Trainium от Amazon.

Они делают очень смелые шаги, и понимают, что нужны еще больше мощностей.

Если посмотреть на Opus 4.6 — без учета дальнейшего роста моделей — то, что происходит сейчас, — распространение технологии. Ты и я, скорее всего, начнем использовать модель сразу после релиза, а другие — нет. Им нужно время, чтобы понять и освоить.

«Пробуждение Claude» — не произойдет одновременно у всех. К концу года, если весь рынок будет готов тратить 100 миллиардов долларов в год на такие модели, — это не так уж много, ведь сейчас тратится около 40 миллиардов.

Patrick O'Shaughnessy:
Это просто линейное расширение.

Dylan Patel:
Да, это линейное. Не экспоненциальное. Чтобы было экспоненциальное — нужны более мощные модели. Но у Anthropic их пока нет. Если OpenAI или Google достигнут этого уровня, то кто следующий?

Anthropic, возможно, сможет зарабатывать 70% маржи, но если OpenAI достигнет того же, даже при 50% — оно получит весь дополнительный спрос. И у них, скорее всего, не хватит мощностей, чтобы обслужить всех.

Модель вроде Metis, при достаточной вычислительной мощности всего мира, может принести сотни миллиардов долларов дохода — и это при очень высокой цене токенов.

Мы уже видели рост цен на H100, и срок службы GPU растет. Даже небольшие лаборатории смогут продавать токены — не говоря уже о крупных.

Самые мощные модели создают экономическую ценность быстрее, чем растет инфраструктура. Разрыв только увеличивается.

Модельные лаборатории — с высокой маржой, пока цепочка поставок не отреагирует. Тогда все начнут повышать цены и расширять производство.

Цепочка — от GPU до чипов, до оборудования — все растет.

Недостаток мощностей распространяется по всей цепочке — от памяти до оборудования.

Если бы у TSMC было 1000 миллиардов долларов инвестиций, — что бы произошло?

Это — «эффект хлыста»: спрос на модели вызывает рост цен и расширение производства во всей цепочке.

Если TSMC вложит 1000 миллиардов долларов в 2028 году, — это реально. И многие это считают безумным, но это может случиться.

Patrick O'Shaughnessy:
А что с остальными частями экосистемы? GPU — доминирует, но что насчет CPU, ASIC?

Dylan Patel:
ASIC — очень активно развивается. Но я хочу сказать о другом. Мы делали проект по FPGA — и выяснили, что в каждом новом AI-стеке нужно около 120 FPGA. Что это значит для FPGA-компаний?

CPU — тоже важны. Все эти среды обучения — и ваш, и мой — работают на CPU. Сейчас CPU тоже очень востребованы, и спрос растет.

Patrick O'Shaughnessy:
Объясни, какую роль играет CPU в системе?

Dylan Patel:
Два основных момента.

Первое — обучение с подкреплением. Там CPU очень важны.

Раньше — собирали данные из интернета, обучали модель,