Які найбільші обмеження стримують розвиток ШІ? Ще кілька років тому відповідь могла бути іншою. Але зараз, коли великі моделі переважають, є лише одна відповідь на це запитання — недостатньо обчислювальної потужності!
Або, іншими словами, виділених обчислювальних мікросхем зі штучним інтелектом Nvidia недостатньо.
Той, хто контролює чіпи Nvidia AI, контролює майбутнє AI.
Зараз є така компанія, яка має в руках десятки тисяч «обчислювальних карт» Nvidia зі штучним інтелектом, а серед її клієнтів багато гігантів штучного інтелекту, таких як OpenAI і Microsoft.
Як «обчислювальна потужність штучного інтелекту», компанія під назвою CoreWeave оцінила компанію у 8 мільярдів доларів США за 4 роки. Окрім отримання ексклюзивних інвестицій від NVIDIA, CoreWeave також використовувала свої чіпи NVIDIA як заставу для отримання 2,3 мільярда доларів США боргового фінансування від провідних установ, таких як Blackstone і Coatue.
Ніщо не може зупинити божевільну експансію CoreWeave. Як їй вдалося NVIDIA та перетворитися з компанії, що займається майнінгом криптовалют, на гіганта «обчислювальної інфраструктури» ШІ?
01 Від «Картки майнінгу» до «Картки підрахунку»
Команда засновників CoreWeave складається з трьох осіб, а саме Майкла Інтратора, Браяна Вентуро та Браніна Макбі. Троє спочатку працювали у фінансовій сфері та керували хедж-фондами та сімейними офісами.
Коли вони ще керували фондом у Нью-Йорку, захоплення майнінгом криптовалюти не вщухало. Спочатку вони купили перший GPU, щоб отримати додатковий дохід, а потім почали купувати все більше. Столи на Уолл-стріт були повні GPU. .
«У 2016 році ми купили наш перший графічний процесор, підключили його, поставили на більярдний стіл у нашому офісі в нижньому Манхеттені з видом на Іст-Рівер і видобули перший блок у мережі Ethereum», — згадував генеральний директор CoreWeave Майкл Інтратор у блозі 2021 року. пост.
Незабаром, у 2017 році, вони офіційно перетворили свій побічний бізнес на компанію, назва компанії спочатку була пов’язана з криптовалютою, а пізніше змінила назву на CoreWeave. Коли вони вирішили попрощатися з Уолл-стріт, так само як магнати Кремнієвої долини починають бізнес у своєму гаражі, вони перемістили обладнання графічного процесора в гараж, але цей гараж був не в Кремнієвій долині на Західному узбережжі, а в передмісті Нью-Джерсі на східному узбережжі. Належав одному із засновників. Дідові людини.
Три співзасновники CoreWeave Майкл Інтратор (ліворуч), Браян Вентуро (посередині) і Бранін Макбі (праворуч) | CoreWeave
В останнє десятиліття графічний процесор був важливою рушійною силою буму криптовалют і технологій штучного інтелекту. Наприкінці 2018 року CoreWeave став одним із найбільших майнерів Ethereum у Північній Америці, маючи понад 50 000 GPU, що становить понад 1% мережі Ethereum.
Протягом цього періоду кілька людей також почали розуміти бажання інших компаній отримати ресурси GPU. Вони також усвідомлюють, що довготривалої конкурентної переваги у сфері криптовалюти немає, оскільки ринок є висококонкурентним і на нього сильно впливають ціни на електроенергію.
Коли ціни на криптовалюту різко впали в 2018 і 2019 роках, вони вирішили диверсифікуватися в інші сфери, які були більш стабільними, але також інтенсивно використовували GPU. Вони зосереджені на трьох основних сферах: штучному інтелекті, медіа-розвагах і науках про життя**, а з 2019 року вони зосередилися на придбанні чіпсетів GPU корпоративного рівня, розбудові спеціальної хмарної інфраструктури та адаптації свого бізнесу до чіпів Nvidia**.
У міру розвитку нового бізнесу майнінговий бізнес Ethereum поступово маргіналізується. Рішення про трансформацію виявилося правильним і вдалим.Жоден із засновників не очікував майбутньої хвилі штучного інтелекту, що дозволило CoreWeave поступово розширитися від невеликого офісу до центрів обробки даних по всій країні, щоб впоратися з постійно зростаючим попитом на ринку штучного інтелекту.
За словами одного із засновників, дохід CoreWeave становитиме приблизно 30 мільйонів доларів США у 2022 році та, як очікується, перевищить 500 мільйонів доларів США у 2023 році, збільшившись більш ніж у 10 разів, і компанія підписала контракти на суму майже 2 мільярди доларів США. . Цього року було оголошено про інвестиції в 1,6 мільярда доларів США в центри обробки даних у Техасі та плани розширення до 14 центрів обробки даних до кінця року.
02 AI "Power Grid"
Всього через кілька років після заснування CoreWeave графічні процесори, які використовуються для штучного інтелекту, стали одним із найцінніших активів у світі.Як жартують Ілон Маск та інші, тепер купити графічний процесор важче, ніж ліки. Оскільки генеративний штучний інтелект розпалює ринок, попит на графічні процесори різко зростає, і CoreWeave має хороші можливості для надання компаніям ШІ необхідних ресурсів.
Як постачальник хмарних послуг, CoreWeave надає послуги з оренди високопродуктивних обчислювальних ресурсів, головним чином для клієнтів, яким потрібна велика обчислювальна потужність. Найкращою моделлю є інфраструктура як послуга, а графічні процесори орендуються погодинно. Клієнтам потрібно лише використовувати час і кількість обчислювальних ресурсів. Щоб сплатити комісію**, великі клієнти також мають засоби налаштування. Банер «у 35 разів швидше, ніж традиційні хмарні постачальники, на 80% нижча вартість і на 50% менша затримка». Компанія зосереджена на високопродуктивних обчислювальних послугах, на відміну від звичайних постачальників хмарних послуг, які також надають сховище, мережеві та інші послуги.
Минулого року, коли були випущені Stable Diffusion і Midjourney, керівники CoreWeave купили багато останніх чіпів Nvidia. Пізніше, коли вони побачили випуск ChatGPT, вони зрозуміли, що таких інвестицій далеко недостатньо.Цим людям потрібні були не просто тисячі GPU, а мільйони.
Вони описують те, що CoreWeave хоче зробити, як «побудову мережі живлення для ринку AI» і вважають, що «якщо ці речі не будуть створені, то AI не зможе масштабуватися».
CoreWeave будує новий центр обробки даних у Техасі | CoreWeave
Бреннін МакБі, головний стратегічний директор CoreWeave, сказав у подкасті, що наприкінці минулого року всі компанії, що займаються гіпермасштабованим обчисленням, разом узяті**, включаючи Amazon, Google, Microsoft, Oracle, включаючи CoreWeave, загалом надали близько 50 10 000 GPU. **, а до кінця цього року, можливо, близько 1 млн.
З точки зору темпів зростання галузі та прибутку, він вважає, що попит на ринку штучного інтелекту можна розділити на два етапи: навчальні моделі та виконання завдань логічного висновку.На даний момент існує дефіцит мікросхем на етапі навчання,** і етап висновку буде основним збільшенням майбутнього попиту. Точка полягає в тому, де лежить реальний попит**.
Для моделі компанії штучного інтелекту, після виходу зі стадії навчання, виконання висновків на стадії комерціалізації протягом перших двох років після запуску продукту вимагає принаймні одного мільйона графічних процесорів, але глобальної інфраструктури штучного інтелекту недостатньо для задоволення цього попиту. бути довгостроковим викликом, і знадобиться ще принаймні два роки, перш ніж дефіцит графічних процесорів, ймовірно, почне зменшуватися.
Сьогодні більша частина гарячих грошей, що надходять у сферу ШІ, йде на хмарні обчислення. У червні цього року CNBC повідомила, що Microsoft «погодилася витратити потенційно мільярди доларів на інфраструктуру хмарних обчислень стартапу CoreWeave протягом наступних багатьох років». Стартапи зі штучним інтелектом, такі як Inflection AI, нещодавно залучили 1,3 мільярда доларів США для створення великомасштабних кластерів GPU, і компанія вибрала CoreWeave.
03 Обійми Nvidia за стегна
У квітні цього року CoreWeave завершила раунд фінансування серії B на 221 мільйон доларів США. Серед інвесторів — виробник мікросхем Nvidia, колишній генеральний директор GitHub Нат Фрідман і колишній керівник Apple Деніел Гросс. Через місяць компанія оголосила, що отримала додаткові інвестиції в розмірі 200 мільйонів доларів США, в результаті чого загальний раунд фінансування склав 421 мільйон доларів США.
У серпні CoreWeave отримала ще 2,3 мільярда доларів боргового фінансування, використовуючи в якості застави дуже затребувану NVIDIA H100. Кошти будуть використані для придбання нових мікросхем і будівництва нових центрів обробки даних.
Згідно з останніми новинами Bloomberg, CoreWeave зараз готується продати 10% своїх акцій, а оцінка її компанії досягла максимуму в 8 мільярдів доларів.
Засновник Nvidia Хуан Реньсюнь сказав під час телефонної конференції компанії цього року: «Ви побачите велику кількість нових постачальників хмарних послуг, які спеціалізуються на GPU». «Одним із відомих є CoreWeave, і вони зробили дуже хорошу роботу».
Відносини CoreWeave з Nvidia вже почалися в 2020 році, коли компанія оголосила, що приєднається до програми постачальників хмарних послуг Nvidia Partner Network, головною метою якої є прискорення графічного процесора в хмарі. Не так давно на конференції Siggraph Computer Graphics Conference 2023 з’явився Хуан Реньсюнь, і кожен стенд CoreWeave був спеціально позначений дрібним шрифтом «на базі NVIDIA».
Jen-Hsun Huang з'явився на стенді CoreWeave | CoreWeave
Включно з Хуан Реньсюнем керівники Nvidia без вагань підтримали CoreWeave.
Глобальний директор NVIDIA з розвитку глобального бізнесу, хмарних технологій і стратегічних партнерів називає CoreWeave «першим елітним постачальником хмарних обчислювальних рішень у партнерській мережі NVIDIA. Вони пропонують клієнтам широкий спектр обчислювальних можливостей, від A100 до A40, на безпрецедентному рівні». , а також забезпечує результати світового рівня у сфері штучного інтелекту, машинного навчання, візуальних ефектів тощо. NVIDIA пишається CoreWeave". Інший керівник NVIDIA позиціонує його в оголошенні про фінансування як "найвищу продуктивність, найбільш енергоефективне обчислювальна платформа».
Така похвала також пов'язана з власними інтересами Nvidia. Nvidia має гарантувати, що їхні кінцеві користувачі обчислювальних машин можуть отримати доступ до їхніх обчислювальних ресурсів у масштабі з найвищою продуктивністю, так само як клієнти хочуть отримати їх, як тільки будуть випущені нові покоління мікросхем. Це також змушує їх без вагань просувати свою співпрацю з CoreWeave, і немає ніякої шкоди в розвитку лояльної «нижньої лінії»**.
CoreWeave будується відповідно до стандартів і вимог Nvidia, працює в масштабах і запускає нове покоління чіпів протягом декількох місяців після їх випуску, а не через квартали, які можуть зайняти традиційні гіпермасштабовані обчислювальні компанії. Це забезпечує високий доступ CoreWeave до Nvidia.
«Як компанії, це дає нам довіру в очах NVIDIA, оскільки вони знають, що наша інфраструктура буде доставлена клієнтам швидше, ніж будь-хто інший на ринку, і в конфігураціях з найвищою продуктивністю», — сказав Бреннін Макбі.
04 Хардкорні гіганти Кремнієвої долини
Однак як CoreWeave впорається з конкуренцією з боку гігантів Кремнієвої долини?
З точки зору всієї галузі, конкурентами CoreWeave в інфраструктурі AI є такі технологічні гіганти, як Microsoft, Google і Amazon.
Наприкінці серпня генеральний директор Google Cloud Томас Куріан заявив на щорічній конференції Next, що наразі більше 50% стартапів зі штучним інтелектом у галузі та понад 70% генеративних єдинорогів зі штучним інтелектом є клієнтами Google Cloud.
Як нова компанія з оцінкою в 8 мільярдів доларів США може уникнути розгрому купою гігантів з трильйонами доларів США? Поточна відповідь полягає в гнучкості та бізнес-орієнтованості самих малих компаній, а також у чутливому стратегічному ландшафті технологічних компаній.
Керівники CoreWeave люблять проводити аналогію: «Дженерал Моторс може будувати електромобілі, але це не означає, що вона стане Tesla.» Вони вважають, що ШІ створює виклики, з якими не можуть впоратися традиційні хмарні платформи, дозволяючи розвиватися. визнані гравці змушені адаптуватися.
Такі гіганти Кремнієвої долини, як Amazon, Google і Microsoft, схожі на авіаносці, що потребують більше часу та простору щоразу, коли вони змінюють напрямок. На його думку, їм потрібен час, щоб адаптуватися до нового способу побудови інфраструктури штучного інтелекту, і зазвичай це займає деякий час після випуску останнього чіпа, щоб забезпечити широкомасштабний доступ. Зараз люди приділяють більше уваги створенню суперкомп’ютерів, що вимагає високої взаємодії між цими комп’ютерами та більшої пропускної здатності даних, але основні ресурси гігантів тут не використовуються.
«Коли ці три гіганти створювали свої хмарні служби, вони обслуговували сотні тисяч, якщо не мільйони, своїх так званих варіантів використання загального призначення у своїй базі користувачів, де могла бути лише невелика частка потужності для GPU. обчислення», — сказав Браян Вентуро, головний технічний директор CoreWeave.
CoreWeave вважає, що його гнучкість і професіоналізм дозволяють йому виділятися в області інфраструктури штучного інтелекту, мати конкурентні переваги в продуктивності та економічній ефективності, а також більше підходить для додатків ШІ. CoreWeave має трохи більше 200 співробітників і більше клієнтів, ніж співробітників, але вона уклала угоди з Inflection AI і навіть із спонсором OpenAI Microsoft, щоб надати спеціальні системи та мікросхеми з більшою кількістю конфігурацій, ніж обладнано для обчислень загального призначення. Сервери ефективніші**.
На даний момент з точки зору масштабу, CoreWeave стверджує, що має понад 45 000 високоякісних графічних процесорів Nvidia, доступних на вимогу. Важлива не лише кількість, а й наданий доступ. Що стосується вибору, CoreWeave стверджує, що підтримує найширший вибір графічних процесорів Nvidia в галузі для задоволення різноманітних обчислювальних потреб. Вони розробляють системи робочого навантаження «правильного розміру», стверджуючи, що «ні занадто багато, ні занадто мало: якраз».
Щодо ціни, то банер CoreWeave «на 80% дешевший за конкурентів».
З іншого боку, рішення Nvidia за цим також є критичним. Контролюючи дефіцитні ресурси GPU, вибір того, хто забирати товари, також вплине на весь ринок. Незважаючи на обмежену пропозицію, Nvidia виділила CoreWeave велику партію новітніх чіпів AI, відволікаючи поставки від провідних постачальників хмарних послуг, включаючи AWS. Причина в тому, що ці компанії намагаються розробити власні чіпи ШІ, щоб зменшити свою залежність від Nvidia.
Керівники CoreWeave вважають, що «невиробництво власних мікросхем точно не є недоліком», оскільки це допомагає їм боротися за отримання більшої кількості графічних процесорів від Nvidia. Зрештою, у них немає конфлікту інтересів із Nvidia, чого, можливо, не можна сказати про гігантів Кремнієвої долини з величезними апетитами.
Однак технологічний гігант все ще є великим клієнтом Nvidia. Наприкінці серпня цього року Хуан Реньсюнь виступив на щорічній конференції Google Cloud Next і оголосив про нову співпрацю з Google.Суперкомп’ютер A3 VM від Google з графічним процесором буде випущений на ринок у вересні, оснащений графічним процесором Nvidia H100.
На конференції Google Cloud Next2023 Хуан Реньсюнь оголосив про співпрацю з Google Cloud｜Google Cloud
Крім того, якщо раптом з’явиться новий чіп, який може працювати краще, ніж NVIDIA, або не поступатися їй, який вплив це матиме на бізнес CoreWeave?
Браннін Макбі вважає, що термін служби одного чіпа включає перші два-три роки для навчання моделі, а потім чотири-п’ять років для виконання висновків, і в короткостроковій перспективі немає великого ризику. Крім того, Nvidia наполегливо працює над створенням відкритої екосистеми навколо свого апаратного забезпечення, щоб збільшити прихильність галузі до своїх технологій чіпів Інші виробники, очевидно, дуже мотивовані вийти на цю сферу, але їм бракує екосистеми, що є прогалиною, яку не можна ігнорувати.
За відсутності жорстких технологій виробництва чіпів відносна перевага та успіх CoreWeave міцно пов’язані з ланцюгом поставок і стабільністю її партнерів.Коли в галузі бракує графічних процесорів, ця залежність все одно є перевагою.
Від «рудника» криптовалюти до «рудника обчислювальної потужності» з використанням штучного інтелекту, історія успіху CoreWeave приголомшлива – золота крупинка того часу може змусити стартап-компанію швидко піднятися, навіть якщо вона впаде. У цю епоху швидкого зростання штучного інтелекту прагнення індустрії до обчислювальної потужності створило трильйонну компанію Nvidia, і, очевидно, вона також створила такі компанії, як CoreWeave, які можуть скористатися нагодою і піти ва-банк.
Переглянути оригінал
Контент має виключно довідковий характер і не є запрошенням до участі або пропозицією. Інвестиційні, податкові чи юридичні консультації не надаються. Перегляньте Відмову від відповідальності , щоб дізнатися більше про ризики.
Підтримує Nvidia, цей «скальпер обчислювальної потужності ШІ» оцінений за 4 роки в 56 мільярдів
Які найбільші обмеження стримують розвиток ШІ? Ще кілька років тому відповідь могла бути іншою. Але зараз, коли великі моделі переважають, є лише одна відповідь на це запитання — недостатньо обчислювальної потужності!
Або, іншими словами, виділених обчислювальних мікросхем зі штучним інтелектом Nvidia недостатньо.
Той, хто контролює чіпи Nvidia AI, контролює майбутнє AI.
Зараз є така компанія, яка має в руках десятки тисяч «обчислювальних карт» Nvidia зі штучним інтелектом, а серед її клієнтів багато гігантів штучного інтелекту, таких як OpenAI і Microsoft.
Як «обчислювальна потужність штучного інтелекту», компанія під назвою CoreWeave оцінила компанію у 8 мільярдів доларів США за 4 роки. Окрім отримання ексклюзивних інвестицій від NVIDIA, CoreWeave також використовувала свої чіпи NVIDIA як заставу для отримання 2,3 мільярда доларів США боргового фінансування від провідних установ, таких як Blackstone і Coatue.
Ніщо не може зупинити божевільну експансію CoreWeave. Як їй вдалося NVIDIA та перетворитися з компанії, що займається майнінгом криптовалют, на гіганта «обчислювальної інфраструктури» ШІ?
01 Від «Картки майнінгу» до «Картки підрахунку»
Команда засновників CoreWeave складається з трьох осіб, а саме Майкла Інтратора, Браяна Вентуро та Браніна Макбі. Троє спочатку працювали у фінансовій сфері та керували хедж-фондами та сімейними офісами.
Коли вони ще керували фондом у Нью-Йорку, захоплення майнінгом криптовалюти не вщухало. Спочатку вони купили перший GPU, щоб отримати додатковий дохід, а потім почали купувати все більше. Столи на Уолл-стріт були повні GPU. .
«У 2016 році ми купили наш перший графічний процесор, підключили його, поставили на більярдний стіл у нашому офісі в нижньому Манхеттені з видом на Іст-Рівер і видобули перший блок у мережі Ethereum», — згадував генеральний директор CoreWeave Майкл Інтратор у блозі 2021 року. пост.
Незабаром, у 2017 році, вони офіційно перетворили свій побічний бізнес на компанію, назва компанії спочатку була пов’язана з криптовалютою, а пізніше змінила назву на CoreWeave. Коли вони вирішили попрощатися з Уолл-стріт, так само як магнати Кремнієвої долини починають бізнес у своєму гаражі, вони перемістили обладнання графічного процесора в гараж, але цей гараж був не в Кремнієвій долині на Західному узбережжі, а в передмісті Нью-Джерсі на східному узбережжі. Належав одному із засновників. Дідові людини.
В останнє десятиліття графічний процесор був важливою рушійною силою буму криптовалют і технологій штучного інтелекту. Наприкінці 2018 року CoreWeave став одним із найбільших майнерів Ethereum у Північній Америці, маючи понад 50 000 GPU, що становить понад 1% мережі Ethereum.
Протягом цього періоду кілька людей також почали розуміти бажання інших компаній отримати ресурси GPU. Вони також усвідомлюють, що довготривалої конкурентної переваги у сфері криптовалюти немає, оскільки ринок є висококонкурентним і на нього сильно впливають ціни на електроенергію.
Коли ціни на криптовалюту різко впали в 2018 і 2019 роках, вони вирішили диверсифікуватися в інші сфери, які були більш стабільними, але також інтенсивно використовували GPU. Вони зосереджені на трьох основних сферах: штучному інтелекті, медіа-розвагах і науках про життя**, а з 2019 року вони зосередилися на придбанні чіпсетів GPU корпоративного рівня, розбудові спеціальної хмарної інфраструктури та адаптації свого бізнесу до чіпів Nvidia**.
У міру розвитку нового бізнесу майнінговий бізнес Ethereum поступово маргіналізується. Рішення про трансформацію виявилося правильним і вдалим.Жоден із засновників не очікував майбутньої хвилі штучного інтелекту, що дозволило CoreWeave поступово розширитися від невеликого офісу до центрів обробки даних по всій країні, щоб впоратися з постійно зростаючим попитом на ринку штучного інтелекту.
За словами одного із засновників, дохід CoreWeave становитиме приблизно 30 мільйонів доларів США у 2022 році та, як очікується, перевищить 500 мільйонів доларів США у 2023 році, збільшившись більш ніж у 10 разів, і компанія підписала контракти на суму майже 2 мільярди доларів США. . Цього року було оголошено про інвестиції в 1,6 мільярда доларів США в центри обробки даних у Техасі та плани розширення до 14 центрів обробки даних до кінця року.
02 AI "Power Grid"
Всього через кілька років після заснування CoreWeave графічні процесори, які використовуються для штучного інтелекту, стали одним із найцінніших активів у світі.Як жартують Ілон Маск та інші, тепер купити графічний процесор важче, ніж ліки. Оскільки генеративний штучний інтелект розпалює ринок, попит на графічні процесори різко зростає, і CoreWeave має хороші можливості для надання компаніям ШІ необхідних ресурсів.
Як постачальник хмарних послуг, CoreWeave надає послуги з оренди високопродуктивних обчислювальних ресурсів, головним чином для клієнтів, яким потрібна велика обчислювальна потужність. Найкращою моделлю є інфраструктура як послуга, а графічні процесори орендуються погодинно. Клієнтам потрібно лише використовувати час і кількість обчислювальних ресурсів. Щоб сплатити комісію**, великі клієнти також мають засоби налаштування. Банер «у 35 разів швидше, ніж традиційні хмарні постачальники, на 80% нижча вартість і на 50% менша затримка». Компанія зосереджена на високопродуктивних обчислювальних послугах, на відміну від звичайних постачальників хмарних послуг, які також надають сховище, мережеві та інші послуги.
Минулого року, коли були випущені Stable Diffusion і Midjourney, керівники CoreWeave купили багато останніх чіпів Nvidia. Пізніше, коли вони побачили випуск ChatGPT, вони зрозуміли, що таких інвестицій далеко недостатньо.Цим людям потрібні були не просто тисячі GPU, а мільйони.
Вони описують те, що CoreWeave хоче зробити, як «побудову мережі живлення для ринку AI» і вважають, що «якщо ці речі не будуть створені, то AI не зможе масштабуватися».
Бреннін МакБі, головний стратегічний директор CoreWeave, сказав у подкасті, що наприкінці минулого року всі компанії, що займаються гіпермасштабованим обчисленням, разом узяті**, включаючи Amazon, Google, Microsoft, Oracle, включаючи CoreWeave, загалом надали близько 50 10 000 GPU. **, а до кінця цього року, можливо, близько 1 млн.
З точки зору темпів зростання галузі та прибутку, він вважає, що попит на ринку штучного інтелекту можна розділити на два етапи: навчальні моделі та виконання завдань логічного висновку.На даний момент існує дефіцит мікросхем на етапі навчання,** і етап висновку буде основним збільшенням майбутнього попиту. Точка полягає в тому, де лежить реальний попит**.
Для моделі компанії штучного інтелекту, після виходу зі стадії навчання, виконання висновків на стадії комерціалізації протягом перших двох років після запуску продукту вимагає принаймні одного мільйона графічних процесорів, але глобальної інфраструктури штучного інтелекту недостатньо для задоволення цього попиту. бути довгостроковим викликом, і знадобиться ще принаймні два роки, перш ніж дефіцит графічних процесорів, ймовірно, почне зменшуватися.
Сьогодні більша частина гарячих грошей, що надходять у сферу ШІ, йде на хмарні обчислення. У червні цього року CNBC повідомила, що Microsoft «погодилася витратити потенційно мільярди доларів на інфраструктуру хмарних обчислень стартапу CoreWeave протягом наступних багатьох років». Стартапи зі штучним інтелектом, такі як Inflection AI, нещодавно залучили 1,3 мільярда доларів США для створення великомасштабних кластерів GPU, і компанія вибрала CoreWeave.
03 Обійми Nvidia за стегна
У квітні цього року CoreWeave завершила раунд фінансування серії B на 221 мільйон доларів США. Серед інвесторів — виробник мікросхем Nvidia, колишній генеральний директор GitHub Нат Фрідман і колишній керівник Apple Деніел Гросс. Через місяць компанія оголосила, що отримала додаткові інвестиції в розмірі 200 мільйонів доларів США, в результаті чого загальний раунд фінансування склав 421 мільйон доларів США.
У серпні CoreWeave отримала ще 2,3 мільярда доларів боргового фінансування, використовуючи в якості застави дуже затребувану NVIDIA H100. Кошти будуть використані для придбання нових мікросхем і будівництва нових центрів обробки даних.
Згідно з останніми новинами Bloomberg, CoreWeave зараз готується продати 10% своїх акцій, а оцінка її компанії досягла максимуму в 8 мільярдів доларів.
Засновник Nvidia Хуан Реньсюнь сказав під час телефонної конференції компанії цього року: «Ви побачите велику кількість нових постачальників хмарних послуг, які спеціалізуються на GPU». «Одним із відомих є CoreWeave, і вони зробили дуже хорошу роботу».
Відносини CoreWeave з Nvidia вже почалися в 2020 році, коли компанія оголосила, що приєднається до програми постачальників хмарних послуг Nvidia Partner Network, головною метою якої є прискорення графічного процесора в хмарі. Не так давно на конференції Siggraph Computer Graphics Conference 2023 з’явився Хуан Реньсюнь, і кожен стенд CoreWeave був спеціально позначений дрібним шрифтом «на базі NVIDIA».
Включно з Хуан Реньсюнем керівники Nvidia без вагань підтримали CoreWeave.
Глобальний директор NVIDIA з розвитку глобального бізнесу, хмарних технологій і стратегічних партнерів називає CoreWeave «першим елітним постачальником хмарних обчислювальних рішень у партнерській мережі NVIDIA. Вони пропонують клієнтам широкий спектр обчислювальних можливостей, від A100 до A40, на безпрецедентному рівні». , а також забезпечує результати світового рівня у сфері штучного інтелекту, машинного навчання, візуальних ефектів тощо. NVIDIA пишається CoreWeave". Інший керівник NVIDIA позиціонує його в оголошенні про фінансування як "найвищу продуктивність, найбільш енергоефективне обчислювальна платформа».
Така похвала також пов'язана з власними інтересами Nvidia. Nvidia має гарантувати, що їхні кінцеві користувачі обчислювальних машин можуть отримати доступ до їхніх обчислювальних ресурсів у масштабі з найвищою продуктивністю, так само як клієнти хочуть отримати їх, як тільки будуть випущені нові покоління мікросхем. Це також змушує їх без вагань просувати свою співпрацю з CoreWeave, і немає ніякої шкоди в розвитку лояльної «нижньої лінії»**.
CoreWeave будується відповідно до стандартів і вимог Nvidia, працює в масштабах і запускає нове покоління чіпів протягом декількох місяців після їх випуску, а не через квартали, які можуть зайняти традиційні гіпермасштабовані обчислювальні компанії. Це забезпечує високий доступ CoreWeave до Nvidia.
«Як компанії, це дає нам довіру в очах NVIDIA, оскільки вони знають, що наша інфраструктура буде доставлена клієнтам швидше, ніж будь-хто інший на ринку, і в конфігураціях з найвищою продуктивністю», — сказав Бреннін Макбі.
04 Хардкорні гіганти Кремнієвої долини
Однак як CoreWeave впорається з конкуренцією з боку гігантів Кремнієвої долини?
З точки зору всієї галузі, конкурентами CoreWeave в інфраструктурі AI є такі технологічні гіганти, як Microsoft, Google і Amazon.
Наприкінці серпня генеральний директор Google Cloud Томас Куріан заявив на щорічній конференції Next, що наразі більше 50% стартапів зі штучним інтелектом у галузі та понад 70% генеративних єдинорогів зі штучним інтелектом є клієнтами Google Cloud.
Як нова компанія з оцінкою в 8 мільярдів доларів США може уникнути розгрому купою гігантів з трильйонами доларів США? Поточна відповідь полягає в гнучкості та бізнес-орієнтованості самих малих компаній, а також у чутливому стратегічному ландшафті технологічних компаній.
Керівники CoreWeave люблять проводити аналогію: «Дженерал Моторс може будувати електромобілі, але це не означає, що вона стане Tesla.» Вони вважають, що ШІ створює виклики, з якими не можуть впоратися традиційні хмарні платформи, дозволяючи розвиватися. визнані гравці змушені адаптуватися.
Такі гіганти Кремнієвої долини, як Amazon, Google і Microsoft, схожі на авіаносці, що потребують більше часу та простору щоразу, коли вони змінюють напрямок. На його думку, їм потрібен час, щоб адаптуватися до нового способу побудови інфраструктури штучного інтелекту, і зазвичай це займає деякий час після випуску останнього чіпа, щоб забезпечити широкомасштабний доступ. Зараз люди приділяють більше уваги створенню суперкомп’ютерів, що вимагає високої взаємодії між цими комп’ютерами та більшої пропускної здатності даних, але основні ресурси гігантів тут не використовуються.
«Коли ці три гіганти створювали свої хмарні служби, вони обслуговували сотні тисяч, якщо не мільйони, своїх так званих варіантів використання загального призначення у своїй базі користувачів, де могла бути лише невелика частка потужності для GPU. обчислення», — сказав Браян Вентуро, головний технічний директор CoreWeave.
CoreWeave вважає, що його гнучкість і професіоналізм дозволяють йому виділятися в області інфраструктури штучного інтелекту, мати конкурентні переваги в продуктивності та економічній ефективності, а також більше підходить для додатків ШІ. CoreWeave має трохи більше 200 співробітників і більше клієнтів, ніж співробітників, але вона уклала угоди з Inflection AI і навіть із спонсором OpenAI Microsoft, щоб надати спеціальні системи та мікросхеми з більшою кількістю конфігурацій, ніж обладнано для обчислень загального призначення. Сервери ефективніші**.
На даний момент з точки зору масштабу, CoreWeave стверджує, що має понад 45 000 високоякісних графічних процесорів Nvidia, доступних на вимогу. Важлива не лише кількість, а й наданий доступ. Що стосується вибору, CoreWeave стверджує, що підтримує найширший вибір графічних процесорів Nvidia в галузі для задоволення різноманітних обчислювальних потреб. Вони розробляють системи робочого навантаження «правильного розміру», стверджуючи, що «ні занадто багато, ні занадто мало: якраз».
Щодо ціни, то банер CoreWeave «на 80% дешевший за конкурентів».
З іншого боку, рішення Nvidia за цим також є критичним. Контролюючи дефіцитні ресурси GPU, вибір того, хто забирати товари, також вплине на весь ринок. Незважаючи на обмежену пропозицію, Nvidia виділила CoreWeave велику партію новітніх чіпів AI, відволікаючи поставки від провідних постачальників хмарних послуг, включаючи AWS. Причина в тому, що ці компанії намагаються розробити власні чіпи ШІ, щоб зменшити свою залежність від Nvidia.
Керівники CoreWeave вважають, що «невиробництво власних мікросхем точно не є недоліком», оскільки це допомагає їм боротися за отримання більшої кількості графічних процесорів від Nvidia. Зрештою, у них немає конфлікту інтересів із Nvidia, чого, можливо, не можна сказати про гігантів Кремнієвої долини з величезними апетитами.
Однак технологічний гігант все ще є великим клієнтом Nvidia. Наприкінці серпня цього року Хуан Реньсюнь виступив на щорічній конференції Google Cloud Next і оголосив про нову співпрацю з Google.Суперкомп’ютер A3 VM від Google з графічним процесором буде випущений на ринок у вересні, оснащений графічним процесором Nvidia H100.
Крім того, якщо раптом з’явиться новий чіп, який може працювати краще, ніж NVIDIA, або не поступатися їй, який вплив це матиме на бізнес CoreWeave?
Браннін Макбі вважає, що термін служби одного чіпа включає перші два-три роки для навчання моделі, а потім чотири-п’ять років для виконання висновків, і в короткостроковій перспективі немає великого ризику. Крім того, Nvidia наполегливо працює над створенням відкритої екосистеми навколо свого апаратного забезпечення, щоб збільшити прихильність галузі до своїх технологій чіпів Інші виробники, очевидно, дуже мотивовані вийти на цю сферу, але їм бракує екосистеми, що є прогалиною, яку не можна ігнорувати.
За відсутності жорстких технологій виробництва чіпів відносна перевага та успіх CoreWeave міцно пов’язані з ланцюгом поставок і стабільністю її партнерів.Коли в галузі бракує графічних процесорів, ця залежність все одно є перевагою.
Від «рудника» криптовалюти до «рудника обчислювальної потужності» з використанням штучного інтелекту, історія успіху CoreWeave приголомшлива – золота крупинка того часу може змусити стартап-компанію швидко піднятися, навіть якщо вона впаде. У цю епоху швидкого зростання штучного інтелекту прагнення індустрії до обчислювальної потужності створило трильйонну компанію Nvidia, і, очевидно, вона також створила такі компанії, як CoreWeave, які можуть скористатися нагодою і піти ва-банк.