Недостаток GPU повторяется: такие облачные провайдеры, как Microsoft, сокращают поставки, а стартапы в области ИИ платят на 32% больше за аренду чипов и вынуждены ждать до конца года

Согласно мониторингу Beating, несколько стартапов в области искусственного интеллекта сообщили, что облачные провайдеры, такие как Microsoft и Amazon, концентрируют GPU-вычислительные мощности внутри своих команд и крупных клиентов (OpenAI, Anthropic), в то время как малые и средние клиенты сталкиваются с ростом цен, длительным ожиданием и более строгими условиями контрактов. Руководство по продажам Microsoft Azure недавно уведомило сотрудников, что ожидание GPU для облачных клиентов, вероятно, продлится до конца 2026 года.

Конкретный пример: стартап по генерации изображений Krea (финансирование $8300 миллионов долларов, инвесторы включают Andreessen и Bain Capital Ventures) полгода назад арендовал несколько сотен чипов Blackwell по цене $2.80 за карту в час, заключив контракт на 6 месяцев. При продлении многие облачные провайдеры не отвечали на звонки, в итоге цена выросла до $3.70/час, рост на 32%, а срок контракта был увеличен до 1 года. Генеральный директор Виктор Перес заявил, что некоторые провайдеры вообще не отвечают, а другие требуют заключения долгосрочного контракта на три года, чтобы начать переговоры. Генеральный директор Lightning AI, поставщика GPU-облачных услуг, Уилл Фалкон, сообщил, что у компании есть 40 000 GPU в онлайн-режиме, а общий спрос примерно 40 клиентских очередей, ожидающих доступа, и за полгода цена аренды выросла более чем на 25%.

Microsoft внедряет многоуровневое управление доступом к GPU: примерно 1000 крупнейших клиентов (Tier 1) получают приоритетное распределение; малым клиентам, желающим арендовать чипы Blackwell, необходимо обещать аренду не менее 1000 штук на срок не менее одного года, а контракт начинается с нескольких десятков миллионов долларов. Клиенты, платящие по мере использования (pay-as-you-go), если оставляют GPU без дела на несколько часов, могут потерять доступ. Стартапы, участвующие в бесплатной программе «Microsoft for Startups», также были уведомлены, что при недостаточном использовании их права на GPU могут быть отозваны.

Партнер General Catalyst Хемант Танея опросил компании-получатели инвестиций о проблемах с вычислительными мощностями; организация планирует создать совместный пул вычислительных ресурсов или коллективно договариваться о ценах через посреднические компании. Некоторые стартапы начинают рассматривать возможность самостоятельной покупки GPU: нефтяной стартап Collide по искусственному интеллекту планирует потратить около $50 миллионов долларов на покупку GPU Nvidia, арендовать дата-центры и самостоятельно запускать их, чтобы избежать очередей и неопределенности.