Предотвращение распространения ИИ — это не модель, а инфраструктура… Роль «единого управления» Kubernetes становится все более очевидной

Проблема расширения ИИ не в модели, а в «инфраструктуре» — эта диагностика становится все более актуальной.

На недавно прошедшей конференции «KubeCon+CloudNativeCon Europe» стало ясно, что ядром конкуренции в области искусственного интеллекта (ИИ) уже не является только производительность моделей. Аналитика показывает, что в процессе реального внедрения ИИ в сервисы основная сложность связана с структурными ограничениями, мешающими объединить системы, разбросанные по облаку, краю и локальной инфраструктуре, в единое целое.

Новые исследования показывают, что большинство проектов ИИ не достигают стадии операционной эксплуатации, и причины этого чаще связаны с интеграцией и управлением, а не с самой моделью. Главный аналитик TheCube Research Пол Нашавати отметил: «ИИ выявляет фундаментальные недостатки инфраструктуры предприятий», — и добавил, что «фрагментация облачных, краевых и локальных развертываний стала крупнейшим препятствием для операционного ИИ».

Проблема «суверенитета» усложняет инфраструктуру ИИ

Эта фрагментация недавно получила название «суверенитет». Это связано с тем, что пересекаются вопросы владения данными, региональные нормативы и внутренние политики компаний, что затрудняет централизованное управление данными и рабочими нагрузками. В результате системы ИИ вынуждены функционировать не как единый стек, а как распределённые по нескольким средам системы.

Вице-президент и генеральный директор подразделения гибридных платформ Red Hat Майк Барретт на примере использования разными бизнес-подразделениями различных крупных языковых моделей объяснил, что заказчики хотят не инструментов для конкретных сред, а «горизонтальной платформы» на уровне всей компании. Для решения этой задачи Red Hat сосредоточена на создании управляющего слоя на базе Kubernetes, который объединяет управление рабочими нагрузками ИИ во всех средах — так называемом «контролирующем плане ИИ».

Kubernetes выходит за рамки оркестрации, превращаясь в инструмент «операционной согласованности»

Изначально Kubernetes не предназначался для ИИ-вычислений. Его роль скорее заключалась в развертывании и управлении контейнерами. Но по мере переноса ИИ-вычислений в реальные сервисные среды начали проявляться проблемы «повседневной эксплуатации»: несогласованность между регионами, задержки, конкуренция ресурсов и сдвиги в политиках.

Руководитель инженерного направления Red Hat Роберт Шоти упомянул открытый фреймворк для ИИ «llm-d» и отметил, что пользователи хотят не только создавать системы с высокой производительностью, но и решать сложности, возникающие на этапе эксплуатации. Это означает, что нестабильность ИИ-систем возникает не во время обучения, а в процессе их реальной работы.

Заместитель председателя Совета управляющих Cloud Native Computing Foundation (CNCF) Ян Мерен также отметил, что, несмотря на развитие облачной нативности как глобального открытого сотрудничества, ИИ создает противоречия между системами, основанными на «глобальной согласованности», и региональными нормативами, а также распределенной средой.

Главный аналитик TheCube Research Роб Стрейчи отметил: «Суть агентных ИИ — не в моделях, а в архитектуре платформы», и подчеркнул, что будущая конкурентоспособность будет больше зависеть от построения лучшей инфраструктуры, чем от выбора более продвинутых моделей.

Платформенное инженерное дело становится реальным решением для эксплуатации ИИ

Проблема в том, что Kubernetes слишком сложен для большинства команд, чтобы использовать его напрямую. Технический директор отдела ИИ Red Hat Брайан Стивенс заявил, что многие дата-сайентисты, создающие ИИ, вынуждены одновременно заниматься инфраструктурой. Решением этой проблемы становится платформенное инженерное дело.

Стрейчи объяснил, что по мере роста фрагментации инструментов, нехватки кадров и усложнения операций отрасль переходит к единой управляющей структуре на базе платформенного инженерного дела и Kubernetes. В рамках этой тенденции Red Hat OpenShift AI берет на себя задачу абстрагировать обучение, развертывание, сервисы и вывод в продакшн в повторяемых и масштабируемых форматах.

Виртуальные машины также входят в Kubernetes

Инфраструктура предприятий не может быть полностью модернизирована за один раз. Такие ключевые системы, как системы учета и базы данных, часто остаются в старых средах из-за рисков. В результате виртуальные машины (ВМ) и контейнеры долгое время функционируют параллельно.

Исследования показывают, что 84% ИТ-руководителей сталкиваются с трудностями при управлении виртуальными машинами и контейнерами отдельно. Представитель Red Hat Даниэль Мессель отметил: «Виртуализация и контейнеры не должны оставаться изолированными, их нужно объединять на одной платформе». Проект KubeVirt, уже достигший зрелости в рамках CNCF, позволяет запускать виртуальные машины и контейнеры одновременно внутри Kubernetes.

Это рассматривается как стратегия не устранения наследия, а интеграции существующих систем в единый управляющий слой и интерфейс.

Некоторые отмечают, что «удобство» не равно контролю

Несмотря на то, что суверенные ИИ кажутся альтернативой, есть мнение, что они влекут за собой дополнительные ограничения. Регуляции ограничивают перемещение данных, внутренние политики препятствуют централизации. В результате, независимо от готовности компаний, рабочие нагрузки вынуждены распределяться между облаком, локальной инфраструктурой и краем.

Габриэль Бартолини из EnterpriseDB подчеркнул, что без переносимости баз данных не может быть настоящего суверенитета. Он особо отметил, что «удобство» управляемых сервисов не означает контроль. Ян Мерен также подчеркнул, что в вопросах суверенитета важно различать «кодовый суверенитет» и «развертывающий суверенитет»: код может быть глобальным открытым активом, а развертывание — подчинено законам и политикам.

В этом контексте роль Kubernetes становится яснее: он соединяет глобально открытый код в систему, способную работать в условиях различных региональных ограничений.

Итог победы или поражения зависит от экосистемы

Один отдельный бизнес не способен самостоятельно обеспечить инфраструктуру ИИ. Для эффективного использования Kubernetes управляющего слоя ИИ необходимо не заменять системы, а связывать их. Это возможно благодаря «экосистеме», состоящей из стандартов, API и открытых исходных проектов.

Нашавати отметил, что Red Hat — не только коммерческий поставщик платформ, но и один из наиболее активных участников всей экосистемы CNCF. Эта работа включает не только простое создание образов, но и ключевой механизм предотвращения расхождения реализаций Kubernetes у разных производителей и поддержания согласованности. Red Hat также сотрудничает с NVIDIA в рамках проекта «Red Hat AI Factory», разрабатывая масштабируемую корпоративную инфраструктуру ИИ, объединяющую OpenShift и ускоренные вычисления NVIDIA.

Нашавати подчеркнул: «Учитывая, что до 75% компаний сталкиваются с двузначными показателями неудач в ИИ из-за фрагментации систем, узкое место сместилось в инфраструктуру». Это означает, что проблема не в недостатке функций, а в структурных трудностях совместной работы систем.

Kubernetes становится производственным уровнем для эпохи ИИ

Если говорить не о том, что ИИ разрушает какую-то конкретную точку, а о том, что…