Lo que previene la difusión de la IA no son los modelos, sino la infraestructura... La función de "operación unificada" de Kubernetes se destaca cada vez más

El cuello de botella de la difusión de IA no está en el modelo, sino en la “infraestructura” — y este diagnóstico se está ampliando cada vez más.

En la conferencia reciente “KubeCon+CloudNativeCon Europa”, quedó claro que el núcleo de la competencia en inteligencia artificial (IA) ya no se centra únicamente en el rendimiento del modelo. Los análisis indican que, en la implementación real de IA en los servicios, el mayor obstáculo estructural radica en la incapacidad de operar sistemas dispersos en la nube, en el borde y en local como un todo unificado.

Nuevos estudios muestran que la gran mayoría de los proyectos de IA no alcanzan la fase operativa real, y las causas del fracaso se concentran más en problemas de integración y ejecución operativa que en el propio modelo. Paul Nashawaty, analista principal de TheCube Research, señala: “La IA está revelando defectos fundamentales en la infraestructura empresarial”, y que la fragmentación total de despliegues en la nube, en el borde y en local se ha convertido en el mayor obstáculo para la IA operativa.

El problema de la “soberanía” complica aún más la infraestructura de IA

Esta fragmentación ha sido recientemente etiquetada como un problema de “soberanía”. Esto se debe a que la soberanía de datos, las regulaciones regionales y las políticas internas de las empresas se entrelazan, dificultando la concentración de datos y cargas de trabajo en un solo lugar. Como resultado, los sistemas de IA se ven forzados a transformarse en estructuras que no son una pila única, sino que operan de manera distribuida a través de múltiples entornos.

Mike Barrett, vicepresidente y gerente general del departamento de plataformas híbridas de Red Hat, ejemplifica esto con el uso de diferentes grandes modelos de lenguaje por parte de distintas unidades de negocio, explicando que los clientes empresariales no desean herramientas específicas para cada entorno, sino una “plataforma horizontal” a nivel corporativo. Para abordar esto, Red Hat se enfoca en construir una capa de control basada en Kubernetes que gestione unificada las cargas de trabajo de IA en todos los entornos, denominada “Plano de Control de IA”.

Kubernetes va más allá de la orquestación, evolucionando hacia una herramienta de “consistencia operativa”

Originalmente, Kubernetes no fue diseñado para inferencia de IA. Su función principal era la implementación y gestión de contenedores. Pero, a medida que la inferencia de IA se traslada a entornos de servicio reales, problemas cotidianos como la falta de consistencia entre regiones, fluctuaciones en la latencia, competencia por recursos y deriva de políticas comienzan a manifestarse en toda regla.

El director de ingeniería de Red Hat, Robert Shaughnessy, menciona el marco de inferencia de código abierto “llm-d”, y explica que los usuarios no solo desean construir sistemas de rendimiento punta, sino también resolver la complejidad en las fases de operación posterior. Esto significa que los problemas de inestabilidad en los sistemas de IA no ocurren en la fase de entrenamiento, sino durante la operación en producción.

El vicepresidente del consejo de la Cloud Native Computing Foundation (CNCF), Jan Melen, también plantea una problemática similar. Él analiza que, aunque la computación nativa en la nube ha evolucionado hacia una colaboración global de código abierto, la construcción de sistemas basados en “consistencia global” entra en conflicto con las regulaciones regionales y los entornos distribuidos.

Paul Nashawaty, analista principal de TheCube Research, comenta: “La esencia de la IA de agente no es un problema de modelos, sino de arquitectura de plataformas”, y que la competitividad futura dependerá más de construir mejores infraestructuras que de elegir mejores modelos.

La ingeniería de plataformas surge como una solución práctica para la operación de IA

El problema radica en que Kubernetes resulta demasiado complejo para todos los equipos, dificultando su uso directo. Brian Stevens, CTO del departamento de IA de Red Hat, afirma que muchos científicos de datos que crean IA también deben encargarse de la infraestructura. La solución a esta brecha es la ingeniería de plataformas.

Shaughnessy explica que, a medida que las herramientas fragmentadas, las brechas en capacidades del personal y la complejidad operativa se convierten en cuellos de botella reales, la industria se está orientando hacia estructuras de control unificadas centradas en plataformas e Kubernetes. En esta tendencia, Red Hat OpenShift AI asume la responsabilidad de abstraer, de manera repetible, el aprendizaje, despliegue, servicio e inferencia en entornos híbridos.

Las máquinas virtuales también están entrando en Kubernetes

La infraestructura empresarial no se moderniza de una sola vez. Activos heredados como sistemas de facturación y bases de datos, por motivos de gestión de riesgos, permanecen en sus entornos originales. Esto provoca que las máquinas virtuales (VM) y los contenedores operen durante mucho tiempo en un esquema binario.

Las encuestas muestran que el 84% de los responsables de TI enfrentan dificultades al gestionar entornos de VM y contenedores por separado. Daniel Messel, de Red Hat, afirma: “La virtualización y los contenedores no deben mantenerse en islas separadas; deben estar en la misma plataforma”. Dentro de la CNCF, KubeVirt, que ya ha alcanzado un estado maduro, permite ejecutar máquinas virtuales y contenedores simultáneamente en Kubernetes.

Esto se interpreta como una estrategia que no busca eliminar los sistemas heredados, sino integrarlos en la misma capa de control para unificar la operación.

También hay quienes señalan que la “comodidad” no equivale a control

Aunque la soberanía de IA parece una alternativa, algunos argumentan que en realidad conlleva más restricciones. Las regulaciones nacionales limitan el movimiento de datos, y las políticas empresariales dificultan la centralización. Como resultado, las cargas de trabajo deben distribuirse en la nube, en local y en el borde, independientemente de si las empresas están preparadas o no.

Gabriel Bartolini, de EnterpriseDB, enfatiza que, sin garantizar la portabilidad de las bases de datos, no existe verdadera soberanía. Además, aclara que la “comodidad” de los servicios gestionados no implica control. Melen también señala que, en las discusiones sobre soberanía, es importante distinguir entre “soberanía del código” y “soberanía del despliegue”: el código puede existir como un activo de código abierto global, pero su despliegue está directamente influenciado por leyes y políticas.

En este sentido, el papel de Kubernetes se vuelve aún más claro: conecta el código compartido globalmente en una forma que puede operar en entornos con diferentes restricciones regionales.

La victoria o derrota finalmente depende del ecosistema

Ninguna empresa puede gestionar por sí sola toda la infraestructura de IA. Para que el plano de control de Kubernetes funcione en IA, no se trata de reemplazar sistemas diversos, sino de conectarlos. Lo que hace posible esto es un “ecosistema” compuesto por estándares, APIs y proyectos de código abierto en la parte superior.

Nashawaty comenta que Red Hat no solo es un proveedor de plataformas comerciales, sino también una de las empresas más activas en contribuir al ecosistema de CNCF. Este trabajo en la parte superior no solo consiste en gestionar imágenes, sino en evitar que las implementaciones de Kubernetes de diferentes fabricantes tengan discrepancias y mantener la coherencia. Red Hat también colabora con NVIDIA en el impulso de “Red Hat AI Factory”, que busca construir una infraestructura de IA empresarial escalable que combine OpenShift y la computación acelerada de NVIDIA.

Nashawaty concluye: “Considerando que hasta el 75% de las empresas experimentan tasas de fracaso en IA de dos dígitos debido a la fragmentación del sistema, la limitación ya se ha desplazado a la infraestructura”. Esto significa que el problema no radica en la falta de funciones, sino en la dificultad estructural de que los sistemas trabajen en conjunto.

Kubernetes se posiciona como la capa productiva en la era de la IA

En lugar de decir que la IA derriba un punto específico, es más preciso afirmar que