Los costos de inferencia de IA están a punto de desplomarse: Gartner

Gartner predice que los costos de inferencia de IA para los proveedores de modelos de lenguaje grande caerán en más del 90% para 2030, impulsados por la mejora del hardware y el diseño del modelo. Sin embargo, es poco probable que los CIO vean estos ahorros transferidos directamente, ya que la creciente demanda de funcionalidades avanzadas como la IA agente llevará a costos de tokens más altos. Las empresas necesitarán equilibrar la inversión en capacidades fundamentales de IA con la exploración de aplicaciones fronterizas más complejas, pero más costosas, para derivar valor.