Olvidó establecer límites: una empresa quema 500 millones de dólares en Claude en un mes

robot
Generación de resúmenes en curso

Autor: Bao Yilong; Fuente: Wall Street Journal

La fiebre de la IA empresarial está enfrentando su primera verdadera crisis de facturación.

El 28 de mayo, según Axios citando a un asesor de IA, uno de sus clientes corporativos gastó recientemente 500 millones de dólares en un solo mes en Claude, simplemente porque no estableció ningún límite de uso para sus empleados.

Se analiza que muchas empresas, al desplegar rápidamente herramientas de IA, se centraron en funciones y promoción, pero descuidaron la creación de mecanismos de control de costos.

Gigantes tecnológicos como Microsoft y Amazon están tomando medidas, reduciendo herramientas de IA internas o deteniendo proyectos de seguimiento del uso de IA, para frenar comportamientos de consumo excesivo denominados "tokenmaxxing" (maximización de tokens).

Un vicepresidente senior de Amazon tuvo que advertir a los empleados:

No usen IA solo por usar IA.

El problema central que enfrenta el mercado ya no es "¿deberíamos adoptar IA?", sino "hemos gastado tanto dinero, ¿qué hemos conseguido a cambio?".

Amazon cierra rankings internos por "puntuaciones falsas" que generan costos reales

El caso de Amazon revela desde otra perspectiva la dificultad de gobernanza de la IA en las empresas.

Según informes citando a dos personas informadas, la plataforma de desarrolladores de Amazon, Kiro, tenía un ranking interno llamado "Kirorank", que calificaba a los empleados según su nivel de actividad en el uso de IA.

Sin embargo, esa lista provocó inesperadamente que empleados intentaran subir en el ranking haciendo que los agentes de IA realizaran tareas sin sentido, lo que llevó a un aumento en el consumo de recursos computacionales de la empresa.

El vicepresidente senior de Amazon, Dave Treadwell, admitió esta semana a los empleados que, aunque la idea del ranking era buena, el resultado final fue que los empleados aumentaron los costos operativos mediante "tokenmaxxing".

Les indicó claramente que no se centraran en el consumo de tokens, sino en crear mejores productos, y enfatizó:

No usen IA solo por usar IA.

Luego, Amazon confirmó en un comunicado que ese panel de control en versión beta "no era una herramienta oficial o aprobada y ya ha sido retirada".

Meta también enfrentó una situación similar, donde empleados intentaron subir en el ranking interno aumentando el consumo de tokens.

Este fenómeno indica que, cuando las empresas incluyen el uso de IA en las evaluaciones, puede tener un efecto contrario, distorsionando los incentivos de los empleados hacia un consumo inútil de recursos computacionales.

Posteriormente, Amazon optó por reemplazar el consumo de tokens por un indicador de "despliegue normalizado", centrado en si los ingenieros pueden generar continuamente código útil mediante IA.

Es importante notar que, este año, el gasto de capital de Amazon se estima en 200 mil millones de dólares, la mayor parte destinada a IA y a infraestructura de centros de datos.

Cuatro problemas clave: por qué gastar en IA no siempre trae retorno

Según Axios, las adopciones de IA empresarial enfrentan cuatro obstáculos estructurales.

Selección incorrecta de casos de uso. Sophia Velastegui, CEO de Velastegui Ventures y ex directora de IA en Microsoft, afirma que la mayoría de las personas tienden a usar IA para automatizar trabajos que no les gustan, en lugar de enfocarse en tareas que aportan mayor valor a la empresa.

Considera que las empresas deberían concentrar los recursos de IA en escenarios que puedan impulsar directamente los ingresos, en lugar de desplegar de manera indiscriminada.

Falta de control de costos. Las consultas de IA no son gratuitas; los planes empresariales cobran por token, y aunque sean consultas simples diarias, los costos pueden acumularse rápidamente, y muchas áreas de negocio no tienen una comprensión clara de ello.

El factor humano, el mayor cuello de botella. Velastegui califica la práctica actual de muchas empresas de "autorizar IA de forma dispersa" como un camino que no genera retornos sustanciales.

Las empresas entregan muchas herramientas de IA a los empleados, pero sin una guía efectiva ni un enfoque claro, lo que resulta en una adopción ineficiente.

Preocupaciones sobre la apertura de datos. Josh Pantony, CEO de Boosted.ai, que se enfoca en herramientas de IA para el sector financiero, señala que, cuando las empresas temen por la seguridad de sus datos y no quieren compartir información confidencial con agentes de IA, la efectividad real de estos se ve muy mermada, y el retorno de inversión se vuelve inviable.

Economía de tokens: la nueva variable central en la narrativa de IA

Detrás de esta discusión, se está reconfigurando una lógica de inversión más compleja.

Wall Street Journal menciona que, según el jefe del departamento de One-Delta de Goldman Sachs, Rich Privorotsky, la variable clave en el comercio de IA ha cambiado de "¿es técnicamente factible?" a "¿el costo es soportable?".

Se informa que DeepSeek ha reducido en un 75% el precio de los tokens, y Xiaomi MiMo ha bajado casi un 99%, lo que podría desencadenar una lógica de "guerra de precios" similar a la competencia por subsidios.

Privorotsky señala que las limitaciones en infraestructura eventualmente se aliviarán, y el mercado no debería pagar una prima excesiva por problemas que se resolverán pronto.

Propone además la hipótesis de si tokens más baratos podrían reemplazar primero los servicios de inferencia de alto costo. Si la demanda crece con retraso, los ingresos de proveedores de servicios en la nube, empresas de modelos y de infraestructura de IA podrían experimentar presiones en fases.

Considera que la racionalización del gasto en tokens podría convertirse en un tema importante en las juntas directivas en el segundo y tercer trimestre de este año, con una importancia comparable a la narrativa de crecimiento de IA.

Según el índice de gastos en tokens de Bloomberg Silicon Data, los precios de los tokens han subido aproximadamente un 65% desde finales de febrero, y los precios de software de IA en EE. UU. han aumentado entre un 20% y un 37% en el último año.

Esta tendencia de costos está llevando a las empresas a reevaluar sus estrategias de adquisición de IA. Cuando obtener el 90% de los resultados con solo el 10% del costo se vuelve cada vez más factible, la dependencia de modelos de alto costo puede disminuir de forma sistémica.

Ali Ansari, CEO de Micro1, una compañía de entrenamiento de modelos de IA, afirma que las empresas están atravesando una "oscilación saludable" desde un uso excesivo de IA hacia un uso racional. Él opina que:

La única área en la que la IA realmente funciona actualmente es en programación.

La lucha entre optimistas y pesimistas: la misma realidad, dos interpretaciones

En cuanto al retorno de inversión en IA, los mismos datos apuntan a conclusiones completamente diferentes según el marco analítico.

Desde la perspectiva alcista, la confusión actual es solo un dolor de crecimiento en la transformación.

Según Jim Schneider de Goldman Sachs, a principios de mayo, para 2030, la IA basada en agentes impulsará un aumento de 24 veces en el consumo de tokens, y los grandes proveedores de servicios en la nube y modelos verán mejorar sus márgenes en los próximos 3 a 12 meses.

JPMorgan también encontró que, a principios de 2026, el uso de paquetes Python en PyPI experimentará un crecimiento explosivo, algo que no ocurrió cuando se lanzó ChatGPT en 2022, lo que indica que la productividad real está en aumento.

Desde la visión pesimista, Jim Covello, analista de semiconductores de Goldman Sachs, expuso en un informe de abril que casi todo el valor en la cadena de suministro de IA fluye hacia las empresas de semiconductores, algo sin precedentes y no sostenible en la historia. Los fabricantes de chips deberían beneficiarse cuando los clientes lo hagan, pero en este ciclo, su prosperidad se ha basado en el consumo en toda la cadena de valor superior.

Ambas narrativas coexisten, y aún no hay una conclusión definitiva. Lo que sí está claro es que la simple ecuación de "más tokens consumidos = éxito en la transformación de IA" ya no funciona.

Desde casos extremos como gastar 500 millones de dólares en un mes, hasta Amazon cancelando rankings internos, la inversión en IA está sometida a una revisión más estricta de sus retornos. La próxima factura de IA determinará cuánto valor real puede generar esta gran apuesta.

Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Fijado