¡Quemando 1.3 millones de dólares al mes! El padre del cangrejo de río revela su factura de tokens, con gastos cubiertos por OpenAI

¡Sí, no te confundiste!

El padre de los cangrejos, Peter Steinberger, gastó en un mes más de 1.3 millones de dólares en tokens de API.

Como se puede ver, el consumo total de tokens en 30 días fue de 603 mil millones, con 7.6 millones de solicitudes,

Los usuarios comentan sorprendidos: «Contratar a un equipo de desarrollo puede ser incluso más barato.»

Otro usuario preguntó: «Hermano, sería mejor que mostraras algo de verdadera habilidad, algo que los ingenieros con salarios de millones de dólares no puedan hacer, de lo contrario, esta publicidad podría ser una señal de que la burbuja de los laboratorios de vanguardia está empezando a estallar. Además, este precio todavía está subsidiado. Dios mío, si se calcula el costo real, sería mucho más caro.»

Steinberger respondió: «Desactivé el modo rápido, y el precio se redujo directamente en un 70%, así que en realidad solo cuesta lo que cuesta un empleado.»

Alguien bromeó directamente: «¿Un mes 1.3 millones de dólares? Y no entregaste nada. Realmente eres el peor genio del marketing en la historia.»

Steinberger también respondió: «No lo creo, hermano, esa definición de ‘no entregar nada’ quizás sea demasiado especial.»

Steinberger además dijo: «Todo este código fue escrito con Codex. Esos pull requests un poco desordenados, que luego organicé, probablemente los escribió Claude.»

Tras revelar los altos costos en tokens y generar debate, Steinberger rápidamente respondió diciendo que estaba intentando responder a una pregunta:

«Si los tokens dejan de ser importantes, ¿cómo construiremos software en el futuro?»

Mantenemos unos 100 Codex en la nube, revisando cada PR, cada issue. Siempre que se fusiona una corrección en la rama principal, @clawsweeper finalmente encuentra ese issue antiguo que lleva 6 meses sin resolverse, y lo cierra con una cita precisa.

Ejecutamos Codex en cada commit para revisar problemas de seguridad, ya que estos son muy fáciles de pasar por alto.

Usamos Codex para eliminar duplicados en issues, detectar agrupamientos y enviar informes sobre los problemas más urgentes.

Contamos con algunos agentes que pueden reproducir entornos complejos, iniciar máquinas temporales crabbox.sh, acceder a plataformas como Telegram, grabar videos y publicar comparaciones antes y después de las correcciones en PR.

Otros Codex monitorean nuevos issues y, si cumplen con nuestra visión del producto, crean automáticamente PR. Luego, otro Codex revisa ese PR.

También usamos Codex para escanear comentarios en busca de spam y bloquear usuarios relacionados.

Ejecutamos instancias de Codex para verificar los benchmarks de rendimiento y reportar regresiones en Discord.

Contamos con agentes que monitorean nuestras reuniones y comienzan a trabajar proactivamente. Por ejemplo, cuando discutimos nuevas funciones, crean PR en tiempo real durante la reunión.

Hemos construido clatch.ai, que divide todos los proyectos en unidades funcionales para revisar, detectar bugs y problemas de regresión.

En temas de seguridad, también hacemos esa división y combinamos Vercel Deepsec y Codex Security para detectar regresiones y vulnerabilidades.

Toda esta automatización nos permite gestionar el proyecto con un equipo extremadamente reducido.

La pregunta es, ¿quién asumirá estos costos tan altos? Claramente, no él mismo.

«OpenAI no me cobra por los tokens.»

Tokenmaxxing: ¿Cuánto tiempo podrá mantenerse esta carrera de rendimiento?

Eso acaba con la competencia.

Hace poco, en el mundo de la IA, se discutió mucho sobre Tokenmaxxing, con grandes empresas, incluyendo Meta y Amazon, incluso con rankings internos de uso de tokens en sus empleados, haciendo que el consumo de tokens sea un KPI diario.

En ese momento, Meta, en primer lugar, consumía en promedio 2,81 billones de tokens por usuario, lo que, según los precios de diferentes modelos, podría costar millones de dólares. Y Peter Steinberger, el padre de los cangrejos, gastó en un mes 6,03 billones de tokens, una verdadera paliza.

El ex científico de Tesla y OpenAI, Karpathy, confesó en un podcast que también siente la presión de maximizar el uso de IA: «La clave está en los tokens. ¿Cuál es tu tasa de consumo de tokens? ¿Cuántos tokens puedes movilizar?»

Los tokens lentamente se están convirtiendo en un nuevo medio de producción, incluso en una unidad para medir la densidad de operación de la IA. Un equipo, con suficiente tasa de tokens, una división de tareas bien hecha y un ciclo de verificación confiable, puede alcanzar una densidad de ingeniería que antes solo podían soportar grandes equipos.

Recientemente, el presidente de OpenAI, Greg Brockman, tuiteó: «Los tokens están rápidamente convirtiéndose en la entrada universal para resolver problemas.»

Pero creemos que los tokens no ganan solo por volumen, como en la construcción del flujo de desarrollo automatizado de agentes inteligentes por parte del padre de los cangrejos. Un buen modelo de gestión de proyectos quizás sea la clave para ganar.

Fuente: Máquina de Corazón

Aviso de riesgo y exención de responsabilidad

El mercado tiene riesgos, invierta con precaución. Este artículo no constituye asesoramiento de inversión personal, ni considera objetivos, situación financiera o necesidades específicas de ningún usuario. Los usuarios deben evaluar si las opiniones, puntos de vista o conclusiones aquí expresados se ajustan a su situación particular. Invierta bajo su propio riesgo.