9.6万 tokens de mediana, este contexto consume toda la novela El Gran Gatsby—el costo de razonamiento en la era de los agentes inteligentes ha sido severamente subestimado.

[ME AI]() Mensaje, la carga de trabajo de los agentes inteligentes está remodelando silenciosamente la economía del razonamiento. Extraemos datos de 432,000 solicitudes de agentes inteligentes reales de SemiAnalysis, y descubrimos que la mediana no es 32,000 ni 64,000, sino 96,000 tokens de entrada. Como referencia, esto significa que antes de que ingreses tu pregunta, el modelo ya ha procesado más texto que la longitud completa de "El Gran Gatsby". (1/3)🧵 (Fuente: AiHot)