O investimento em IA está a superar a receita de IA em 46%. Durante a crise das telecomunicações em 2001, essa diferença era de 32%. Já ultrapassámos o território da crise das telecomunicações e continuamos a acelerar em direção a $1T em capex anual até 2027.

Os preços dos tokens contam o outro lado. O Índice de Despesas em Tokens LLM da Silicon Data atingiu um pico de $2,06 por milhão de tokens em maio. Agora está em $1,62. Uma queda de 20% em seis semanas. Uma queda de mais de 90% desde 2023.
A despesa total em tokens praticamente duplicou ano após ano. Tokens mais baratos estão a expandir o mercado, não a destruí-lo. O problema é que a fatura de capex não diminui quando os preços caem. A infraestrutura custa o mesmo, quer cobre $2 ou $0,50 por milhão de tokens.
O treino era uma despesa de capital com um prazo finito. A inferência é recorrente. Quando os preços dos tokens comprimem 90%, a margem de servir modelos comprime com eles. A base de clientes cresce, mas a economia unitária dilui-se.
O preço da computação dos hyperscalers foi construído para um mundo onde a capacidade de GPU era escassa e os compradores não tinham para onde ir. A capacidade ainda é escassa. A vontade de pagar margens premium por ela está a erodir-se.