Muitas empresas no passado acreditavam no tokenmaxxing. A lógica padrão era: quanto mais tokens os funcionários usarem, mais a empresa é nativa de IA.


Por isso, o quadro de classificação de tokens do Meta e o KiroRank da Amazon estão classificados de acordo com o uso de tokens pelos funcionários, como Naval disse: “desperdice tokens, economize tempo”, transformando-se numa organização nativa de IA.
No entanto, o consumo de tokens não é um custo linear, ele pode de repente aumentar em cenários de fluxo de trabalho agentic e pesquisa de múltiplas etapas, entre outros contextos de longo alcance.
Empresas na China e nos EUA estão percebendo que precisam reavaliar o consumo de tokens como se fosse consumo de poder de computação em nuvem, fazendo uma boa gestão de orçamento.
A Uber está avaliando o ROI de IA internamente, a Amazon e o Meta desativaram os quadros de classificação, a Coinbase está exigindo o uso de modelos mais baratos, e a Shopify implementou um “mecanismo de fusível” para interromper o consumo repentino de tokens por usuários individuais.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado