9.6万 tokens de mediana, esta janela de contexto consome o equivalente a um livro inteiro, O Grande Gatsby — o custo de raciocínio na era dos agentes inteligentes foi seriamente subestimado.

Ver original
MeNews
A carga de trabalho de agentes inteligentes está silenciosamente a remodelar a economia do raciocínio
[ME AI]() Mensagem, a carga de trabalho dos agentes inteligentes está silenciosamente reformulando a economia do raciocínio.
Extraímos dados de 432.000 solicitações de agentes inteligentes reais do SemiAnalysis, e descobrimos que a mediana não é 32.000 ou 64.000, mas sim 96.000 tokens de entrada.
Para referência, isso significa que, antes de você inserir sua pergunta, o modelo já processou um texto com mais de toda a extensão de "O Grande Gatsby". (1/3)🧵 (Fonte: AiHot)
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado