Houve uma reclamação anedótica bastante engraçada do subreddit Machine Learning $RDDT .


No $CBRS + OpenAI:
- Precisa de 1-2K tokens/seg então tenta usar Cerebras.
- Alega que a OpenAI reservou toda a capacidade, tornando a lista de espera infinita para todos que não são hyperscalers.
- Afirmou que alternativas com a API da Groq não são acessíveis para eles
É uma pena. Mas mostra quantos poucos players / capacidade limitada existe para inferência rápida.
Ver original
post-image
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
Sem comentários
  • Fixado