Il y a eu une plainte anecdotique assez amusante du sous-reddit Machine Learning $RDDT .


Sur $CBRS + OpenAI :
- Nécessite 1-2K tokens/seconde donc essaie d'utiliser Cerebras.
- Affirme qu'OpenAI a réservé toute la capacité, rendant la liste d'attente infinie pour tous les autres qui ne sont pas des hyperscalers.
- A déclaré que les alternatives avec l'API de Groq ne leur sont pas accessibles.
C'est dommage. Mais cela montre à quel point il y a peu d'acteurs / une capacité limitée pour l'inférence rapide.
Voir l'original
post-image
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé