消費者推理的難題:


我看到許多以消費者為導向的推理項目,旨在解決前沿API的高成本問題
方法各異,但前提是提供比OpenRouter等聚合器更便宜的推理服務
這裡的挑戰在於時機
今天,消費者可以獲得高度補貼的前沿人工智慧
有很多選擇讓消費者以$10起的方案獲得SOTA推理,$200/月的方案提供了驚人的使用量
由於這些子方案的存在,對API按次付費推理的消費者需求並不高
*企業則是另一個故事
因此,這些以消費者為導向的項目的關鍵假設是補貼最終會消失
許多人預期子方案會變得更昂貴或實驗室會降低限制,最終迫使大多數人轉向API付費
經典的誘騙與轉換
但這些變化何時發生,完全未知
因此,如果你是開發者,你可能在前提上是正確的,但時機太早
在這個領域中表現最好的項目需要在高容量消費者API推理之外找到用例的PMF,同時建立在 bait and switch 發生時成為低成本供應商的能力
這不是一個容易的針線活
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆