光電融合晶片有望讓 Token 成本下降 50%,國產算力叢集或將成為降本關鍵

robot
摘要生成中
金色財經報導,7月19日,目前,隨著 AI 智能體在各行業的應用深入,Token 的調用量一直保持高速成長態勢。未來如何讓算力成本進一步下降,成為各方發力的重點。業內人士介紹,他們正透過算力平台協調多個主流大模型的使用,綜合降低詞元成本。同時,還在全國範圍加快大規模算力叢集的建設。此外,由國產算力晶片支撐的超大規模算力叢集,被業內視作下一步降本的關鍵。再者,未來三到五年內,像光晶片等更前沿的新技術落地,也有望成為降低算力成本的另一探索方向。「光電融合的晶片相較電晶片,核心在於它的計算延遲更低、功耗也會更低。每單位 Token 成本會相應下降50%,甚至更多。」(金十)
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆
  • 已置頂