深潮 TechFlow 消息,6 月 30 日,據 The Information 報導,一位知情人士透露,本月早些時候,OpenAI 工程師向部分同事表示,依託幾項全新研發的優化技術,他們找到了一套方案,能將模型推理成本削減一半以上。工程師將這套新技術應用於沒有免費或付費帳戶的訪客使用 ChatGPT 的場景後,一度把所需英偉達圖形處理器(GPU)數量壓至僅數百個。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆