企业开源AI支出降至11%,但在生产环境中仍占主导地位
据 Beating 监测,Decagon 首席执行官 Jesse Zhang 表示,企业开源 AI 支出目前仅占大模型总支出的 11%,因为大多数公司仍处于闭源模型的早期探索阶段。然而,在 Decagon 自身的生产环境中,由于对低延迟和深度微调能力的需求,90% 的推理调用已转向开源模型。Zhang 指出,随着用例的成熟,开源模型将凭借其卓越的定制能力和响应速度逐渐接管生产环境——这对客服场景至关重要,因为 8 秒的响应延迟会降低用户体验。
Gate News·07-07 09:41
