2026-07-21 11:38:03
Cline 测试 Kimi K2.6 自托管:仅节省 10%,不值得低于 $500K 的年度支出
根据 Beating AI 的监控,Cline 在真实生产环境中计算了 Kimi K2.6 的自托管成本。通过 API 每月处理 5.83 十亿 tokens,成本约为 185,000 美元。以满载状态运行 16 张英伟达 B200 GPU 作为基准流量,同时将剩余请求路由到 API,可将账单降至 166,000 美元,仅节省约 10%。 Cline 估计,动态 GPU 调度可能将节省幅度提升至 22%-25%,进一步优化或可达到 35%-40%,不过这些策略仍未在生产环境中验证。该公司结论是,只有当当年的 API 支出超过 500,000-200 万美元时,自托管在经济上才变得可行;低于该门槛时,基础设施和工程成本通常会超过节省的费用。