2026-10-20 18:31:29
DeepSeek 周二发布 DeepInfer,以降低 AI 推理成本
根据 DeepSeek 周二(10月20日)在 X 上发布的公告,这家中国人工智能公司推出了 DeepInfer,这是一款开源软件,旨在优化推理阶段——即训练好的模型处理用户请求并生成回复的阶段。该工具整合了分布式推理和芯片效率优化技术,以减少处理每次请求所需的计算资源并降低能耗。 DeepInfer 目前支持 DeepSeek 的 V4.1-Flash 模型,并将扩展支持未来的系统。此次发布让企业、云服务提供商和模型托管服务能够采用 DeepSeek 的降本方法。虽然目前尚无独立的性能基准测试,但此举使 DeepSeek 生态系统之外的开发者能够审查代码,并将适用的技术调整后应用于自己的推理系统。