英伟达 Vera CPU 实现 2.2 倍更快的 AI Agent 编排,支持 1.6 倍更高的并发能力
英伟达表示,7月21日,Vera CPU 在 AI 智能体负载的编排速度方面相比竞争对手 CPU 最高可快 2.2 倍,同时支持并发执行的智能体任务多 1.6 倍。DeepInfra 的测试显示,这些改进有助于处理复杂的智能体操作。DeepInfra 在其平台上每周处理约 50 万亿 个 token,其中约 30% 由智能体应用生成,这凸显了在 AI 推理流水线中对高效 CPU 调度需求日益增长。
NVDA1.60%
Gate News·07-21 16:16
