谷歌Gemini啟用Interactions API:重構智能體,終結「幽靈帳單」

robot
摘要生成中
ME AI 消息,据 动察 Beating 监测,谷歌正式在 Gemini API 和 Google AI Studio 中将 Interactions API 设为默认接口,原有接口 generateContent 进入维护期。新接口会将多轮对话、模型思考、工具调用和执行结果统一打包,并在服务器端存为 Interaction 资源。 最直接的好处是省钱省力。由于服务器端会自动保存对话状态,多轮聊天时客户端只需发送上一步的交互 ID,谷歌就能自动复用并提高缓存命中率,大幅削减 Token 费用。对于代码沙盒运行或深度搜索等耗时任务,开发者可以开启后台模式,让工作在后台异步跑完。另外,模型思考、工具调用等中间步骤完全可视,便于实时排查智能体运行中的 Bug。 底层的重构直接解决了 6 月初爆出的计费危机。当时,手动删除缓存后由于云端同步延迟,已注销的资源仍在后台空转,导致部分账户在 12 小时内被异常扣除近 2.7 万元人民币。另外,模型在联网检索时容易陷入思维死循环,在没有任何回答的「零输出」状态下,依然按 6.4 万个 Token 满额计费。Interactions API 改用服务器托管的「隐式缓存」取代手动删除,并允许开发者监控并中止 thought 步骤,提供了更安全的计费防御。 由于谷歌未来的前沿模型和智能体功能(例如 Deep Research)都将仅支持 Interactions API,官方建议开发者尽早完成适配。 (来源:BlockBeats)
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆