我注意到 OpenAI 的一个有趣更新——他们在 API 响应中加入了对 WebSocket 的支持,这对于开发者来说看起来是一个相当重要的改进。



关键在于,WebSocket 允许建立持续连接,而不是传统的 HTTP 请求。当需要处理频繁的工具调用时,这尤其有用——对于包含 20 次以上调用的长链路,系统速度大约提升 40%。我想你会同意,这样的性能提升还是相当不错的。

从技术上讲,WebSocket 支持增量数据输入,并且与 Zero Data Retention (ZDR) 兼容,这对于在重新连接上下文时实现低延迟很重要。也就是说,开发者不只是获得了速度,还在数据管理上拥有更大的灵活性。

不过确实有一个限制——每个连接都被限制在 60 分钟内。但对大多数工作流程来说,这已经足够了。看来 OpenAI 正在认真优化它的 API,而这肯定会让那些处理复杂自动化和多步骤任务的人生活更轻松。

如果你是开发者,并且在使用 OpenAI API,那么值得去看看文档——WebSocket 可能会显著提升你应用的性能。
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论