OpenAIからの面白いアップデートに気づきました — APIの応答にWebSocketのサポートを追加し、これは開発者にとってかなり重要な改善のようです。

要点は、WebSocketが従来のHTTPリクエストの代わりに常時接続を確立できることです。これは、頻繁にツールを呼び出す必要がある場合に特に役立ちます — 20回以上の呼び出しを伴う長いチェーンではシステムの速度が約40%向上します。ご覧の通り、かなりのパフォーマンス向上です。

技術的には、WebSocketはインクリメンタルなデータ入力をサポートし、Zero Data Retention (ZDR)と互換性があり、再接続時の低遅延にとって重要です。つまり、開発者は単なる速度だけでなく、データ管理の柔軟性も得られるということです。

ただし、制限もあります — 各接続は60分に制限されています。しかし、多くのワークフローには十分でしょう。OpenAIはAPIの最適化に本気で取り組んでいるようで、これは複雑な自動化や多段階のタスクに取り組む人々にとって確実に役立つでしょう。

もしあなたが開発者でOpenAI APIを使っているなら、ドキュメントを確認する価値があります — WebSocketはあなたのアプリケーションのパフォーマンスを大きく向上させる可能性があります。