Percebi uma atualização interessante da OpenAI — eles adicionaram suporte a WebSocket na API de respostas, e isso parece uma melhoria bastante significativa para os desenvolvedores.

A questão é que o WebSocket permite estabelecer conexões permanentes em vez de requisições HTTP tradicionais. Isso é especialmente útil quando é necessário trabalhar com chamadas frequentes de ferramentas — o sistema acelera cerca de 40% para cadeias longas com mais de 20 chamadas. Concorda, é um aumento de desempenho bastante bom.

Tecnicamente, o WebSocket suporta entrada de dados incremental e é compatível com Zero Data Retention (ZDR), o que é importante para baixa latência na reconexão do contexto. Ou seja, os desenvolvedores obtêm não apenas velocidade, mas também flexibilidade no gerenciamento de dados.

Há, de fato, uma limitação — cada conexão é limitada a 60 minutos. Mas para a maioria dos fluxos de trabalho, isso é suficiente. Parece que a OpenAI está trabalhando seriamente na otimização de sua API, e isso certamente facilitará a vida de quem trabalha com automações complexas e tarefas de múltiplas etapas.

Se você é desenvolvedor e trabalha com a API da OpenAI, vale a pena consultar a documentação — o WebSocket pode melhorar significativamente o desempenho de seus aplicativos.