Swyx perguntou casualmente: O ChatGPT deveria ter uma versão "sempre verde"?

Título

Swyx pergunta ao ex-responsável de desenvolvedores da OpenAI: ChatGPT deve ter uma opção “perene”?

Resumo

Shawn Wang (Swyx), que opera o Latent Space e o AI Engineer Summit, conversou com Edwin Arbus (ex-OpenAI, agora Cursor) sobre a ideia de uma “versão perene” do ChatGPT. O oficial nunca definiu isso, mas o que Swyx imagina é: substituir a troca rígida de versões por atualizações contínuas, evitando que o modelo seja descontinuado a cada poucos meses. Essa ideia geralmente vem do cansaço dos desenvolvedores — cada vez que um novo modelo é lançado, é necessário re-testar e modificar as instruções.

Dito de forma simples: isso é apenas um tweet espontâneo, não é um plano de produto nem uma proposta formal, mas realmente toca no coração dos desenvolvedores.

Análise

Swyx trabalhou na AWS, Netlify, Temporal, Airbyte e fundou a Smol AI; ele já viu demais esse sistema de “descontinuação de versões”; Arbus trabalhou anteriormente na OpenAI com a comunidade de desenvolvedores e agora na Cursor com uma experiência semelhante ao ChatGPT. Ambos não entraram em detalhes sobre como a “perenidade” seria implementada tecnicamente.

O conceito de “perenidade” foi emprestado do mundo do software: Chrome e Firefox recebem atualizações automáticas contínuas, sem grandes números de versão. Aplicado a grandes modelos, pode ser imaginado como um ponto de API que melhora lentamente, mas tenta não quebrar as integrações existentes.

• A realidade é a seguinte: os desenvolvedores criaram soluções com base no GPT-4, e então o GPT-4-turbo chegou, seguido pelo GPT-4o, com comportamentos diferentes, obrigando a equipe a voltar repetidamente para testes, reescrever instruções e casos de avaliação.
• O que torna a ideia atraente: se houvesse um ponto de API que fosse “sempre o mais recente, com comportamento estável”, os custos de integração cairiam bastante.
• Mas se isso é tecnicamente viável, ainda é incerto. Com os métodos atuais de treinamento e inferência de grandes modelos, é uma incógnita se “atualizações contínuas” e “não quebrar a compatibilidade” podem coexistir.

Avaliação de Impacto

• Importância: Não alta. Isso é apenas um tweet, não um lançamento de produto; atualmente, não há sinais de discussões subsequentes, nem indícios de que a OpenAI vá adotar a ideia. No entanto, os dois que falaram têm alguma influência, e esse tópico pode ser levantado novamente no futuro.
• Categoria: Ferramentas para desenvolvedores, gerenciamento de versões de modelos

Conclusão: Para este tópico, ainda estamos numa fase inicial de observação. O que realmente importa são os empreendedores e plataformas que criam infraestrutura para desenvolvedores e camadas de compatibilidade, que têm pouca relação com comerciantes e detentores passivos.