Swyx sekadar bertanya: Apakah ChatGPT perlu versi "Evergreen"?

Judul

Swyx Bertanya kepada Kepala Pengembang OpenAI: Apakah ChatGPT Perlu Memiliki Opsi “Selalu Hijau”?

Ringkasan

Shawn Wang (Swyx), yang mengoperasikan Latent Space dan AI Engineer Summit, berbincang dengan Edwin Arbus (mantan OpenAI, sekarang Cursor) mengenai ide “ChatGPT Versi Selalu Hijau”. Pihak resmi belum pernah mendefinisikan hal ini, yang mungkin dipikirkan Swyx adalah: mengganti perpindahan versi yang kaku dengan pembaruan yang berkelanjutan, sehingga model tidak dibuang setiap beberapa bulan. Ide ini biasanya berasal dari kelelahan para pengembang—setiap kali model baru dirilis, harus diuji ulang dan diperbarui kata kuncinya.

Singkatnya: ini adalah tweet yang diunggah tanpa banyak pemikiran, bukan rencana produk atau proposal resmi, tetapi memang menyentuh hati para pengembang.

Analisis

Swyx pernah bekerja di AWS, Netlify, Temporal, Airbyte, dan juga mendirikan Smol AI; dia sudah terlalu sering melihat “peninggalan versi”; Arbus sebelumnya bekerja di OpenAI di komunitas pengembang, sekarang di Cursor mengerjakan pengalaman serupa ChatGPT. Keduanya tidak menjelaskan secara rinci bagaimana “selalu hijau” dapat diimplementasikan secara teknis.

Konsep “selalu hijau” diambil dari dunia perangkat lunak: Chrome dan Firefox terus memperbarui secara otomatis, tanpa menggunakan nomor versi besar. Dalam konteks model besar, ini bisa dibayangkan sebagai sebuah titik akhir API yang akan semakin baik, tetapi berusaha untuk tidak merusak integrasi yang ada.

• Realitasnya seperti ini: pengembang telah membuat sesuatu berdasarkan GPT-4, lalu muncul GPT-4-turbo, dan kemudian GPT-4o, yang semuanya berperilaku berbeda, sehingga tim harus terus-menerus melakukan pengujian ulang, menulis ulang kata kunci, dan kasus uji.
• Hal yang menarik dari ide ini: jika ada titik akhir yang “selalu terbaru, dan perilakunya cukup stabil”, maka biaya integrasi akan jauh lebih rendah.
• Tetapi secara teknis apakah ini bisa dicapai, masih sulit untuk dikatakan. Dengan cara pelatihan dan inferensi model besar saat ini, apakah “pembaruan berkelanjutan” dan “tidak merusak kompatibilitas” dapat dicapai bersamaan, masih menjadi tanda tanya.

Penilaian Dampak

• Pentingnya: Tidak tinggi. Ini hanya sebuah tweet, bukan peluncuran produk; saat ini tidak terlihat adanya diskusi lanjutan, dan tidak ada tanda-tanda bahwa OpenAI akan mengadopsinya. Namun, kedua pembicara memiliki pengaruh, jadi topik ini mungkin akan diangkat lagi di masa depan.
• Kategori: Alat pengembang, manajemen versi model

Kesimpulan: Untuk topik ini, saat ini masih berada di tahap pengamatan yang sangat awal. Yang benar-benar relevan adalah para pengusaha dan platform yang membuat infrastruktur pengembang dan lapisan kompatibilitas, yang tidak terlalu berkaitan dengan trader dan pemegang pasif.