Swyx випадково запитує: Чи потрібно зробити «вічнозелену версію» ChatGPT?

Заголовок

Swyx запитує колишнього керівника розробників OpenAI: Чи варто ChatGPT зробити опцію «вічнозеленого»?

Резюме

Шон Ванг (Swyx), який керує Latent Space та AI Engineer Summit, поговорив з Едвіном Арбусом (колишній OpenAI, тепер Cursor) про ідею «вічнозеленого» варіанту ChatGPT. Офіційно це ніколи не визначали, але, напевно, Swyx має на увазі: замінити жорсткі версії на безперервні оновлення, щоб модель не відкидалась кожні кілька місяців. Ця ідея зазвичай виникає з втоми розробників — щоразу, коли виходить нова модель, потрібно повторно тестувати і змінювати підказки.

Сказати прямо: це просто твіт, а не план продукту чи офіційна пропозиція, але воно дійсно торкається серця розробників.

Аналіз

Swyx працював в AWS, Netlify, Temporal, Airbyte та заснував Smol AI, він бачив занадто багато «відмов від версій»; Арбус раніше працював у OpenAI в спільноті розробників, зараз Cursor створює подібний досвід до ChatGPT. Обидва не уточнили, як саме реалізувати «вічнозеленість» з інженерної точки зору.

Концепція «вічнозеленості» запозичена зі світу програмного забезпечення: Chrome, Firefox постійно автоматично оновлюються, не змінюючи великі версії. Якщо перенести це на великі моделі, можна уявити собі це як API, який повільно покращується, але намагається не зламати існуючу інтеграцію.

• Реальність така: розробники на основі GPT-4 створили щось, а потім з’являється GPT-4-turbo, потім GPT-4o, і поведінка зовсім інша, команда змушена постійно повертатись до тестування, переписувати підказки та тестові випадки.
• Привабливість цієї ідеї: якби був «завжди новий, але стабільний» кінцевий пункт, витрати на інтеграцію значно зменшились би.
• Але чи можливо це технічно, поки не ясно. Зараз, за умовами навчання та інференції великих моделей, чи можливо поєднати «безперервне оновлення» і «не порушувати сумісність», залишаються питанням.

Оцінка впливу

• Важливість: не висока. Це лише твіт, а не випуск продукту; наразі немає ознак подальшого обговорення чи намірів OpenAI прийняти це. Однак обидва виступаючі мають певний вплив, тому ця тема може знову обговорюватись у майбутньому.
• Категорія: Інструменти для розробників, управління версіями моделей

Висновок: Для цієї теми наразі ще на ранній стадії спостереження. Справді важливими є інструменти для створення інфраструктури для розробників і сумісних платформ, а не трейдери та пасивні утримувачі.