Місяць безумовно витратив 1,3 мільйона доларів! Батько лобстера зізнається у рахунках токенів, витрати повністю покриває OpenAI

Так, ви правильно зрозуміли!

Батько лобстерів Peter Steinberger витратив понад 1,3 мільйона доларів США за місяць на API-токени.

Як видно, загальне споживання токенів за 30 днів склало 603 мільярди, кількість запитів — 7,6 мільйонів,

Користувачі здивовано вигукнули: «Може, найняти команду розробників коштує дешевше.»

Інший користувач запитав: «Брате, краще б ти показав якісь справжні навички, зробив щось таке, що навіть інженери з мільйонними річними зарплатами не можуть зробити, інакше ця реклама може стати сигналом початку розпуску бульбашки передових лабораторій. І це ще за знижкою. О Боже, якщо рахувати за реальними затратами, то це буде набагато дорожче.»

Steinberger відповів: «Я вимкнув швидкий режим, ціна знизилася на 70%, тому це фактично коштує як зарплата одного співробітника.»

Ще один користувач прямо пожартував: «Мільйон доларів на місяць? А ти нічого не поставив. Ти справжній найгірший маркетинговий геній у історії.»

Steinberger також відповів: «Ну, брате, ти, мабуть, дуже особливе визначення «нічого не поставив».»

Steinberger також зазначив: «Цей код написаний за допомогою Codex. Ті більш хаотичні, які я пізніше впорядкував, pull-запити — це, мабуть, написані Claude.»

Після того, як він відкрито зізнався у високих витратах на токени і викликав обговорення, Steinberger швидко відреагував і сказав, що намагається відповісти на таке питання:

«Якщо токени більше не важливі, як ми будемо будувати програмне забезпечення у майбутньому?»

Ми довго працюємо у хмарі з приблизно 100 Codex, перевіряючи кожен PR, кожну проблему. Як тільки у головній гілці з’являється виправлення, @clawsweeper знайде стару проблему, яка вже три місяці не вирішувалась, і закриє її з точним цитуванням.

Ми запускаємо Codex при кожному коміті, щоб перевірити безпеку, оскільки ці питання дуже легко пропустити.

Ми використовуємо Codex для дедуплікації проблем, виявлення кластерів і надсилання звітів про найактуальніші.

Ми маємо агентів, які можуть відтворювати складні середовища, запускати тимчасові машини crabbox.sh, входити у Telegram та інші платформи, записувати відео і публікувати порівняння перед і після виправлень у PR.

Деякі Codex слідкують за новими проблемами і, якщо вони відповідають нашій візії продукту, автоматично створюють PR. Інший Codex потім перевіряє цей PR.

Ми також використовуємо Codex для сканування коментарів на спам і блокування відповідних користувачів.

Ми запускаємо Codex для перевірки продуктивності і звітуємо про регресії у Discord.

Ми маємо агентів, які стежать за нашими зустрічами і самостійно починають працювати. Наприклад, коли ми обговорюємо нові функції, вони створюють PR у процесі обговорення.

Ми створили clatch.ai, який розбиває всі проєкти на функціональні модулі для перевірки, пошуку багів і регресій.

У сфері безпеки ми також застосовуємо таку розбиття, поєднуючи Vercel deepsec і Codex Security для виявлення регресій і вразливостей.

Всі ці автоматизації дозволяють нам керувати цим проєктом командою дуже мінімальною кількістю людей.

Питання: хто ж несе ці високі витрати? Очевидно, не він сам.

«OpenAI не стягує з мене плату за токени.»

Tokenmaxxing: скільки ще триватиме ця гонка за пропускною здатністю

Це безпосередньо знищує змагання.

Недавно у AI-спільноті активно обговорювали Tokenmaxxing, великі компанії, включаючи Meta і Amazon, навіть публічно внутрішні рейтинги використання токенів, де використання AI-інструментів і споживання токенів стали KPI для співробітників.

Тоді Meta очолила рейтинг, і середньомісячне споживання одного користувача становило 2810 мільярдів токенів, що за різними моделями може коштувати мільйони доларів. А батько лобстерів Peter Steinberger за місяць витратив 6030 мільярдів токенів — справжній удар у здатність.

Колишній науковець Tesla і OpenAI Karpathy у подкасті зізнався, що відчуває тиск максимального використання AI: «Ключ у токенах. Яка твоя пропускна здатність токенів? Скільки ти можеш залучити?»

Token поступово став новим засобом виробництва, а також одиницею вимірювання щільності роботи AI. Команда з достатньою пропускною здатністю токенів, правильною розбиттям задач і надійним зворотнім зв’язком може виконувати проєкти, які раніше могли дозволити собі лише великі колективи.

Щойно нещодавно президент OpenAI Greg Brockman у твіттері заявив: «Token швидко стає універсальним входом для розв’язання проблем.»

Але ми віримо, що токени — це не лише кількість, а й якість, і, як батько лобстерів створює автоматизацію розробки агентів, хороша модель управління проєктом може бути ключем до перемоги.

Джерело статті: Machine Heart

Ризики та застереження

        Ринок ризикований, інвестиції — обережні. Ця стаття не є інвестиційною порадою і не враховує індивідуальні цілі, фінансовий стан або потреби користувачів. Користувачі повинні самостійно оцінити, чи відповідають будь-які думки, погляди або висновки у цій статті їхнім особистим обставинам. Інвестуючи на основі цієї інформації, несе відповідальність сам.