Coinbase переходить на відкриті моделі AI за замовчуванням, такі як GLM5.2, Kimi2.7, витрати на AI зменшуються вдвічі.

robot
Генерація анотацій у процесі
Повідомлення Mars Finance, 28 червня, генеральний директор Coinbase Браян Армстронг повідомив, що компанія, переключивши стандартну AI-модель на відкриті моделі, такі як GLM 5.2, Kimi 2.7, та поєднавши розумне маршрутизування моделей, оптимізацію кешу та інші заходи, скоротила витрати на AI майже вдвічі, незважаючи на постійне експоненціальне зростання використання токенів. Браян Армстронг зазначив, що Coinbase більше не покладається на обмеження використання або сповіщення про витрати для контролю витрат, а за замовчуванням використовує дешевші відкриті моделі, викликаючи потужніші передові моделі лише за необхідності. Водночас компанія додатково знижує витрати на інференцію за допомогою автоматичного маршрутизування моделей, підвищення частоти попадань у кеш та спрощення контексту. Варто зазначити, що ця заява пролунала на тлі нещодавніх численних публічних висловлювань генерального директора Anthropic щодо занепокоєння з приводу відкритих моделей та дистиляції моделей. Практика Coinbase показує, що в корпоративних AI-застосунках відкриті моделі стають важливим вибором, який поєднує ефективність та вартість.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено