Coinbase переводит модель ИИ по умолчанию на открытые модели, такие как GLM5.2, Kimi2.7, и затраты на ИИ сокращаются вдвое

robot
Генерация тезисов в процессе
Новости Mars Finance, 28 июня. Генеральный директор Coinbase Брайан Армстронг раскрыл, что компания переключила модели ИИ по умолчанию на открытые модели, такие как GLM 5.2 и Kimi 2.7, а также внедрила интеллектуальную маршрутизацию моделей, оптимизацию кэширования и другие меры. Несмотря на продолжающийся экспоненциальный рост использования токенов, это позволило сократить расходы на ИИ почти вдвое. Брайан Армстронг заявил, что Coinbase больше не полагается на ограничение лимитов использования или уведомления о расходах для контроля затрат, а по умолчанию использует более дешевые открытые модели, вызывая более производительные передовые модели только при необходимости. Одновременно компания дополнительно снижает затраты на инференс за счет автоматической маршрутизации моделей, повышения частоты попаданий в кэш и сокращения контекста. Примечательно, что это заявление прозвучало на фоне недавних многократных публичных выражений обеспокоенности генерального директора Anthropic по поводу открытых моделей и дистилляции моделей. Практика Coinbase показывает, что в корпоративных приложениях ИИ открытые модели становятся важным выбором, обеспечивающим баланс между стоимостью и эффективностью.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закреплено