Coinbase эффективно сокращает затраты и повышает эффективность: разрезает модель с открытым исходным кодом, делает интеллектуальную маршрутизацию, повышает процент попадания в кэш с 5% до 60%, учебный пример AI инфраструктуры.

COIN-1,04%
Посмотреть Оригинал
CoinNetwork
币界网消息,Coinbase首席执行官Brian Armstrong在X平台发文表示,Coinbase通过优化默认设置、路由和缓存策略,在代币使用量持续增长的情况下将AI支出降低近50%。具体措施包括:将默认模型切换至GLM 5.2和Kimi 2.7等开源权重模型,91%员工此前从未触达使用上限在自定义系统中预处理提示词并自动路由至最适合的模型,实现规划与执行任务的差异化处理提升缓存命中率,LibreChat缓存命中率从5%提升至60%精简上下文管理,切换任务时开启新会话并缩小文件上下文范围增强支出可见性,工程师可自由选择模型但需承担相应影响预期。
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закреплено