Вот пять шагов Coinbase по оптимизации затрат на ИИ: модели, маршрутизация, кэширование, контекст, визуализация — выжать ценность из каждого потраченного токена, именно так должно выглядеть масштабирование.

Генеральный директор Coinbase Брайан Армстронг заявил на X, что намерен поддерживать стабильные расходы на ИИ при экспоненциальном росте использования токенов, реализуя пять мер для снижения затрат и повышения эффективности: улучшенные модели по умолчанию, интеллектуальная маршрутизация, оптимизация кэширования, сокращение контекста и визуальная прозрачность. Предварительная практика показывает, что при росте токенов общие расходы на ИИ уже почти вдвое сократились, цель — создать инфраструктуру, поддерживающую экспоненциальный рост.