AT&T сократила расходы на использование ИИ для написания кода на 56% благодаря технологии маршрутизации моделей.
AT&T внедрила маршрутизацию моделей через LiteLLM, чтобы направлять рутинные запросы сотрудников к более дешёвым моделям ИИ с открытым исходным кодом. Это позволило сократить затраты на ИИ-кодирование на 56% при снижении качества работы всего на 2%. Телекоммуникационный гигант ежедневно обрабатывает около 45 миллиардов токенов через внутреннюю платформу «Ask AT&T», причём модели с открытым исходным кодом в настоящее время обрабатывают примерно 40% запросов сотрудников к ИИ. Вице-президент AT&T М
OliverGrant·08-22 02:47
