NetEase Youdao випустила платформу ThinkFlow, яка забезпечує візуалізацію токенів у всьому ланцюжку

Новини Mars Finance, NetEase Youdao нещодавно запустили платформу агрегування корпоративних великих моделей ThinkFlow.
Ця платформа має на меті вирішити стандартні питання щодо виробництва, розповсюдження, оплати та оптимізації ефективності токенів при фрагментації постачання великих моделей для підприємств.
За допомогою стандартного API інтерфейсу, підприємства можуть одноразово підключитися і викликати понад 20 популярних великих моделей, таких як DeepSeek, Kimi, Qwen, MiniMax, без необхідності переписувати код при переключенні моделей у бізнес-інтерфейсі.
У платформі вбудовані інтелектуальні маршрутизація та механізми балансування навантаження, що підтримують миттєве перемикання у разі збоїв та зниження навантаження.
ThinkFlow також пропонує візуальну панель моніторингу споживання токенів у всьому ланцюжку, що дозволяє точно визначити вартість виклику великих моделей до окремого запиту.