Майніт Технолоджі Центр Куньцзянь-цзюань Форум висловлює: Ефективність токенів стане ключовим показником оцінки цінності корпоративного штучного інтелекту

Зростання популярності автономних виконавчих агентів, представлених OpenClaw, стало яскравою ознакою того, що застосування ШІ прискорено еволюціонує від «діалогу та взаємодії» до «виконання завдань». Підприємства, прискорюючи впровадження, також стикаються з багатьма викликами, зокрема марнотратством обчислювальних ресурсів, безпекою та дотриманням нормативів. Як зробити так, щоб агенти ШІ справді реалізувалися масово, стабільно та сталo на практиці — це стало ключовим питанням, яке турбує всю індустрію.

26 березня на форумі майбутніх індустрій у Чжунгуаньцуні керівник відділу інновацій у технологіях великомасштабних моделей Антів (蚂蚁数科) Чжан Пэн у своїй промові заявив, що «вибух» OpenClaw спричинить революцію корпоративної парадигми ШІ, просуваючи впровадження великомасштабних моделей у виробничі сценарії з «перегонів за параметрами» до «конкуренції за ефективність Token».

Керівник відділу інновацій у технологіях великомасштабних моделей Антів (蚂蚁数科) Чжан Пэн виступає на форумі в Чжунгуаньцуні

Швидке поширення агентів типу OpenClaw відображає попит ринку на автономні виконавчі агенти, але в реальному промисловому середовищі їхнє впровадження стикається з істотними труднощами: через відсутність глибокого розуміння галузевих правил і бізнес-процесів агенти під час виконання складних завдань часто неодноразово викликають інструменти, через що витрати на Token значно перевищують ефективну віддачу. Як повідомляється, у деяких сценаріях із частими викликами витрати на Token для OpenClaw можуть досягати десятків разів, а інколи й сотень разів вартості інтегрованого Agent. Така модель із великими витратами та низькою продуктивністю створює проблему сталості під час масового промислового застосування.

«У другій половині впровадження великомасштабних моделей в індустрії ключовим твердженням є не конкуренція за розмір параметрів, а постійне підвищення ефективності Token у розрахунку на одиницю». Чжан Пэн вважає, що підприємствам слід, поєднуючи реальні сценарії та потреби, обирати рішення з ШІ, де використовуються моделі різних розмірів, щоб досягати більшої бізнес-цінності за нижчої вартості обчислювальних ресурсів.

Візьмемо для прикладу фінансові сценарії: щодня в цій сфері потрібно опрацьовувати величезні обсяги високочастотних і низьколатентних завдань — швидко розпізнавати наміри, витягувати ключову інформацію, виконувати пошук і сортування тощо. Ці завдання потребують високої паралельності, швидкої реакції та високої точності. Традиційні індустріальні великомасштабні моделі мають сильні можливості інференсу, але в таких сценаріях це схоже на «забивання курки сокирою», оскільки вартість висока, а час реакції повільніший, що призводить до марнування ресурсів.

«Істинно необхідним для індустрії є рішення з ШІ, яке за умови забезпечення професійності, строгості та відповідності нормам реалізує оптимальне співвідношення ціни та якості й швидкість реагування». Чжан Пэн заявив. Він вважає, що великі моделі з багатьма параметрами демонструють кращі результати у складному виведенні та глибокому аналізі, тоді як малі моделі у сценаріях із частими невеликими завданнями мають нижчу затримку та вищу рентабельність. Індустрії потрібні рішення, що поєднують моделі різних розмірів, щоб ефективніше й дешевше вирішувати проблеми в реальних сценаріях.

На форумі в Чжунгуаньцуні Антів (蚂蚁数科) представила легку спеціалізовану фінансову модель Ling-DT-Fin-Mini-2.5 — це перша модель лінійки великомасштабних моделей Ling DT. За інформацією, Ling DT Fin Mini 2.5 — це легка MoE-модель, оптимізована на основі останньої змішаної лінійної архітектури уваги Ling 2.5 для сценаріїв у фінансовій сфері з високою паралельністю та низькою затримкою. Вона зберігає професійну глибину та водночас може стискати витрати на інференс до рівня, достатнього для масового розгортання. Порівняно з провідними в галузі загальними моделями з аналогічною потужністю, швидкість інференсу вища на 100%, а апаратні витрати на обробку того самого обсягу завдань суттєво нижчі, що дає фінансовим установам відчутну цінність для зниження витрат і підвищення ефективності.

Насправді, коли агенти ШІ прискорюють проникнення в ключові індустріальні сценарії та після цього починають виконувати реальні завдання, поєднання моделей різних розмірів уже стало галузевою тенденцією. Нещодавно OpenAI послідовно випустила дві малі моделі GPT‑5.4 mini та nano, які роблять акцент на низькій затримці та високій рентабельності й виступають основною «робочою конячкою» як підрівень агентів на рівні виконання.

Чжан Пэн зазначив, що технічний розвиток зрештою повернеться до раціональних вимог індустрії щодо ефективності, і в наступному етапі конкуренції ефективність Token стане ключовим показником для вимірювання цінності корпоративного ШІ. Антів (蚂蚁数科) продовжуватиме глибоко розвивати корпоративний AGI та додатково випустить корпоративну версію «百灵» Ling DT, а також її галузеві версії, прискорюючи масове впровадження агентів у складних корпоративних сценаріях.

Величезний потік новин і точна аналітика — усе в застосунку Sina Finance (新浪财经APP)