Повне відкриття Jev від TypeSafe AI @typesafeai, а команда Cognition у відповідь одразу випустила у відкритий доступ Kev — сигнали зі світу AI за ці два дні дуже очевидні: нам більше не потрібно витрачати дорогі обчислювальні ресурси на прийняття рішення «так чи ні».

У мене є автоматизований процес для обробки величезної кількості Leads. Раніше я використовував GPT-4o для відбору 700 потенційних клієнтів: не лише було шкода грошей, а й доводилося переживати, що він час від часу галюцинуватиме та вигадуватиме мені причину.
Учора я спробував змінити процес: доручив Jev оцінювати відповідність, і він призначив кожному Lead оцінку впевненості, а тих, хто не відповідав вимогам, одразу відсіяв. У результаті весь обсяг було оброблено за 40 секунд, а витрати склали менше десяти центів.
Ключова ідея такої «моделі прийняття рішень» полягає в тому, що вона робить лише одну річ: обирає найкраще рішення з наданих вами варіантів або оцінює ваші стверджувальні речення. Вона не пише вірші й не веде розмов, тому може забезпечити 20-кратне або навіть 200-кратне прискорення.
До того ж поріг входу справді знизився до мінімуму. Поява Kev зробила локальне розгортання цілком доступним: навчання моделі 4B на одній H100 займає лише 40 хвилин. Це означає, що ви можете за лічені хвилини дооптимізувати під конкретні дані свого бізнесу спеціалізований малий модуль прийняття рішень. Kev-8B уже майже не поступається Jev на даних поза доменом, що свідчить: цей шлях цілком працездатний.
Спробуйте Jev або Kev і замініть маршрутизацію AI, розпізнавання намірів та шлюз безпеки на такий спеціалізований рушій прийняття рішень. Коли ви побачите, що час відповіді вашого агента скоротився з секунд до мілісекунд, то зрозумієте: саме це і є справжній приріст ефективності.