动态

TypeSafe AI @typesafeai 的 Jev 全面开放,加上 Cognition 团队反手就是一个开源的 Kev,这两天 AI 圈的信号很明显:我们不再需要为一个“是或否”的判断去消耗昂贵的算力了。


我手里有一个处理海量 Leads 的自动化流程。以前用 GPT-4o 去筛选 700 个潜在客户,不仅心疼钱,还得担心它偶尔幻觉给我编个理由。
昨天我试着把流程改了:让 Jev 去做匹配度打分,它给每个 Lead 分配置信度分数,不达标的直接刷掉。结果 40 秒就跑完了全量,才花了不到一毛钱。
这种“决策模型”的核心思路在于它只干一件事:从你给定的选项里选出最优解,或者给你的陈述句打分。它不写诗,不聊天,所以它能做到 20 倍甚至 200 倍的速度提升。
而且现在的门槛真的降到了地板上。Kev 的出现让本地化部署变得触手可及,单张 H100 训练 4B 模型只要 40 分钟。这意味着你可以根据自己业务里的特定数据,分分钟调优出一个专属的决策小脑。Kev-8B 在域外数据上的表现已经逼近 Jev,这说明这条路完全走得通。
去试试 Jev 或者 Kev,把你的 AI 路由、意图识别和安全网关换成这种专门的决策引擎。当你发现你的智能体响应时间从秒级降到毫秒级时,你会发现这才是真正的效率红利。
post-image
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明

  • 2

请输入评论内容
请输入评论内容

评论
红绿摆渡人
1 小时前
Kev 40分钟训完4B有点离谱,以前调个LoRA都要等半天。本地化部署对数据敏感的业务太关键了,云端跑客户信息总有点虚。
0
撸毛哲学家2
1 小时前
首评
从秒级到毫秒级这个对比扎心了。之前做意图识别用LLM硬跑,延迟高还烧钱,换决策模型简直是降维打击。已 fork Kev 准备周末折腾下。
0