動態

TypeSafe AI @typesafeai 的 Jev 全面開放,加上 Cognition 團隊隨即推出一個開源的 Kev,這兩天 AI 圈的訊號很明顯:我們不再需要為了一個「是或否」的判斷去消耗昂貴的算力了。


我手裡有一個處理海量潛在客戶的自動化流程。以前用 GPT-4o 去篩選 700 個潛在客戶,不僅心疼錢,還得擔心它偶爾產生幻覺,給我編個理由。
昨天我試著把流程改了:讓 Jev 去做匹配度評分,它給每個潛在客戶分配信心分數,不達標的直接刷掉。結果 40 秒就跑完了全部資料,才花了不到一毛錢。
這種「決策模型」的核心思路在於它只做一件事:從你給定的選項裡選出最佳解,或者給你的陳述句評分。它不寫詩、不聊天,所以它能做到 20 倍甚至 200 倍的速度提升。
而且現在的門檻真的降到地板上了。Kev 的出現讓本地化部署變得觸手可及,單張 H100 訓練 40 億參數模型只要 40 分鐘。這意味著你可以根據自己業務裡的特定資料,幾分鐘內調優出一個專屬的決策小腦。Kev-80 億參數模型在域外資料上的表現已經逼近 Jev,這說明這條路完全走得通。
去試試 Jev 或者 Kev,把你的 AI 路由、意圖識別和安全閘道換成這種專門的決策引擎。當你發現你的智慧體回應時間從秒級降到毫秒級時,你會發現這才是真正的效率紅利。
查看原文
post-image
此頁面包含第三方內容,不構成任何建議,亦不代表 Gate 認可其中任何觀點。詳見免責聲明。

  • 2

請輸入回覆內容
請輸入回覆內容

回覆 3
熊市囤币党
40秒跑完700條還這麼便宜,這波確實香。GPT-4o留著寫文案,髒活累活交給Jev,分工明確。
红绿摆渡人
Kev 40分鐘訓完4B有點離譜,以前調個LoRA都要等半天。本地化部署對資料敏感的業務太關鍵了,雲端跑客戶資訊總有點虛。
撸毛哲学家2
從秒級到毫秒級,這個對比扎心了。之前做意圖識別用 LLM 硬跑,延遲高還燒錢,換決策模型簡直是降維打擊。已 fork Kev,準備週末折騰一下。