TypeSafe AI @typesafeai の Jev が全面公開され、さらに Cognition チームがすぐさまオープンソースの Kev を発表したことで、この2日間の AI 業界のシグナルは非常に明確になりました。もはや「はい」か「いいえ」かの判断のために、高価な計算リソースを消費する必要はないのです。

私の手元には、大量の Leads を処理する自動化ワークフローがあります。以前は GPT-4o を使って700件の見込み顧客を選別していましたが、コストがかかるだけでなく、たまに幻覚で理由をでっち上げられる心配もありました。
昨日、ワークフローを変更してみました。Jev に適合度のスコアリングをさせ、各 Lead に信頼度スコアを付与し、基準に達しないものは直接除外するようにしたのです。その結果、全件の処理がわずか40秒で完了し、費用も1角未満でした。
このような「意思決定モデル」の核心は、ただ一つのことだけを行う点にあります。与えられた選択肢の中から最適解を選ぶか、あるいは提示された陳述文にスコアを付けるのです。詩を書いたり会話したりしないため、速度を20倍、場合によっては200倍にまで向上させられます。
しかも今や、導入のハードルは本当に底まで下がっています。Kev の登場によってローカル展開が手の届くものになり、1枚の H100 で4Bモデルをわずか40分でトレーニングできます。つまり、自社の業務に特有のデータに合わせて、専用の小さな意思決定モデルを数分でチューニングできるということです。Kev-8B のドメイン外データにおける性能はすでに Jev に迫っており、このアプローチが十分に実用になることを示しています。
Jev または Kev を試して、AI ルーティング、意図認識、安全ゲートウェイを、このような意思決定に特化したエンジンに置き換えてみてください。インテリジェントエージェントの応答時間が秒単位からミリ秒単位に短縮されたとき、これこそが本当の効率向上による恩恵だと実感するはずです。