米国の企業社会が、AI支出を管理するためにモデルルーティングを採用
アメリカの企業は、CFOや取締役会が非効率なAIコストを取り締まる中、AIへの支出を管理するためにモデルルーティングを採用しつつある。この転換は、2年間にわたり複雑さにかかわらずすべての問い合わせに最も強力なAIモデルをデフォルトで使い続けた後に表面化した問題に対処するものだ。AIの請求額は現在、予算を大幅に上回っており、すべての作業にフロンティアモデルが必要なのかどうかを企業が問い始めている。モデルルーティングは、仕事に応じて適切なモデルを割り当て、複雑な問題には高価なフロンティア・システムを、日常的なタスクにはより安価な代替を向ける。こうした変更は、AI業界の価格設定の力学を再構築する可能性がある。 モデルルーティングはタスクをコストに見合うAIシステムへ割り当てる モデルルーティングは、難しい問題を高価なフロンティアモデルに振り分け、簡単な作業はより安くて速い代替へ誘導するための手段だ。コーディングエージェントのDevinを作るCognitionのCEO、Scott Wuは、各タスクに対して適切さが保たれるモデルを使えば、日常業務で5〜10倍のコスト効率の向上を企業は達成できると
CSCO-0.61%
OliverGrant·06-05 17:15
