2.2M 閲覧数30.1K件の議論
261.1K 閲覧数2.6K件の議論
859.3K 閲覧数5.1K件の議論
470.8K 閲覧数3.5K件の議論
6.9M 閲覧数73.9K件の議論
771.9K 閲覧数5K件の議論
3M 閲覧数23.7K件の議論
1M 閲覧数36K件の議論
516.9K 閲覧数4.1K件の議論
228.6K 閲覧数1.9K件の議論
24歳の中国人が作ったオーケストレーションモデルが、ClaudeとGPTに仕事を割り振っている。この光景は、400万回の閲覧より価値がある。複数モデルのルーティング自体は目新しくないが、それを本当に製品にした人がいるのは新しい。先週、私もいくつかのモデルを手動で切り替えていたが、切り替えすぎて自分でもうんざりした。答えは細部に隠れている。1か月以内にAnthropicかOpenAIが公式のルーティング層を出すと賭けよう。週末に戻って答え合わせしよう。
具体的に言うと、このオーケストレーションモデルは、大規模モデルにシフトを割り振るようなものだ。1つのモデルにすべてを任せるのではなく、タスクの種類、コスト、レイテンシ、品質要件に応じて割り振る。たとえば、長文の要約や複雑な推論はClaudeに、コード生成、構造化出力、ツール呼び出しはGPTに任せる。高い同時実行数が求められるときは安価なモデルを優先し、重要な質問には高性能モデルに切り替える。この光景が400万回の閲覧より価値があるのは、閲覧数がみんなの関心を示す一方、製品化は誰かがその「関心」を実際に動くワークフローに変えたことを示すからだ。複数モデルのルーティング自体は目新しくない。OpenRouterやLangChainのRouter、さまざまなAgentフレームワークでも同じようなことはできるが、その多くは開発者向けの接着剤レイヤーにとどまっている。評価を自分で書き、しきい値を自分で設定し、失敗時のフォールバックも自分で処理しなければならない。本当に難しいのは製品化の細部だ。どのタスクでどのモデルの成功率が高いのか、タイムアウト後にどうダウングレードするのか、モデルごとにプロンプトを書き換えるべきか、コストが20%上がったときにどう自動で切り替えるのか、そして今回ClaudeではなくGPTを使った理由をユーザーに見せるのか。答えはこうした細部に隠れている。
先週、表を含むコード作成の依頼を書いたとき、まずGPTで構成を作り、次にClaudeに切り替えて説明文を整え、最後にまたGPTに戻ってJSONを修正した。4、5回も切り替えて、さすがにうんざりした。そのとき、ユーザーに必要なのはモデルの数を増やすことではなく、信頼できる「司令塔」なのだと分かった。だから、この24歳の中国人が作ったオーケストレーションモデルの本当の価値は、技術を見せつけることではない。「シフトの割り振り」をデフォルトの体験にしたことだ。ユーザーは要望を伝えるだけで、システムが裏側でモデルの選択、結果の検証、失敗時の再試行を行う。400万回の閲覧は注目度であり、製品化こそが勝負の場に残るためのチップだ。1か月以内にAnthropicかOpenAIが公式のルーティング層を出すと賭けよう。モデル提供元は自社モデルのコスト、レイテンシ、能力の限界を最もよく理解しているし、複数モデルの連携を公式機能に取り込む動機もある。週末に戻って答え合わせしよう。