2.2M 瀏覽量30.1K 人討論中
261.1K 瀏覽量2.6K 人討論中
859.3K 瀏覽量5.1K 人討論中
470.8K 瀏覽量3.5K 人討論中
6.9M 瀏覽量73.9K 人討論中
771.9K 瀏覽量5K 人討論中
3M 瀏覽量23.7K 人討論中
1M 瀏覽量36K 人討論中
516.9K 瀏覽量4.1K 人討論中
228.6K 瀏覽量1.9K 人討論中
24歲中國人做的調度模型,讓Claude和GPT排班幹活,這畫面比400萬瀏覽更值錢。多模型路由這事不新鮮,新鮮的是有人真把它做成了產品。我上週還手動在幾個模型之間來回切,切到自己都煩——細節裡藏著答案。賭一個月內Anthropic或OpenAI自己出官方路由層,週末回來對。
具體來看,這個調度模型就像給大模型排班:不是讓一個模型包打天下,而是按任務類型、成本、延遲和品質要求分配。比如長文摘要和複雜推理交給Claude,程式碼生成、結構化輸出和工具呼叫交給GPT;遇到高並發就優先用便宜模型,遇到關鍵問答再升級到強模型。這個畫面之所以比400萬瀏覽更值錢,是因為瀏覽說明大家關心,產品化說明有人把「關心」變成了可運行的工作流程。多模型路由本身不新鮮,OpenRouter、LangChain裡的Router、各種Agent框架都能做類似的事,但多數停留在開發者的膠水層:要自己寫評測、自己設閾值、自己處理失敗回退。真正難的是產品化細節——哪個模型在什麼任務上的勝率更高,逾時後怎麼降級,提示詞要不要按模型改寫,成本漲了20%時如何自動切換,以及使用者能不能看見「為什麼這次用了Claude而不是GPT」。這些細節裡藏著答案。
我上週寫一個帶表格的程式碼需求,先用GPT生成結構,再切到Claude潤飾說明,最後又切回GPT改JSON,來回切了四五次,切到自己都煩。那一刻我就明白,使用者需要的不是更多模型,而是一個可靠的「調度員」。所以這個24歲中國人做的調度模型,真正有價值的地方不是炫技,而是把「排班」做成了預設體驗:使用者只提需求,系統就在後台完成模型選擇、結果校驗和失敗重試。400萬瀏覽是注意力,產品化才是留在牌桌上的籌碼。我賭一個月內Anthropic或OpenAI自己出官方路由層,畢竟模型廠商最懂自己的成本、延遲和能力邊界,也有動力把多模型協作收進官方能力。週末回來對。