torygreen

垂直 AI 公司會在某個時點不再看起來像 API 客戶，而開始看起來像模型公司。
Harvey 在六個月內從每月約 1 萬億個 Token 增長至 14.5 萬億個 Token。現在，它正以 Kimi K3 為基礎，利用特定領域任務、專家回饋及專有工作流程資料，對自有法律模型進行後訓練。
Thomson Reuters 也正朝著相同方向發展，打造自有法律模型。
這感覺像是相當自然的演進。
在低用量時，前沿 API 顯然是最佳選擇。當每月達到 10 萬億個以上的 Token 時，模型選擇開始變成毛利率決策。而且，如果你已經擁有工作流程、專家回饋及失敗資料，那麼你手上正好具備專門化開放權重基礎模型所需的所有要素。
對於規模成長到足夠大的公司而言，「AI 包裝層」階段最終可能只是暫時的。
到了某個時點，垂直應用程式也會開始將模型層整合到內部。

大型語言模型有網際網路可供它們使用。具身 AI 沒有。
機器人需要大量的真實世界互動資料，而 ACE Robotics 估計，目前整個產業只有約 10 萬個有用的時數。
中國已經在嘗試製造這套資料集：訓練中心購買機器人，透過遠端操作讓它們完成真實任務，收集執行軌跡，然後再將這些資料回饋給機器人製造商。
因此，一些早期的人形機器人部署所做的不只是測試硬體。它們也正在生成下一代實體 AI 所需的訓練資料。
這讓具身 AI 的競賽看起來更像是一場搶先建立資料集的競賽。

能力提升的速度快得離譜，而硬體預算幾乎沒有大幅增加。
> Qwen3.5-27B 在 2 月的 Artificial Analysis 上得分為 35。
> Qwen3.6-27B 在 4 月將這項成績提升至 38。
> Qwen3.8-27B 現在已達到 52，同時基本維持在相同的 27B 參數規模內。
而它的代理效能如今已接近那些規模大得多、服務成本也高得多的模型。
這對我而言，比又一次排行榜洗牌重要得多。
多年來，更好的 AI 基本上意味著擴充其底層硬體規模。如今，能力提升的速度遠快於部署規模的增長。
如果接近前沿的代理能在單一工作站上運行，更多工作就能留在本地並以低成本完成，而前沿 API 則成為處理最困難任務的升級途徑。
這可能會讓每個 GPU 所能提供的能力，成為值得關注的重要基礎設施指標之一。

幾年前，超大規模雲端服務商約占 S&P 500 資本支出的 16%。明年，其中五家的支出可能與其餘 495 家公司加總後一樣多。
Microsoft、Amazon、Alphabet、Meta、Oracle
BofA 目前估計，這五家公司在 2027 年的支出約為 1.07 萬億美元，而該指數中的其他所有公司約為 1.06 萬億美元。
這種集中程度的影響已開始遠超 GPU。
AI 的規模已大到運算需求開始帶動實體經濟。Goldman 估計，AI 已占美國設備投資約 15%，而 BloombergNEF 正追蹤 23.1 GW 的在建資料中心容量。
如今，少數超大規模雲端服務商的規劃決策，可能為其他所有人帶來電力、建築和網路領域非常實際的需求衝擊。
這讓我不禁思考，超大規模雲端服務商對 AI 的預測是否正悄悄成為自身的總體經濟變數。如果五家公司要負責如此多的新增投資，那麼它們對所需運算量預期的些微變化，都可能在整個供應鏈中引發連鎖反應。

網路上的代理型流量增長速度非常快，Cloudflare 因此專門為 AI 代理打造了一款瀏覽器（Kitesurf）。
代理基本上承襲了約 30 年來為盯著螢幕的人類所做的瀏覽器設計決策，而當你同時執行數千個工作階段時，其中許多都會變成不必要的額外負擔。
AI 驅動的網路流量在 2025 年期間幾乎成長了 3 倍，而來自 AI 代理與代理型瀏覽器的流量年增長了 7,851%。
以目前的估計來看，代理如今產生的網路請求約占 57%。
Kitesurf 的優點在於，它移除了分頁、擴充功能、主題、持久狀態與像素級精準渲染等功能，而這些改變帶來的差異非常顯著
• 螢幕截圖所需的 CPU 減少 3.1 倍
• HTML 擷取所需的 CPU 減少 3.8 倍
• 螢幕截圖所需的記憶體減少 4.7 倍
• HTML 擷取所需的記憶體減少 7 倍
實際經過時間約慢了 1.7-1.8 倍，但對於持續大規模運行的代理而言，運算與記憶體效率可能重要得多。
如果瀏覽器只是網路技術堆疊中第一個針對機器而非人類重新打造的部分，我一點也不會感到意外。

大型科技公司的 AI 基礎設施承諾，遠遠超出了我們通常看到的資本支出數字。他們已承諾未來支付約 1.09 萬億美元的租賃款項，主要用於 AI 資料中心。
目前只有約 2850 億美元列為租賃負債，因為許多合約要等到設施開始營運後才會被確認。
真正的風險在於期限錯配。有些租賃期限長達 15 至 30 年，但晶片、模型和客戶需求可能在幾個產品週期內就會改變。運算需求可能持續成長，但個別設施和硬體配置的價值下降速度，可能遠快於為其提供融資的合約。
容量規劃正逐漸成為 AI 基礎設施中最棘手的問題之一。

資料中心的能源需求增長速度如此之快，以至於電網無法跟上，而各家公司現在正用卡車運來燃氣渦輪機來繞過這個問題。
APR Energy 剛推出八個行動式機組，1.1GW，目標直指資料中心需求。
想想這意味著什麼。拖車上的渦輪機在各方面都比電網連接更糟，只有一點例外：你可以在幾個月內讓它運轉，而不是等上幾年。只有當等待時間正是扼殺你的因素時，支付這筆溢價才有意義，而目前在美國許多州，等待時間超過 5 年。
因此，建設不再等待電網，而是自帶電力。這就是瓶頸以實體形式呈現的樣子：發電機被運到場地上，因為目前沒有其他方式能取得這些兆瓦電力。
晶片從來都不是難點。電力才是，而當短缺嚴重到必須在現場燃燒天然氣來繞過它時，情況看起來就是這樣。

現在在你自己的硬體上運行 DeepSeek V4 Flash 0731 真的做得到，但它要花多少錢、值不值得很取決於你是誰。
實際用來跑它的機器：
> 256GB M3 Ultra Mac Studio（~7-9 千美元）：可容納 4-bit 版本並留有餘裕，乾淨的一台盒子就搞定。
> 512GB M3 Ultra（~1 萬美元以上，如果你找得到）：能很舒適地跑近乎無損的版本。
> 2x H200 或 4x A100 伺服器：在 1M context 下可完整 checkpoint，但這時你已經稍微摸到 datacenter 的花費了。
它技術上也能在 128GB 上跑，但只能用重度 3-bit 壓縮，會把畫質壓低。
所以，約 7-10 千美元買一套認真的單機配置，小團隊就能一次買斷自行擁有。
老實說，輕度使用時用 API 會更便宜。DeepSeek 的託管價格低到幾乎不需要考慮，只有在超大、持續的用量下，一台 $9k 等級的設備才會划算。就每月只跑幾百萬 M tokens 來說，用 API 仍然更好。
但擁有它的理由不在於成本，而在於 API 給不了你的所有東西。你的資料永遠不會離開機器。無論你推得多用力，花費都是扁平、可預期的。沒有速率限制，不會出現模型被你用到一半就被棄用的情況，也不需要把敏感程式碼送到歸另一個國家司法管轄的伺服器上。
對律師事務所、醫院、銀行，或任何無法把

晶片供應商。基礎設施借貸方。也是其自身客戶的權益投資者。Nvidia 現在同時身兼三者，而且本月為了同時戴著三頂帽子所付出的代價，觸及 $750B
> $250B ，用來承接 OpenAI 俄亥俄州租約的後盾。
> $500B 與 SK Group 在記憶體領域糾纏在一起。
> $5B 進入 SSI，這是一家沒有產品的公司。
> $1B 進入 Naver。持有 Nebius 的股份。晶片流向它租回給自己的德州設施。
Nvidia 幾乎已經創造出的循環是：資金用來出資客戶 -> 客戶購買 Nvidia 晶片 -> Nvidia 入帳營收 -> Nvidia 資助下一位。對他們而言，供需正在崩塌到同一張資產負債表上。
這是一家公司在同一時間於整個 AI 堆疊上，以供應商、借貸方與投資者的身分運作。
那些以定價違約風險維生的人，比起權益派更早注意到了。5 年期 CDS 的創紀錄 82bps，這是合約自開始交易以來最大的單日波動。
而緊張主要在於，集中式模式變得如此資本饑渴，以至於現在必須自己「生產」需求，才能持續擴張。當運算能力充裕且便宜時，你不會去承接自己客戶的風險；只有在要讓飛輪繼續轉動的唯一方法，就是成為整個市場的最後貸款者時，你才會這麼做。
全球大量 GPU 已經處於未充分使用，因為沒有人在協調把它們變成真正的供給，而 Nvidia 的答案將會為更

2026 不是封閉實驗室計畫要落幕的年份，而那個封閉前沿模型能收費的空間，在 @Kimi_Moonshot 的 K3 之後，如今寬度大約只有三個百分點
K3 剛剛以能力表現乾淨俐落地超越 Opus 4.8，且每個任務的價格只有一半，權重將在數天內公開。只有 Fable 5 和 GPT-5.6 Sol 目前仍位居其上。那條線以下的一切現在都是開放地帶：任何人都能以硬體成本提供模型服務，沒有研發利潤可用來回收。
這就是每一次封閉發布的全新算法。落在開放前沿之上，你就能為落差定價。落在或低於前沿，就等於在收取市場其實以成本價就能取得的東西的加價。第二名過去是 AI 的一門生意，但現在它只是免費下載。
而那條帶狀區域持續變窄。去年，開放模型落後約六到八個月。K3 將差距縮到大約一個世代之內，且 Qwen、GLM、DeepSeek 和 MiniMax 都排在它之後。
封閉實驗室不再只是彼此競逐最高點。他們正在以極快的速度競逐從下方迅速升起的底線。