ChatGPT 升級之後，我跟它說話基本沒有延遲了，最新的即時語音模型延遲大概 200-300ms，人類對話的自然反應間隔也是 200-300ms。是一樣的。

但0延遲的代價是遺忘。即時語音模型的上下文視窗只有 32k token，是純文本模型的 1/300。低延遲 = 小記憶 + 主動遺忘。既要秒回，又要記住你說過的每一句話，目前來說，是兩難的問題。
算力一直不夠。一張 5090 出一張 SDXL 圖需要 2 秒，FLUX 要 9 秒，訓練一個人物 LoRA 需要 10-30 張圖，目前得一兩個小時。
我租的 5090 現在價格將近 5000 刀，滿載 575W ，還不算電費。兩三年卡的相對算力就過時了。真的很貴。
我們 15 年前互相發簡訊，後來彩信可以傳圖片，再到發影片，直到現在的毫無延遲的高清即時通話。一條簡訊只有 140 字節。從 2G 的 9.6kbps 到 5G 峰值 20Gbps，頻寬差了 200 萬倍。
AI 使用的路徑一模一樣。一開始是文字 token，到去年可以圖像，現在語音，下一步肯定是沒有延遲的影片溝通。
其實影片已經開始了，Gemini Live 去年就能開著攝像頭即時對話，每秒燒 300 個 token，預設上限 2 分鐘，但聊完就忘光，昂貴+效果差+各種維度還很原始，導致基本沒法用。
現在的 Agent 還是在用文字做規劃，透過文本理解這個世界，整條推理鏈都是 token，非文字的潛在推理才剛剛開始嘗試。
AI 對時間的理解也停在文本，能拿數學奧賽金牌的模型，讀一個模擬時鐘的準確率只有 50% 左右。觸覺、情緒、具身感知，離成熟還差得非常非常遠。
再說儲存。我倒是不覺得「永遠缺存儲」、「永遠」這個詞太誇張了。
每 GB 儲存成本 45 年跌了 99.99%，長期來看當然只會更便宜。
只是現在 AI 把記憶體吸乾了，DRAM 一個季度漲 90%，階段性的緊俏，不是等於永遠會缺貨。
那這是不是偽需求呢？偽需求的特徵是這個月用了，下個月就不用了。
Google 每月處理的 token 一年漲了 7 倍，到 3200 萬億。ChatGPT 每週活躍是 9 億。
token 價格每年下降十倍，但所有人都在討論的是怎麼更有效率地用 token，而不是我們怎麼不使用。
一個 agent 會話燒掉的 token 是單輪對話的 50-200 ，價格如果下降我們只會用得更多。
生成式 AI 三年做到全球 53% 滲透，網際網路用了 7 年，PC 用了 15 年。
所以，我們當然還在 AI 的早期，而且轉變不可逆。就像 2G 時代的我們，彩鈴還是《浪漫手機》，收件箱滿了也捨不得刪幾條簡訊。
（圖片是我用 Fable5 做的 🎮）