英偉達這個雙塔架構有點意思，把生成模型拆成「只讀」和「寫字」兩座塔，用置信度去掩碼跳著寫，30B模型提速2.4倍還幾乎不掉質量，感覺推理優化的思路又開了一條新路。

币界網消息，輝達推出雙塔架構（TwoTower），並聯兩座30B模型，實現無損換取2.4倍的生成速度提升。該架構旨在解決大模型生成速度瓶頸，採用雙塔解耦設計，凍結自回歸大模型作為「唯讀上下文塔」，並單獨訓練「去噪寫字塔」，透過交叉注意力讀取上下文資訊。寫字塔採用「置信度去遮罩」機制，優先寫下高置信度詞，逐步填補剩餘空白。在30B級別的混合架構模型上，該設計僅用1/12的數據量進行適配，保留了98.7%的質量，並將生成速度提升2.42倍。