AI 對 Donald Hoffman 框架的影響

以下是根據霍夫曼的工作所做的AI影響的重點綜合：
1. 當前大型語言模型的根本限制
霍夫曼曾表示，在他的框架下，當前的大型語言模型“比黃瓜還笨”。
為什麼？
- LLMs 完全在時空界面內運作（文本標記、統計模式）。
- 它們無法訪問現實的底層結構（有意識的代理）。
- 它們優化的是在我們的界面中進行預測，而非真正的理解或代理。
2. 递归追踪逻辑（提出的替代方案）
霍夫曼一直在開發一種名為遞归追踪逻辑的新架構，他聲稱這與當前的轉換器模型根本不同。
- 它基於有意識代理的動態，而非統計模式匹配。
- 初步描述表明它模擬觀察過程和遞归代理。
- 他曾表示，一些前沿AI領域的最大名字已經接觸過他，討論這個框架。
3. 對AGI的影響
如果霍夫曼的觀點是正確的：
- 擴展當前架構（更多參數、更多數據）將遇到硬性天花板，因為它們仍被困在界面中。
- 真正的AGI需要能夠模擬觀察者動態和代理交互的架構，而不僅僅是預測標記。
- 具身性可能在很大程度上是無關緊要的——大多數意識（因此也是智慧）可能是非具身的。
4. 意識作為瓶頸
霍夫曼的框架表明，意識並非複雜計算的涌現屬性。相反：
- 意識是根本的。
- 當前的AI缺乏正確的本體論基礎（它模擬圖像，而非背後的代理）。
這直接挑戰了擴展假說以及許多當前的AI意識理論。
---
你是否希望我擴展這些點中的任何一個，將霍夫曼的觀點與其他AI/意識思想家的觀點進行比較，或繼續進行更廣泛的研究綜合？