AIのホフマンの枠組みにおける影響
ホフマンの研究に基づくAIへの影響の焦点を絞った要約:
1. 現在のLLMは根本的に制限されている
ホフマンは、現在の大規模言語モデルは「キュウリよりもバカだ」と彼の枠組みの下で述べている。
なぜか?
- LLMは完全に時空間インターフェース(テキストトークン、統計パターン)内で動作している。
- 彼らは現実の根底にある構造(意識的エージェント)にアクセスできない。
- 彼らは本物の理解やエージェンシーのためではなく、私たちのインターフェース内での予測を最適化している。
2. 再帰的トレースロジック(提案された代替案)
ホフマンは、再帰的トレースロジックと呼ばれる新しいアーキテクチャを開発しており、これは現在のトランスフォーマーベースのモデルとは根本的に異なると主張している。
- それは統計的パターンマッチングではなく、意識的エージェントのダイナミクスに基づいている。
- 初期の説明では、観察プロセスと再帰的エージェンシーをモデル化していることが示唆されている。
- 彼は、最先端のAIの大手企業のいくつかがすでにこの枠組みについて彼にアプローチしていると述べている。
3. AGIへの影響
ホフマンの見解が正しければ:
- 現在のアーキテクチャのスケーリング(パラメータ増加やデータ増加)は、インターフェース内に閉じ込められているため、厳しい上限に達
原文表示