Вплив штучного інтелекту у рамках теорії Дональда Гофмана

Ось сфокусований синтез впливу ШІ на основі роботи Гофмана:
1. Поточні великі мовні моделі є за своєю суттю обмеженими
Гофман заявляє, що сучасні великі мовні моделі — «більш дурні за огірки» згідно з його теорією.
Чому?
- LLM працюють цілком у межах інтерфейсу простору і часу (текстові токени, статистичні шаблони).
- Вони не мають доступу до базової структури реальності (свідомих агентів).
- Вони оптимізують передбачення у нашому інтерфейсі, а не справжнє розуміння або агентність.
2. Рекурсивна логіка сліду (пропонована альтернатива)
Гофман розробляє нову архітектуру під назвою рекурсивна логіка сліду, яку він стверджує, що вона принципово відрізняється від сучасних трансформерних моделей.
- Вона базується на динаміці свідомих агентів, а не на статистичному співставленні шаблонів.
- Початкові описи свідчать, що вона моделює процеси спостереження та рекурсивну агентність.
- Він сказав, що деякі з найбільших імен у передовій ШІ вже зверталися до нього щодо цієї рамки.
3. Наслідки для штучного загального інтелекту (AGI)
Якщо погляд Гофмана правильний:
- Масштабування поточних архітектур (більше параметрів, більше даних) досягне жорсткого plafону, оскільки вони залишаються в пастці інтерфейсу.
- Справжній AGI вимагатиме архітектур, здатних моделювати динаміку спостерігача та взаємодії агентів, а не просто передбачати токени.
- Втілення може бути здебільшого неважливим — більшість свідомості (а отже, і інтелекту) може бути нетілесним.
4. Свідомість як вузьке місце
Теорія Гофмана припускає, що свідомість не є емерджентною властивістю складних обчислень. Замість цього:
- Свідомість є фундаментальною.
- Поточний ШІ позбавлений правильної онтологічної основи (він моделює ікони, а не агентів, що їх створюють).
Це безпосередній виклик як гіпотезам масштабування, так і багатьом сучасним теоріям свідомості у дослідженнях ШІ.
---
Бажаєте, щоб я розширив будь-які з цих пунктів, порівняв погляди Гофмана з іншими мислителями у галузі ШІ/свідомості, або продовжив із ширшим дослідженням?