Влияние ИИ в рамках модели Дональда Хоффмана

Вот сфокусированный синтез выводов о влиянии ИИ на основе работы Хоффмана:
1. Текущие большие языковые модели (LLMs) по сути ограничены
Хоффман заявил, что текущие большие языковые модели «глупее огурцов» в рамках его модели.
Почему?
- LLM работают полностью в интерфейсе пространства-времени (текстовые токены, статистические паттерны).
- У них нет доступа к базовой структуре реальности (сознательным агентам).
- Они оптимизируют предсказание внутри нашего интерфейса, а не для истинного понимания или агентивности.
2. Рекурсивная логика трассировки (предлагаемый альтернативный подход)
Хоффман разрабатывает новую архитектуру, называемую рекурсивной логикой трассировки, которую он считает принципиально отличной от современных моделей на базе трансформеров.
- Она основана на динамике сознательных агентов, а не на статистическом сопоставлении паттернов.
- Первичные описания предполагают моделирование процессов наблюдения и рекурсивной агентивности.
- Он заявил, что некоторые из крупнейших имен в передовой области ИИ уже обратились к нему по поводу этой модели.
3. Последствия для общего искусственного интеллекта (AGI)
Если точка зрения Хоффмана верна:
- Масштабирование текущих архитектур (больше параметров, больше данных) достигнет жесткого потолка, потому что они остаются запертыми в интерфейсе.
- Истинный AGI потребует архитектур, способных моделировать динамику наблюдателей и взаимодействия агентов, а не просто предсказывать токены.
- Воплощение (embodiment) может быть в значительной степени неважным — большинство сознания (а следовательно, и интеллекта) может быть не воплощенным.
4. Сознание как узкое место
Модель Хоффмана предполагает, что сознание — это не возникшее из сложных вычислений свойство. Вместо этого:
- Сознание является фундаментальным.
- Текущий ИИ лишен правильной онтологической основы (он моделирует иконки, а не агентов за ними).
Это прямой вызов как гипотезам масштабирования, так и многим современным теориям сознания в исследованиях ИИ.
---
Хотите, чтобы я подробнее раскрыл любой из этих пунктов, сравнил точку зрения Хоффмана с другими мыслителями в области ИИ/сознания или продолжил с более широким синтезом исследований?