Гэри Маркус: студенты не заучивают учебники по буквам, и эта аналогия не подходит для описания ИИ

Заголовок

Прямое напоминание Гари Маркуса: студенты не будут заучивать учебники слово в слово

Аннотация

Когнитивный ученый Гари Маркус в ответ на твиты @theai_club и @ednewtonrex сказал правду: студенты не будут заучивать учебники слово в слово и не смогут воспроизвести их дословно. Он добавил смайлик с закатившимися глазами, явно критикуя тех, кто сравнивает человеческое обучение с LLM. Это его точка зрения, которую он озвучивает на протяжении многих лет: человеческое обучение основано на понимании, абстракции и забывании, тогда как LLM основаны на обучении на огромных объемах данных. Когда компании ИИ рекламируют свои модели как обучающиеся “как люди”, это различие становится очень важным.

Анализ

Исходный поток твитов недоступен (ограничения платформы, и этот твит очень новый с малым количеством взаимодействий), поэтому следующий анализ в основном основан на самом твите и предыдущих взглядах Маркуса.

• Маркус постоянно критикует LLM: модели хорошо подходят для сопоставления шаблонов, и при переобучении могут воспроизводить тренировочные данные, но это не “понимание”.
• Человек учится по-другому: мы забываем большую часть деталей, но можем извлечь переносимые концепции, которые можно использовать в другой ситуации; LLM не работают так.
• Это также отзывается с его продвигаемым смешанным ИИ-курсом: совмещение нейронных сетей и символического вывода с целью достижения настоящего “интеллекта”, а не “умного автозаполнения”.

Этот твит — лишь небольшая вставка в продолжающуюся дискуссию, он не повлияет на рынок и не изменит направление исследований в ближайшее время. Но он добавляет еще один пример в обсуждение “что ИИ может и не может делать”, особенно в раскрытии разрыва между маркетинговым языком отрасли и технической реальностью.

Оценка влияния

• Важность: низкая — ограниченная огласка, недостаток контекста, в краткосрочной перспективе не вызовет цепной реакции.
• Категория: техническая точка зрения, исследование ИИ.

Заключение: Для обычных читателей и трейдеров это в настоящее время не слишком актуально; действительно, те, кто занимается исследованием объяснимости и смешанных подходов, могут получить преимущества, чем раньше обратят на это внимание.