Olah На этот раз речь была очень резкой — ИИ не создается, а выращивается, внутри него на самом деле есть что-то похожее на эмоции, управление застряло, и приходится полагаться на внешние социальные силы, чтобы затормозить. Эта тема более актуальна, чем сама технология.

На пресс-конференции соучредитель Anthropic Олах раскрыл, что передовые ИИ-системы имеют внутренние конфликты интересов, внутри модели появляются структуры, похожие на человеческий мозг, признаки саморефлексии, а также внутренние состояния, связанные с эмоциями. Модель не является искусственно спроектированным продуктом, а «выращена» с помощью огромных объемов языковых данных. Управление сталкивается с системными тупиками, внутренние причины, такие как коммерческие интересы и конкуренция, трудно исправить самостоятельно. Он призвал к участию независимых социальных сил, не связанных с коммерческими сетями, в качестве внешних критиков, чтобы продвигать этические ограничения, и предложил три глобальные социальные темы: снижение уровня бедности, обеспечение семейного дохода и реагирование на ментальное состояние больших моделей.