Профессор Принстона на лекции в Стэнфорде рассказал интересный «двухпутный метод»: с одной стороны, проверять реальную надежность в открытом мире, с другой — заранее представлять, как будет переписан социальный контракт после автоматизации когнитивных трудов. Уровень способностей — это только начало, а нижестоящий крах институтов — это главный экзамен.

AIMPACT сообщение, 16 мая (UTC+8), профессор компьютерных наук Принстонского университета Арвинд Нараянан на семинаре в Лаборатории цифровой экономики Стэнфорд обсудил стратегии адаптации к трансформации интеллектуальной работы. Он отметил, что возможность автоматизации большей части когнитивных задач с помощью ИИ заслуживает серьезного внимания, но настоящая проблема заключается в нижних уровнях возможностей, и влияние ИИ будет постепенно развиваться в течение десятилетий. Он критиковал чрезмерное акцентирование инфраструктуры доказательств на уровне возможностей и представил усилия своей команды по измерению характеристик технологий, связанных с распространением, включая оценку "открытого мира" (тестирование способности ИИ справляться с хаотичными реальными задачами), а также измерение надежности ИИ как аспекта, ортогонального к возможностям. Кроме того, он предложил теоретическую повестку дня для мира, в котором когнитивная работа уже автоматизирована, чтобы предсказать изменения в спросе на рабочую силу, риски краха институтов и новые социальные этико-политические вызовы, выступая за двустрочный подход: развитие