Christian Catalini: ИИ преобразит рынки труда, профессии, связанные с программированием, столкнутся с неравномерной автоматизацией, а человеческий опыт останется важным в процессе принятия решений | Bankless

Ключевые выводы

• Потенциал ИИ автоматизировать рабочие места — главный источник общественной тревоги.
• Быстрый переход к новым технологиям преобразит рынок труда.
• Новые технологии часто несут недооценённый потенциал, несмотря на трудности.
• ИИ существенно повлияет на профессии в программировании, затрагивая роли начального уровня.
• Машины могут воспроизводить измеримые аспекты экспертизы, а не суждение.
• Влияние ИИ на программирование будет неравномерным: некоторые области будут автоматизироваться быстрее.
• ИИ отлично справляется с автоматизацией устоявшихся практик, но испытывает трудности с новыми доменами.
• Человеческое познание было традиционным ограничением; теперь ему бросает вызов ИИ.
• Институции, созданные вокруг дефицитного интеллекта, нуждаются в переоценке.
• Интеграция искусственного сверхинтеллекта потребует акцента на верификации.
• Достижения ИИ требуют, чтобы люди следили за тем, чтобы намерения и предпочтения уважались.
• Развивающиеся отношения между людьми и ИИ будут формировать будущее общество.
• Социальное влияние ИИ включает изменения в занятости и экономических структурах.

Вступление гостя

Кристиан Каталини — сооснователь и главный директор по стратегии в Lightspark, а также основатель MIT Cryptoeconomics Lab и научный сотрудник в MIT Sloan School of Management. Он соучредил Diem (ранее Libra) и работал в Diem Association в должности главного экономиста. Его исследования изучают экономику ИИ, технологии блокчейна и инновации.

Социальное влияние ИИ

• ИИ трансформирует экономику и рынок труда, вызывая общественную тревогу.

• Тревога вокруг ИИ связана с его потенциальной способностью автоматизировать рабочие места и изменить экономику.

  — Christian Catalini

• Понимание социального влияния ИИ критически важно для будущих структур занятости.

• Я бы сказал, что эта работа — действительно результат той невысокой температуры, возможно, в некоторые моменты она даёт всплески высокой температуры; это период быстрых и преобразующих изменений.

  — Christian Catalini

• Переход к новым технологиям будет быстрым и сложным.

• Будет период перехода, и он будет очень трудным… на этой скорости и темпе, которые, как мне кажется, исторически прежде не наблюдались.

  — Christian Catalini

• Потенциал ИИ часто недооценивают, несмотря на его трудности.

• Люди склонны недооценивать потенциал, который дают эти инструменты… если взять лучшую функцию технологии… я думаю, что в долгосрочной перспективе это в основном ведёт к позитиву.

  — Christian Catalini

Влияние ИИ на профессии в программировании

• Автоматизация с помощью ИИ сильно повлияет на программирование, особенно на позиции начального уровня.

• Я думаю, что программирование разделится на две ветви — как и многие другие профессии, где мы уже видим то, о чём в статье говорим как о «missing missing junior loop»… ИИ часто работает как решение «out of the box» и может стать хорошей заменой для тебя в любом домене.

  — Christian Catalini

• Изменения в программировании под влиянием ИИ будут неровными: автоматизация будет неоднородной.

• У нас достаточно доказательств, что это как будто кричит о том, что изменения будут неровными — так что будет всплеск в некоторых частях домена, но не в других.

  — Christian Catalini

• ИИ будет автоматизировать устоявшиеся практики в программировании, но испытывать трудности в новых областях.

• Даже в программировании то, что мы автоматизируем, на этом этапе — это много базовой работы… но когда они начнут выходить в домены, с которыми они ещё не сталкивались, уверен, они смогут их имитировать и учиться на них.

  — Christian Catalini

• Текущие возможности ИИ в программировании подчёркивают его ограничения в новых доменах.

Роль человеческой экспертизы в ИИ

• Различие между измеряемой и неизмеряемой экспертизой — ключевое.

• Не существует такого понятия, как «хорошо по вкусу» — удачи в попытке определить это; нет такого понятия, как хорошее суждение или плохое суждение — есть только то, что можно измерить, и то, что нельзя; если что-то измерено, машина сможет это воспроизвести.

  — Christian Catalini

• Машины могут воспроизводить измеряемую экспертизу, но не человеческое суждение.

• Понимание этих ограничений критически важно для интеграции ИИ в процесс принятия решений.

• Ограничения ИИ подчёркивают важность человеческого надзора в сложных задачах.

• Роль человеческой экспертизы остаётся критически важной в областях, где требуется суждение.

ИИ и ограничения человеческого познания

• ИИ бросает вызов традиционным ограничениям человеческого познания в прогрессе.

• Я думаю, вы указываете на эпоху, где по сути ограничением был размер нашего мозга — то, какие технологии мы открывали или какой прогресс делали… в цивилизации или… в общественной организации; и теперь это больше не является ограничением.

  — Christian Catalini

• Достижения ИИ меняют то, как воспринимают интеллект и принятие решений.

• Институции, созданные вокруг дефицитного интеллекта, нуждаются в переоценке.

• Многие институции и… то, что мы делаем сегодня, было разработано на основе идеи, что познание или интеллект — дефицитны, и мы пытаемся извлечь максимум отдачи из самых талантливых людей в организации.

  — Christian Catalini

• Влияние ИИ требует переоценки организационных парадигм.

Интеграция искусственного сверхинтеллекта

• Интеграция ИИ приведёт к сложному обществу, сосредоточенному на верификации.

• Если предположить, что это по-прежнему верно — конечно, когда эти границы раздвигаются, тогда мы говорим о действительно очень-очень сложном обществе, и обществе, где мы имеем дело с «равными» и в конечном итоге с чем-то, что ещё более способно, чем мы… люди будут тратить гораздо больше времени на верификацию и на то, чтобы их намерения, их предпочтения — то, что они правильные — уважались.

  — Christian Catalini

• Человеческий надзор будет критически важным, чтобы гарантировать, что ИИ уважает человеческие намерения.

• Развивающиеся отношения между людьми и ИИ будут формировать динамику общества.

• Достижения ИИ подчёркивают необходимость человеческой верификации и надзора.

• Будущему обществу потребуется, чтобы люди сосредоточились на проверке действий ИИ.

                  **Раскрытие:** Эту статью редактировала Редакционная команда. Для получения дополнительной информации о том, как мы создаём и проверяем контент, см. нашу Редакционную политику.