Финансовое сообщество обсуждает | Цзяньсяоцюань о добросовестности ИИ: что такое добро, как его реализовать, кто должен этим заниматься

Автор/ профессор Университета Китайской академии общественных наук, бывший заместитель секретаря Государственного совета Цзян Сяоцюань

Введение: В последнее время успешно прошла ежегодная научная конференция по развитию и управлению цифровой экономики Китая 2026 (Чунцин), организованная в Юго-западном университете политических наук и права. Профессор Университета Китайской академии общественных наук, бывший заместитель секретаря Государственного совета Цзян Сяоцюань выступила с основным докладом на тему «Искусственный интеллект к добру: что такое добро, как его реализовать, кто должен это делать».

Цзян Сяоцюань считает, что обсуждение «направленности ИИ к добру» уже ведется много, и в концептуальном плане существует высокий консенсус, однако недостаточно обсуждений о том, как реализовать и кто должен осуществлять эти «добрые» инициативы. Необходимо поставить этот вопрос в рамки знаний в области социальных наук для анализа и обсуждения.

Что такое добро: взгляд с точки зрения социальных наук

Долгое время обсуждения о «направленности ИИ к добру» велись активно, и в концептуальном плане существует высокий уровень согласия. Например, с момента публикации ЮНЕСКО в 2016 году «Предварительного проекта доклада о этике роботов» (Preliminary Draft Report of COMEST on Robotics Ethics) и до Парижского саммита по ИИ 2025 года, идеи управления ИИ получили широкое согласие.

Такие принципы, как безопасность, прозрачность, недискриминация, объяснимость, прослеживаемость, справедливость, инклюзивность, уважение к приватности, совместное благо, человекоцентричность, контроль человека — эти идеи постоянно повторяются, однако обсуждения о том, как реализовать и кто должен осуществлять эти «добрые» инициативы, остаются недостаточными. В основном такие дискуссии ведутся компаниями и техническими группами в рамках концепции «выравнивания», что является односторонним и изменчивым, и не обладает стабильностью.

Я считаю, что этот вопрос необходимо рассматривать в рамках знаний социальных наук, поскольку широкое понятие «добро» — это основная тема многих исследований в этой области. Технологии, направленные к добру, в первую очередь должны способствовать развитию экономики, прогрессу общества и благополучию народа, то есть повышению человеческого благосостояния.

Социальные науки не только могут предложить концептуальные пути к добру, но и в рамках универсальной системы знаний — установить стандарты оценки, пути реализации и ответственных за действия субъектов, обладая академическими знаниями и теоретическими возможностями.

1

Рациональность — это добро: эффективное распределение ресурсов, увеличение общественного благосостояния и справедливое распределение

«Рациональность» — это ключевое понятие в экономике, которая определяет «повышение эффективности распределения ресурсов, увеличение общественного благосостояния и относительно справедливое распределение» как признаки рациональности.

В рамках этой цели экономика выработала четкие стандарты оценки и показатели: повышение производительности факторов, увеличение соотношения затрат и результатов, рост доходов, стимулирование инвестиций в инновации — все это показатели эффективности распределения ресурсов; повышение уровня образования и здравоохранения, совершенствование системы социальной защиты — показатели увеличения общественного благосостояния. Исходя из этих критериев, ИИ явно способствует повышению производительности и росту общественного благосостояния, что делает его «добром» в техническом плане.

Как реализовать «рациональное добро», в экономике есть пути и ответственные субъекты. Например, обеспечение роли рынка в сфере развития ИИ как способа эффективного распределения ресурсов — это один из путей, что предполагает активное участие бизнеса. Конечно, рынок включает не только компании, но и необходимую «рыночную среду», такую как равные условия конкуренции и справедливый доступ, что требует развития и совершенствования регулирования рынка.

Если судить по справедливому распределению, то ИИ пока нельзя считать «добром». Коэффициент Джини, разрыв доходов — это показатели, используемые в экономике для оценки степени справедливости распределения результатов развития. По этим показателям влияние ИИ в настоящее время в основном негативное, то есть проявляется «недоброе» воздействие. С одной стороны, богатство концентрируется у немногих успешных инновационных компаний; с другой — роль ИИ в замещении труда в основном затрагивает средний и низкий доход, и пока не видно, что дальнейшее развитие ИИ сможет улучшить или изменить ситуацию.

Исторический опыт технологического прогресса показывает, что для решения этой проблемы необходимо, чтобы сами компании-разработчики ИИ прилагали усилия, а также чтобы государство лучше выполняло свою роль, поддерживая баланс между применением ИИ для замещения труда и созданием новых рабочих мест, а также совершенствуя долгосрочные системы социальной защиты и выполняя государственные обязанности.

2

Польза — это добро: выгоды для потребителей, выходящие за границы ВВП

Некоторые выгоды от технологического прогресса невозможно полностью измерить стандартными показателями роста ВВП, однако они приносят значительные излишки потребителей или так называемую пользу, то есть ощущение удобства, счастья и благополучия, — влияние ИИ в этой сфере особенно заметно.

ИИ приносит благо через удобство. Эти преимущества очень очевидны, однако значительная часть из них не отражается в ВВП. Например, автоматизированные сервисы на базе интернета, моделей ИИ и интеллектуальных агентов значительно облегчают жизнь пользователей, но не всегда приводят к экономической деятельности, которая учитывается в ВВП. Напротив, они могут замещать услуги, входящие в ВВП, например, автоматическая покупка билетов заменяет услуги кассиров, бесплатные онлайн-ресурсы заменяют подписки на газеты, электронная почта — почтовые отправления, и так далее, а также предоставляют множество бесплатных сервисов.

Культурная индустрия — яркий пример. Платформы развлечений и генеративные модели позволяют каждому наслаждаться музыкой, книгами, видео и более богатым культурным контентом, что значительно увеличивает культурное потребление. В то же время, рыночная оценка культурных продуктов по ВВП не показывает этого роста.

Например, по данным Американской ассоциации звукозаписи, доходы музыкальной индустрии США снизились с 14,6 млрд долларов в 1999 году до 7,5 млрд долларов в 2016 году, а выгоды для потребителей от цифровой музыки трудно измерить в ВВП. Хотя платформы, предлагающие бесплатные услуги, за счет рекламы создают ВВП, исследования показывают, что их вклад значительно уступает по сравнению с заменяемыми услугами и дополнительными выгодами. Очевидно, что ИИ приносит пользу.

ИИ способствует равенству. Он расширяет доступ к сфере потребления и креативным возможностям, ранее доступным только богатым и образованным слоям. Например, в культурной сфере, люди с низким уровнем чтения могут получать изображения и видео, созданные ИИ; потребители с низким доходом могут пользоваться бесплатными платформами, чтобы наслаждаться дорогими культурными продуктами и услугами, недоступными в офлайн-режиме (например, спектаклями в элитных театрах).

Также, в области культурного творчества, обычные люди, не обладающие профессиональными навыками, могут превращать свои креативные идеи в культурные продукты и делиться ими. В соцсетях блогеры не только продают свои товары и услуги, но и общаются с подписчиками, делятся жизнью, эмоциями, модой, мечтами, что дает потребителям духовное и психологическое удовлетворение.

Польза в виде бесплатных, развлекательных и взаимопомощных форм проявляется трудно измеримыми в ВВП или доходах, однако ее можно оценить с помощью методов оценки условной стоимости или оценки по желанию. Например, спрашивая потребителей, сколько они готовы заплатить за эти выгоды, или сколько им нужно компенсировать за отказ от бесплатных услуг. Можно определить, сколько в целом обществу приносит польза от использования таких сервисов.

Исследования показывают, что у низкоимущих людей польза от ИИ в отношении их доходов выше, чем у богатых, что свидетельствует о его роли в обеспечении равенства и повышении благосостояния бедных.

Однако польза может иметь и негативные стороны. Некоторые потребительские удовольствия, вызывающие временное психологическое удовлетворение, могут привести к долгосрочным вредам для тела и духа, например, зависимость от онлайн-игр или погружение в информационную изоляцию, что вызывает ограничение восприятия и понимания мира. Эти проблемы широко признаны обществом, и пострадавшие страдают, но не могут избавиться от них самостоятельно.

Технологические разработчики и пользователи должны проявлять сдержанность и самодисциплину. Без соответствующих мер не стоит прибегать к вредным практикам, а при наличии негативных последствий — применять технологические ограничения. Как производители несут ответственность за качество продукции, так и в случае вредных последствий необходимо вводить ограничения.

Также необходимо участие государства и общества в регулировании. В отношении тех «злых» проявлений, которые вызывают общественный резонанс — например, нарушение личной жизни, распространение терроризма, пропаганда ненависти — государственные органы должны принимать жесткие меры.

3

Согласие — это добро: общественное признание долгосрочных последствий технологий

Междисциплинарные исследования в области социальных наук включают изучение «согласия», которое в социологии обозначает высокий уровень общественного консенсуса. В этой статье под «согласием» понимается «максимальный общий консенсус и социальное единство, основанное на нем», и этот термин используется для обсуждения этических вопросов в эпоху ИИ.

Проблемы этики технологий существовали давно, однако в эпоху ИИ они приобрели особую остроту, поскольку их характер кардинально меняется. Ранее наука рассматривалась как «открытие природных законов», которые являются внутренними закономерностями природного порядка, сформированными в результате миллиардных лет борьбы и эволюции сил природы. Сейчас ИИ создает новые ситуации, которых в природе не было, формирует новые порядки, многие исследования направлены на изменение естественного состояния человека или общества.

Например, в области биологических наук, где активно применяются ИИ, многие исследования пытаются изменить физиологию, репродукцию, когнитивные структуры человека, а также вмешиваться в формирование сознания, что может привести к изменению субъективности и контроля над собственным поведением. Некоторые создают новые формы жизни с неизвестными долгосрочными последствиями. Создание таких новых объектов и процессов вызывает вопросы, предсказать которые сложно даже ученым, их создавшим. Это отличается от классических научных открытий.

В таких условиях важно, чтобы общество согласилось с определенными направлениями научного развития, что и есть «согласие». Я однажды высказал мнение уважаемому ученому, что его исследование, которое он собирается провести, вызывает у меня как любителя технологий интерес и восхищение, но с точки зрения экономики — я не могу его одобрить, потому что оно, по сути, «не согласуется» с общественными интересами.

Когда ученые пытаются изменить черты человека или природные законы, сформировавшиеся миллионами лет, это становится важной проблемой для общества, и общество должно иметь право знать и участвовать в принятии решений, выражая свое согласие или несогласие. Такие дискуссии требуют прозрачности и коллективных обсуждений, а не только научных аргументов или оценок по принципу «желания».

Учёные обязаны информировать общество о возможных последствиях своих исследований, не ограничиваясь только положительными аспектами, и обеспечить широкое обсуждение для формирования общего общественного согласия. Только при полном выражении мнений и постоянных дебатах можно приблизиться к «согласованному» решению и определить его место в реальности. Нельзя позволять технологической логике полностью доминировать, и необходимо избегать поспешных «инноваций» со стороны отдельных ученых, не обладающих достаточной ответственностью и предвидением, что может привести к необратимым последствиям. В целом, для таких вопросов, как направление ИИ к добру, наличие общественного согласия — обязательное условие.

Механизмы: сотрудничество сторон для продвижения ИИ к добру

Рассмотрим механизмы реализации идеи «направленности к добру». Помимо естественного результата — «польза» — «рациональное добро» и особенно «согласованное добро» не возникает само по себе. Тогда откуда берутся стимулы к добру и как их реализовать?

Практика показывает, что на разных уровнях существуют как механизмы стимулирования «направленности к добру», так и факторы, вызывающие «недоброе» поведение. В эпоху ИИ силы, ведущие к добру и к недобру, отличаются от прежних, и «направленность к добру» требует как саморегуляции, так и общественного контроля.

Первое — стимулы для инноваций и деятельности производителей ИИ, ориентированные на добро, являются значимыми и эффективными. Важный фактор — необходимость масштабного внедрения ИИ, и если его «добро» не получит общественного признания, то его применение будет невозможным или недолговечным. Высокий уровень внимания общества к вопросам безопасности и этики ИИ создает мощное давление и ценностное направление для компаний и предпринимателей.

Репутация требует, чтобы производители «шли к добру», и при возникновении обвинений в «недобрых» действиях — быстро реагировали и исправляли ситуацию. В 2023 году OpenAI столкнулась с критикой за использование чувствительных данных пользователей при обучении, и сразу пообещала не повторять этого. Аналогичные случаи были у ведущих отечественных компаний. В этом смысле, механизмы стимулирования к добру становятся все более распространенными и мощными.

Второе — распределенное управление как особенность управления ИИ к добру. В отличие от традиционных отраслей, где ресурсы распределялись по принципу «один к одному», в эпоху ИИ распределение ресурсов происходит в группах и по сценариям.

Цифровое правительство, умные города, транспорт, здравоохранение и низкоорбитальные отрасли требуют участия множества участников, формирующих распределенные сообщества по конкретным сценариям. В этих сообществах участники самостоятельно выбирают партнеров и формы сотрудничества, а каждый сценарий имеет свои правила, определяющие, что считается «добром» или «недобром» в рамках этого контекста. Соблюдение этих правил обеспечивает управление и контроль, что можно назвать распределенным управлением.

Третье — роль публичной власти. Некоторые последствия «недобрых» действий не могут быть оставлены на усмотрение рынка и общества, и требуют жесткого запрета или «черных списков». Например, нарушение приватности без согласия пользователя, распространение ложной информации, терроризм, пропаганда ненависти.

Кроме того, для эффективности рыночного и общественного регулирования государство должно обеспечивать прозрачность и обязательную открытость информации. Компании должны быстро и ясно информировать потребителей о своих условиях, а также о последствиях своих инноваций.

И, наконец, важна роль государства в формировании сигналов. Законодательство должно быть относительно стабильным, чтобы не мешать развитию, однако государство может активно публиковать рекомендации, лучшие практики, критиковать недобросовестные действия и проводить консультации с компаниями, что значительно способствует продвижению ИИ к добру.

В заключение, возвращаясь к основной теме статьи, социальные науки должны играть важную роль в продвижении ИИ к добру. Обладая богатой теоретической базой, они позволяют лучше оценивать добро и зло в ИИ. В области оценки эффективности распределения ресурсов, социального благосостояния, справедливого распределения богатства, общественного восприятия и поддержания гармонии в обществе — социальные науки внесли значительный вклад. В эпоху ИИ мы должны приложить еще больше усилий, взять на себя ответственность и участвовать в обсуждениях, практиках и теоретическом построении направления ИИ к добру, занимая центральные и передовые позиции.

Источник: Собрано по материалам выступления профессора Цзян Сяоцюань

Редактор: Лань Иньфань

Контроль качества: Цин Тин