“Уволенный коллега был оцифрован и стал цифровым бессмертием”

Недавно игровая медиакомпания из провинции Шаньдун попыталась обучить уволенных сотрудников, чтобы они продолжали работать в качестве AI-цифровых людей, и обсуждение #公司用AI复刻离职员工继续工作# тут же поднялось в топ горячих тем, вызвав повышенное внимание.

Как сообщают СМИ, один из действующих сотрудников компании заявил, что это смелая попытка со стороны компании: в истории с инцидентом коллега действительно был уволен; после его согласия сам он тоже счёл это довольно забавным. До увольнения этот коллега был специалистом по кадрам; его цифровое воплощение сейчас может выполнять простые задачи, такие как консультации, рассылка приглашений, подготовка PPT и таблиц. Оно немного «туповатое» и может справляться лишь с некоторыми простыми командами.

Хотя сам участник не возражает, в интернете это вызвало бурю. «Коллегу “превратили в продукт”»; «Все мои усилия превратились в цифровое топливо»; «Если смотреть с хорошей стороны, это тоже цифровое бессмертие»… Напряжение, бессилие, горькая улыбка стали общими эмоциями в комментариях. Так почему же цифровое воплощение уволенного сотрудника заставляет пользователей нервничать?

一

«Цифровой сотрудник» — это не внезапная прихоть, а технология, которая постепенно «оформляется» по мере развития.

По сообщениям, в настоящее время в сообществе AI уже существует проект с названием «同事.Skill», чьей функцией является использование рабочих данных уволенных коллег для генерации с помощью AI цифровых сотрудников, которые смогут заменить их на рабочем месте. После публикации проект сразу стал вирусным, а кто-то даже выпустил производные продукты вроде «老板.Skill», «前任.Skill» и подобных.

Если говорить, насколько это «продвинуто», то на самом деле это не так уж и высоко. Профессионалы, которые разбирали технологию, отмечают, что сейчас «цифровой сотрудник» — это, по сути, промпт, соответствующий стандарту навыков интеллектуальных агентов, плюс проект по работе с краулингом. То есть это примерно как дать актёру сценарий: пусть он играет по стилю сценария. Этот интеллектуальный агент не имеет памяти, не помнит, что говорили вчера, и также не может провести дистилляцию «профессиональных знаний и логики суждений».

Проще говоря, по сути это мало чем отличается от попугая, который повторяет услышанное. По крайней мере на данный момент такие цифровые копии не могут, как настоящий сотрудник, «выстроить уровень детализации»; «замкнуть проектный цикл»; «наладить базовую логику» — и тем более «взять на себя ответственность по всем вопросам».

Тогда почему это всё равно заставляет нервничать людей на рынке труда?

Возможно, это эффект «зловещей долины»: когда AI становится достаточно похожим на «человека», но в ключевых местах явно не является «человеком», люди инстинктивно начинают ощущать дискомфорт и тревогу. Это неудобство возникает из-за смещения на уровне восприятия: агент имитирует человеческое выражение, интонации и логику поведения, но лишён реального понимания и опоры на опыт — поэтому проявляется состояние одновременно знакомое и чуждое.

Хотя цифровые двойники сейчас ещё недостаточно умны, все понимают: они не как роботы. Это — остаточный образ, который оставил уволившийся коллега, «похоже по форме, но далеко по сути». Его нельзя полностью воспринимать ни как просто инструмент, ни как настоящего человека.

Именно поэтому людям становится тревожно — не потому, что само по себе это настолько «круто», а потому что размывается граница: «человек» и «не человек» ещё можно чётко различить?

二

Бурный рост AI породил тенденцию: люди теряют контроль над собой. Мы как будто думаем, что наш характер, логика мышления и способ действовать — всё это «человеческое» можно оцифровать и превратить в данные.

Это не какая-то необоснованная тревога. В последнее время за рубежом разгорелось обсуждение — «надзорный капитализм». Речь о том, что крупные компании в сфере технологий, информации и соцмедиа системно лишают людей их данных и присваивают их себе. Масштабы сбора данных огромны, что создаёт условия для мощных алгоритмов и систем машинного обучения, способных предсказывать поведение людей. Такой надзор крайне неравномерен: одна сторона может видеть другую, а другая — не может видеть.

Людям в офисах тоже трудно полностью остаться в стороне: обычные люди один за другим превращаются в данные, попадают в системы платформ и организаций. Все привычки выражаться, пути оценок и стиль коммуникации разбираются на модули, пригодные для повторного использования. Опыт больше не просто «переживание», а становится «активом», который можно копировать и вызывать. Человек будто опустошается до набора данных, которые можно в любой момент вызвать — остаётся модель, исчезает субъект.

В этом процессе компания выигрывает, и ещё не уволившиеся сотрудники тоже могут выигрывать (получая виртуальное сопровождение бывшего коллеги), но человек, который действительно оказывается «сохранённым» (то есть данные), постепенно выводится из распределения ценности.

Отсюда человек кажется расходным материалом в некоторой степени: как только данные извлечены до конца, он уже не имеет ценности. Стоит только представить эту сцену — и становится очень тревожно.

Наверняка многие захотят спросить: можно ли защитить свои права через законы?

Уже есть юристы, которые утверждают, что такая перегонка данных (data distillation) может подпадать под незаконные действия. Чаты уволенного сотрудника, рабочие письма, личные рабочие привычки и т.п. относятся к личной информации в смысле «Закона о защите персональной информации», а затрагивающееся при этом содержание личных коммуникаций может также составлять чувствительную персональную информацию. Сбор и использование такого типа данных для обучения AI без согласия сотрудника напрямую нарушает его право на сбор и использование, а также на обработку персональной информации.

Кроме того, согласно «Временному регламенту по управлению услугами генеративного искусственного интеллекта», поставщики услуг генеративного AI должны по закону проводить мероприятия по обработке тренировочных данных, такие как предварительное обучение и оптимизационное обучение. Если в таких данных затрагивается личная информация, необходимо получить согласие человека либо должны выполняться иные случаи, предусмотренные законом или административными нормативными актами.

Но объективно говоря, здесь есть множество размытых зон. Личные чаты и почтовые ящики, возможно, можно признать приватными. А как быть с высказываниями в групповых чатах, подготовкой отчётов, выступлениями на встречах? Можно ли потребовать, чтобы компания не собирала содержание, которое связано с рабочим местом и публикуется в публичных местах?

Если рассуждать по-честному, для предприятия ценность — скорее всего не в «стиле речи». Это больше похоже на арт-практику ради шуток/игры слов, а не на то, что больше всего волнует боссов. Самое легко «нацеливаемое» — это те части, которые можно накопить и превратить в процессы, решения и опыт.

Но все эти накопленные части тесно связаны с работой, и «право собственности», вероятно, будет очень трудно определить. Нельзя же сказать, что сотрудник уволился — и забрал с собой все протоколы обсуждений, в которых участвовал? К тому же, не говоря уже о том, что AI будет учиться — разве до увольнения сотрудники не были обязаны хотя бы нормально «передать дела»?

三

Но это, конечно, не значит, что «всё рушится» для людей в офисах. Результаты работы, возможно, имеют публичность, но при этом персональная информация остаётся приватной. Например, написанный отчёт может быть опубликованным. Тогда в переписке оставленные личные данные вроде «я задерживаюсь в кофейне рядом с домом» или «в последнее время заболел, поэтому позже сдам» — можно ли чётко признать персональной информацией и запретить компании злоупотреблять ею?

Это может оказаться крайне частным вопросом, но именно он решает, могут ли границы действительно существовать. И только в таких, казалось бы, незначительных сценариях можно разобраться, «что можно использовать, а что нельзя», «что относится к работе, а что — к приватности», чтобы личность не оказывалась целиком упакованной и без разбора «перегнанной» в процессе оцифровки данными.

Постепенно сделать юридические нормы более ясными — по крайней мере, это тоже своего рода утешение. Возможно, трудящимся сложно избежать «выжимания» ценности, но хотя бы можно избежать «превращения в продукт» и сохранить свою субъектность как человека.

Если внимательно подумать, то профессия, сильнее всего пугающая цифровых двойников, — это всё же традиционная модель работы: контент механический, процессы высоко стандартизированы, а опора главным образом на эмпирический опыт. Такая работа в конечном итоге легче всего поддаётся разбору: стоит только «перегнать» — и всё становится видно, легко заменить. Эта проблема, возможно, не только цифровые двойники создают угрозу. По мере прогресса технологий опасность придёт сама.

Дискуссия, вызванная на этот раз цифровыми двойниками, по сути является также напоминанием: нужно как можно скорее заняться самоспасением. Это даже может быть перевёрнутым напоминанием: почему мы не можем сначала «перегнать/препарировать» себя — на своё усмотрение?

Речь не о том, что нам всем нужно «скопировать себя»; это слишком странно. Вместо этого мы сами должны уметь работать с AI: те части, которые можно выделить и переработать, нужно заранее систематизировать, структурировать, и определить и использовать их самим. Определить: какие знания/опыт можно использовать повторно, какие суждения можно превратить в методы, какие процессы можно поручить инструментам.

Одним предложением: отдайте системе то, что можно копировать; оставьте себе то, что незаменимо.

Это похоже на недавний всплеск интереса к «разведению креветок»: хотя из-за проблем с безопасностью он пошёл на спад, вызванный этим общий ажиотаж на самом деле отражал позитивное отношение — больше не ждать пассивно, когда технологии отберут за вас, а активно в них участвовать: понять их, использовать и как можно быстрее найти инструмент, который сможет заменить механическую работу.

Возможно, это же способ отвечать на все вызовы, связанные с AI: как можно скорее освободиться от утомительной процессной работы, а затем вернуть себе своё «человечность» — найти в себе непредсказуемую творческость, которая отличает человека, и сопротивляться механическому подражанию, опирающемуся на большие данные.

Нужно также признать: рабочая сфера уже меняется. AI не заменит вашу работу, но «тот, кто умеет использовать AI», заменит». Перестройка себя — это не превращение себя в данные, а превращение в человека, которого нельзя определить данными.

Источник статьи: The Paper (澎湃新闻)

Предупреждение о рисках и отказ от ответственности

        На рынке есть риски, инвестируйте осторожно. Настоящая статья не является персональной инвестиционной рекомендацией и не учитывает особые инвестиционные цели, финансовое положение или потребности отдельных пользователей. Пользователям следует оценить, соответствуют ли любые мнения, взгляды или выводы, содержащиеся в данной статье, их конкретным обстоятельствам. При инвестировании ответственность лежит на вас самих.