離職した同僚が精錬され、デジタル永生になった

先日、山東のゲームメディア会社が、退職した従業員をAIデジタルヒューマンとして訓練し、働き続けられるようにしようと試みたところ、話題の#公司用AI复刻离职员工继续工作#が話題のホットワードとして急上昇し、注目を集めた。

報道によると、同社の在職社員の一人は、これは会社による大胆な試みだという。事件の同僚は本当に退職しており、本人の同意のもとで、本人としてもなかなか面白いと思ったそうだ。その同僚が退職する前は人事担当者で、デジタル分身は現在、相談対応、招待・誘致、PPTや表の作成など、簡単な業務ができる。少し物足りなく、単純な指示にしか対応できない。

当事者は気にしていなくても、ネット上では大騒ぎになった。「同僚が煉化された」「私の努力が全部デジタル燃料になった」「いいほうに考えれば、これもデジタル不老不死だね」……緊張、無力感、苦笑いが、コメント欄の総合的な顔文字となった。では、なぜ退職した従業員のデジタル分身が、ネットユーザーをここまで緊張させるのだろうか？

一

「デジタル社員」は突発的な思いつきではなく、段階的に“形になっていく”技術だ。

報道によれば、現在AIの分野には「同僚.Skill」というプロジェクトがすでにあり、その機能は、退職した同僚の仕事データを利用して、AIがその仕事を代替できるデジタル同僚を生成することだ。リリースされると爆発的に話題になり、さらに「ボス.Skill」「前任.Skill」などの派生商品も出てきた。

この技術がどれほど高度かというと、実はそうでもない。専門家が分解したところ、現状の「デジタル社員」とは、エージェントの技能標準に従うプロンプト＋クローラ・エンジニアリングのプロジェクトにすぎず、俳優に台本を渡し、その台本の作風どおりに演じさせるようなものだ。このエージェントは記憶もなく、昨日何を言ったかも覚えておらず、「専門知識と判断ロジック」を蒸留することもできない。

要するに、これはオウム返しと本質的に大差ない。少なくとも現時点では、このようなデジタル分身は、実在の社員のように「粒度を合わせる」「プロジェクトのクローズド・ループを実現する」「基礎ロジックをつなぐ」ことはできず、まして「尻ぬぐい（責任の転嫁）」もできない。

では、なぜそれでも職場の人々は緊張するのか？

これはたぶん「不気味の谷」の効果だろう。AIが“人”に十分近づいているのに、肝心なところでは明らかに“人”ではないとき、人は本能的に違和感と不安を抱く。 この不快感は、感知レベルでのズレから生まれる。人間の表現、語気、行動ロジックをまねるが、真の理解や経験による支えが欠けているため、なじみ深いのにどこか見知らぬ、という状態が現れる。

デジタル分身は今のところまだそこまで賢くないとはいえ、誰もが知っている。それはロボットとは違い、退職した同僚が残した残像であり、「形は似ているが心は離れている」のだ。完全に道具として扱うこともできないし、本当に一人の人間として受け止めることも難しい。

だからこそ、人々は不安を感じる——その“もの”自体がどれほどすごいかというより、むしろ一つの境界が緩む感覚があるのだ。「人」と「非人」をまだはっきり区別できるのだろうか？

二

AIの急激な進歩がある一つの潮流を生んだ。人類は自分自身をコントロールできなくなりつつあるのだ。自分では性格や思考ロジック、行動の仕方だと思っていたもの——そうしたすべての“人間らしさ”は、データ化できるように見える。

これは、根拠のない不安ではない。海外では最近「監視資本主義」という議論が盛り上がっている。これは、テクノロジー、情報、ソーシャルメディアの分野における大手企業が、個人のデータを体系的に奪い取り、それらのデータを自分のものとして扱うという話だ。こうしたデータ収集の規模は巨大で、強力なアルゴリズムや機械学習システムに条件を与え、人々の行動を予測できるようにする。この監視はさらに極端に非対称でもある。一方はもう一方を見られるが、もう一方は相手を見られない。

職場の人も、例外ではいられない。次々と普通の人がデータ化され、プラットフォームや組織の仕組みの中に組み込まれていく。あらゆる表現の癖、判断のルート、コミュニケーションのスタイルが分解され、再利用できるモジュールになる。経験はもはや「経験」であるだけではなく、複製され呼び出され得る「資産」になる。人はまるで、いつでも呼び出せるデータ集合の一部として抜け殻のようになり、残るのはモデルで、消えるのは主体だ。

この過程で、会社は利益を得るだけでなく、まだ退職していない従業員も利益を得る（元同僚のバーチャルな同伴を受けられる）が、「保存（留存）」される側の本当の本人（データ）は、価値の配分から次第に排除されていく。

その結果、人はある程度の“消耗品”に変わっていくように見える。データの抽出が終われば、それはもはや価値を持たない。この一幕を想像するだけでも、すでに非常に不安になる。

多くの人が、法律によって自分の権利を守ることはできないのだろうか、と考えるはずだ。

すでに法律の専門家が、この種のデータ蒸留は違法に当たる疑いがあると提起している。退職した従業員のチャット履歴、仕事のメール、個人的な仕事の習慣などは、「個人情報保護法」で定義される個人情報に該当し、その中で扱われるプライベートなやり取りの内容は、機微な個人情報になり得る。従業員の同意なしにこの種のデータを収集し、それをAIの訓練に使うことは、個人情報の収集・使用・加工の権利を直接侵害することになる。

同時に、「生成系人工知能サービス管理暫定弁法」に基づき、生成系AIサービスの提供者は、法に従って事前訓練、最適化訓練などの訓練データ処理活動を行うべきで、個人情報が関わる場合は、個人の同意を取得するか、法律・行政法規で定められたその他の状況に該当しなければならない。

しかし客観的に見ると、ここには非常に多くの曖昧な領域がある。プライベートなチャットやメールボックスはプライバシーだと認定できるかもしれない。では、グループチャットでの発言、レポートの作成、会議でのスピーチはどうか。これらは仕事のポジションに関連し、公開の場で発信される内容であり、会社に“取得しないよう求める”ことはできるのだろうか？

率直に言えば、企業にとって価値があるのは、「話し方のスタイル」ではないはずだ。むしろそれは“ネタ弄り”のようなアートであり、社長たちが最も気にしているものでもない。最も注目されやすいのは、プロセスとして沈殿し、判断や経験として蓄積できる部分だ。

だが、沈殿したこれらの部分は、職場と高度に関連しており、「所有権」を明確に定義するのは難しいだろう。従業員が退職したら、自分が関わったあらゆる議事録のやり取りを持ち去れる、などと言えるのだろうか？ AIが学習するかどうか以前に、退職前だって従業員はきちんと“引き継ぎ”をしてきたではないか？

三

もちろん、これは職場の人々の「空が落ちた」ことを意味するわけではない。成果物には公共性があるかもしれないが、その間の個人情報は依然としてプライバシーだ。たとえば、書いたレポートが公開されているなら、それはチャット履歴の中に「家の近くのカフェで残業している」「最近病気で、少し遅れて提出する」などの個人情報が残っている場合、それらを明確に個人情報として扱い、会社による濫用を拒否できるのだろうか？

これは非常に細部の問題のように見えるが、まさにその細部が境界が本当に成立するかどうかを決める。さらに、見た目には取るに足らないようなこれらの場面で、「何が使ってよいのか、何が使ってはいけないのか」「何が仕事で、何がプライバシーなのか」をはっきり見分けられるかどうかで、個体がデータ化の過程で丸ごと一括にされ、無差別に“蒸留”されることを防げる。

法律が徐々に明確になれば、それは少なくとも一つの慰めになる。アルバイト（働く人）が価値を“搾り取られる”のを避けるのは難しいかもしれないが、少なくとも“煉化される”ことは避け、、人としての主体性を保てる。

よく考えてみると、デジタル分身を最も恐れる職業とは、実は従来の仕事モデルだ。内容は機械的で、プロセスは高度に標準化され、主に経験主義に依存している仕事である。こうした仕事は最終的に最も分解されやすい。一度“蒸留”されれば全体が見えてしまい、すぐに置き換えられる。この問題は、デジタル分身だからこそ脅威になるというより、技術の進歩につれて危険が到来するだけかもしれない。

今回のデジタル分身が引き起こした議論は、実は一つのリマインドでもある。できるだけ早く自分を救うべきだ、ということだ。さらに言えば、逆向きのリマインドにもなり得る。「なぜ私たちは、先に自分を“煉化”できないのか？」

私たちが自分自身を複製する必要がある、という意味ではない。それはあまりにも奇妙だ。そうではなく、私たちはAIを扱う能力を自分で身につけるべきだ。抽出され得る部分を自分で積極的に整理し、構造化し、自分で定義し、自分で使う：どの経験が再利用できるのか、どの判断が方法として沈殿できるのか、どのプロセスはツールに任せて完了できるのか。

一言で言えば、複製可能な部分はシステムに任せ、代替不可能な部分は自分の中に残す。

これは、つい最近流行した「エビ飼育熱」にも似ている。安全上の問題で冷めてはいるが、それでも引き起こした全国的な熱狂は、実は前向きな姿勢だった。つまり、技術が篩にかけて選別するのを受け身で待つのではなく、積極的に参加し、それを理解し、使い、できるだけ早く機械的な仕事を代替できるツールを見つけることだ。

これは、すべてのAIへの挑戦に対する対処法でもあるのかもしれない。繁雑でプロセス的な仕事からいち早く解放され、そのうえで自分の「人間らしさ」を取り戻し、自分だけの、人としての、予測できない創造性を見つけて、大データに基づく機械的な模倣への耐性をつける。

必ず見て取る必要がある。職場はすでに再構築されている：AIはあなたの仕事を奪わないかもしれないが、「AIを使う人」は奪う。自己を再構築するとは、あなた自身をデータに変えることではなく、データによって定義され得ない人間に徹底的になることだ。

この記事の出典：澎湃新聞

リスク提示および免責条項

        市場にはリスクがあり、投資には慎重さが必要です。この記事は個人の投資助言を構成せず、特定のユーザーの特別な投資目標、財務状況、または要件を考慮していません。ユーザーは、この記事に含まれるいかなる意見、見解、または結論が、自身の特定の状況に適合するかどうかを検討すべきです。これに基づいて投資する場合、責任は自己に帰属します。