先月、そのシステムは受付の小妹を「高リスク」とマークした。理由は彼女が毎日15回以上席でため息をついていたからだ。
彼女は人事に呼び出された。オフィスには彼女の向かい側に三人が座り、机の上には「感情変動曲線図」のプリントが広げられていた。彼女はその図を長い間見つめ、「私は母がICUにいるからため息をついているだけで、辞めたいわけではありません」と言った。人事はその図をしまい、彼女を再び呼び出さなかった。
しかし、システムは止まらなかった。より多くの人をマークし始めた。研究開発部の老張は、三日連続で会議室で笑わなかったためにマークされた。行政部の小劉は、退勤後にチームビルディングに参加しなかったため、「社交的孤立」と判定された。財務部の王姐は、会社のグループチャットで上司への返信速度が、先月の平均5秒から今月の平均11秒に延びたためにマークされた。マークされた人は翌日、必ず人事の面談リストに載った。
先週、システムは最高レベルの警告を出した。
従業員ではない。CEOだ。
システムは彼を「極度に危険、即時介入を推奨」と判定した。分析レポートには、彼が最近頻繁に会議室を歩き回り、昼食時間が不定で、瞳孔の収縮頻度が異常で、「抑圧された怒り」が声に検出されたと書かれていた。人事は彼に面談を申し出ることができず、そのレポートを直接取締役会に送った。翌日、CEOは全社員を大会議室に呼び、壇上に立ち、そのレポートを最前面に投影し、私たち全員を黙らせる一言を言った：「このAIは、私が会議室を歩き回っているのは先週妻が離婚を提案したからだと知らない。瞳孔の収縮も、今朝あなたたち全員がそれを恐れているのを見たからだとも知らない。」
彼はその場でこのプロジェクトを中止し、システムをオフラインにすると宣言した。会議後、私は自分の席に戻ったところ、受付の席が空になっているのに気づいた。彼女の席には、システムが印刷した感情変動曲線図と、ICUの面会時間を囲った台帳が置かれていた。彼女は台帳を持ち去り、その図はそのままだった。最上部にはシステムが自動生成した備考欄があり、彼女の15回のため息を「不明な悲しみ」に分類した。
その日の午後、私たちは空いたその席に一列に並び、一粒の飴を置いた。下のコンビニの店員が今日が何の日かと尋ねた。私は特に何もないと答えた。今日は同僚が来ていないが、彼女は今後来るかもしれないし、来ないかもしれないとも言った。彼女は追及しなかった。ただ、私たちがそのコンビニの飴をすべて買い尽くしたとき、静かに8割引きをしてくれた。

原文表示

このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております（表明・保証をするものではありません）。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。