Компанія встановила систему штучного інтелекту для моніторингу, яка нібито може передбачити схильність співробітників до звільнення, аналізуючи мікроекспресії та інтонацію голосу.

Минулого місяця система позначила помічницю на ресепшн як «високий ризик». Причиною було те, що вона зітхала понад п’ятнадцять разів щодня на робочому місці.
Її викликали до HR. В офісі сиділи троє людей навпроти неї, на столі лежала роздрукована «крива емоційних коливань». Вона довго дивилася на цю графіку і сказала: я зітхаю через те, що моя мама в реанімації, а не через бажання звільнитися.
HR зібрав цю графіку і більше її не викликав.
Але система не зупинилася. Вона почала позначати більше людей.
Старий співробітник відділу розробки, 张, був позначений, бо три дні поспіль він не сміявся у конференц-залі.
Маленька Лю в адміністративному відділі була позначена, бо після роботи не брала участі у командних заходах, і система визначила її як «соціально ізольовану».
Сестра Ван з фінансового відділу була позначена, бо швидкість її відповідей у корпоративному чаті зросла з середніх п’яти секунд минулого місяця до середніх одинадцяти цього місяця.
Кожного, хто був позначений, наступного дня з’являвся у списку для HR.
До минулого тижня система видала найвищий рівень попередження.
Не співробітник.
А CEO.
Система визначила його як «надзвичайно небезпечного, рекомендується негайне втручання».
У звіті йшлося, що він останнім часом часто ходить по конференц-залі, обідній час нерегулярний, частота звуження зіниць аномальна, у голосі виявлено «заглушену злість».
HR не наважувався викликати його на бесіду, тому відправив звіт безпосередньо до ради директорів.
Наступного дня CEO зібрав усіх у великій конференц-залі, став на сцену, відобразив цей звіт на проекторі і сказав таку фразу, яка змусила всіх замовкнути:
«Цей AI не знає, що я ходжу по конференц-залі, бо моя дружина минулого тижня подала на розлучення».
«Він також не знає, що моє звуження зіниць — через те, що я сьогодні вранці побачив, що кожен з вас боїться його».
Він одразу оголосив про припинення цього проекту і відключення системи.
Після зборів я повернувся до свого робочого місця і побачив, що місце на ресепшн порожнє.
На його столі лежала та сама графіка емоційних коливань, яку система роздрукувала, поруч — блокнот із позначками часу відвідування реанімації.
Вона забрала блокнот із собою, а графіку залишила.
Верхній рядок — автоматично згенерований коментар системи.
Вона класифікувала її 15 зітхань як «невідомий смуток».
Того дня вдень усі ми стояли у черзі біля порожнього робочого місця і клацнули по цукерці.
Продавець у магазині на нижньому поверсі запитав, який сьогодні день.
Я сказав, що нічого особливого, один колега сьогодні не прийшов, але можливо, він повернеться, а можливо — ні.
Він не став питати більше.
Просто, коли ми закінчили купувати цукерки у тому магазині, він тихо зробив нам знижку на 20%.