Компания установила систему ИИ-监控， которая утверждает, что может предсказать склонность сотрудников к увольнению, анализируя微表情 и интонацию голоса.

В прошлом месяце система отметила младшую сотрудницу на ресепшене как «высокий риск».
Причина — она каждый день на рабочем месте вздыхала более пятнадцати раз.
Ее вызвали на беседу в отдел кадров.
В офисе трое человек сидели напротив нее, на столе лежала распечатанная «кривая эмоциональных колебаний».
Она долго смотрела на эту графику и сказала: «Я вздыхаю потому, что моя мама в реанимации, а не потому, что хочу уволиться».
HR убрала график и больше к ней не обращалась.
Но система не остановилась.
Она начала отмечать больше людей.
Старого сотрудника из отдела разработки, старого Жана, отметили, потому что он три дня подряд не улыбался в конференц-зале.
Маленькую Лю из административного отдела отметили, потому что она не участвовала в командных мероприятиях после работы, система решила, что она «социально отчуждена».
Сотрудницу из финансового отдела, Ван Цзе, отметили, потому что скорость ее ответов в корпоративной группе выросла с среднего пяти секунд в прошлом месяце до одиннадцати секунд в этом.
Каждого отмеченного человека на следующий день включали в список для беседы с HR.
До прошлой недели система выдала самый высокий уровень тревоги.
Не сотрудника.
А CEO.
Система определила его как «крайне опасного, рекомендуется немедленное вмешательство».
В аналитическом отчете было указано, что он недавно часто ходил по конференц-залу, обеденное время было непредсказуемым, зрачки сужались необычно, и в голосе обнаружили «подавленный гнев».
HR не решилась его вызывать на беседу, и отправила отчет прямо совету директоров.
На следующий день CEO собрал всю компанию в большой зал, встал на сцену, проецировал тот отчет на передний план и произнес слова, которые заставили всех замолчать:
«Этот ИИ не знает, что мои прогулки по конференц-залу — из-за того, что моя жена на прошлой неделе подала на развод.
Он также не знает, что мои суженные зрачки — потому, что я сегодня утром увидел, что все вы боитесь его».
Он тут же объявил о прекращении этого проекта и отключении системы.
После собрания я вернулся к своему рабочему месту и обнаружил, что ресепшн пуст.
На его месте лежала та самая графика эмоциональных колебаний, напечатанная системой, а рядом — блокнот с датами посещения реанимации, выделенными кружком.
Она забрала блокнот, а графика осталась.
В верхней строке — автоматически сгенерированная заметка системы:
«Ее пятнадцать вздохов классифицированы как «неясная грусть»».
Того дня после обеда все мы стояли в очереди у пустого рабочего места и положили туда по конфете.
Продавец в магазине на первом этаже спросил, какой сегодня день.
Я ответил, что ничего особенного, один из коллег сегодня не пришел, но, возможно, он вернется, а возможно — нет.
Он не стал спрашивать подробнее.
Только когда мы купили все конфеты в магазине, он тихо дал нам дополнительную скидку в восемьдесят процентов.