Perusahaan memasang sebuah sistem pengawasan AI, yang mengklaim dapat memprediksi kecenderungan karyawan untuk keluar melalui analisis microexpressions dan intonasi suara.

Bulan lalu, sistem menandai asisten resepsionis sebagai "risiko tinggi".
Alasannya adalah dia menghela napas lebih dari lima belas kali setiap hari di tempat kerjanya.
Dia dipanggil oleh HR. Di kantor, tiga orang duduk di seberangnya, di atas meja terbentang sebuah "grafik kurva fluktuasi emosi" yang dicetak.
Dia menatap grafik itu cukup lama, lalu berkata: saya menghela napas karena ibu saya di ICU, bukan karena ingin keluar.
HR menyimpan grafik itu dan tidak pernah memanggilnya lagi.
Namun sistem tidak berhenti. Ia mulai menandai lebih banyak orang.
Zhang dari departemen R&D ditandai karena dia tidak tersenyum di ruang rapat selama tiga hari berturut-turut.
Xiao Liu dari departemen administrasi ditandai karena dia tidak mengikuti kegiatan tim setelah jam kerja, sistem menilai dia "terisolasi secara sosial".
Sister Wang dari departemen keuangan ditandai karena kecepatan balasnya di grup perusahaan, dari rata-rata lima detik bulan lalu, menjadi rata-rata sebelas detik bulan ini.
Setiap orang yang ditandai, keesokan harinya muncul dalam daftar panggilan HR.
Hingga minggu lalu, sistem mengeluarkan peringatan tingkat tertinggi.
Bukan karyawan.
CEO.
Sistem menilai dia "sangat berbahaya, disarankan segera intervensi".
Laporan analisis menunjukkan dia sering berjalan mondar-mandir di ruang rapat, waktu makan siang tidak tetap, frekuensi pupil menyempit tidak normal, dan suara terdeteksi mengandung "kemarahan yang tertekan".
HR tidak berani memanggilnya, dan langsung mengirim laporan itu ke dewan direksi.
Keesokan harinya, CEO memanggil seluruh perusahaan ke ruang rapat besar, dia berdiri di atas panggung, memproyeksikan laporan itu di bagian paling depan, dan mengucapkan satu kalimat yang membuat semua diam: AI ini tidak tahu bahwa saya berjalan mondar-mandir di ruang rapat karena istri saya mengajukan cerai minggu lalu.
AI ini juga tidak tahu bahwa pupil saya menyempit karena saya melihat kalian semua takut padanya pagi ini.
Dia langsung mengumumkan untuk memutuskan proyek ini dan mematikan sistemnya.
Setelah rapat selesai, saya kembali ke tempat kerja dan menemukan posisi resepsionis kosong.
Di meja kerjanya, tersimpan grafik kurva fluktuasi emosi yang dicetak oleh sistem, dan di sampingnya sebuah kalender yang lingkarannya menandai waktu kunjungan ICU.
Dia membawa pergi kalender itu, tapi tidak mengambil grafik itu.
Baris paling atas adalah catatan otomatis yang dibuat oleh sistem.
Sistem mengklasifikasikan lima belas kali dia menghela napas ke dalam kategori "Kesedihan Tak Jelas".
Sore itu, kami semua berbaris di posisi kosong itu dan menaruh satu permen.
Penjaga toko di bawah bertanya hari ini hari apa.
Saya bilang tidak ada apa-apa, ada satu rekan yang tidak datang hari ini, tapi dia mungkin akan datang lagi, atau mungkin tidak.
Dia tidak bertanya lebih jauh.
Hanya saat kami membeli semua permen di toko itu, dia diam-diam memberi diskon delapan puluh persen.