A empresa instalou um sistema de monitorização de IA, que afirma ser capaz de prever a intenção de saída dos funcionários analisando microexpressões e tom de voz.

No mês passado, o sistema marcou a recepcionista como “alto risco”. O motivo foi que ela suspirava mais de quinze vezes por dia na sua estação de trabalho.
Ela foi chamada para uma conversa com Recursos Humanos. No escritório, três pessoas estavam sentadas do lado dela, com um gráfico impresso de “curva de oscilações emocionais” espalhado na mesa. Ela olhou para o gráfico por um longo tempo e disse: Eu suspiro porque minha mãe está na UTI, não porque quero sair. HR guardou o gráfico e não a procurou mais.
Mas o sistema não parou. Começou a marcar mais pessoas. O velho Zhang do departamento de desenvolvimento foi marcado porque não sorriu na sala de reuniões por três dias consecutivos. A pequena Liu do departamento administrativo foi marcada porque não participou do evento de equipe após o expediente, o sistema a classificou como “isolamento social”. A irmã Wang do departamento financeiro foi marcada porque a velocidade de resposta dela no grupo da empresa, que era em média cinco segundos no mês passado, aumentou para uma média de onze segundos neste mês. Cada pessoa marcada aparecia no dia seguinte na lista de convocação do HR.
Até a semana passada, o sistema disparou um alerta de nível máximo.
Não era um funcionário. Era o CEO.
O sistema determinou que ele estava “extremamente perigoso, recomendando intervenção imediata”. O relatório de análise dizia que ele vinha andando de um lado para o outro na sala de reuniões com frequência, o horário do almoço era irregular, a frequência de contração das pupilas estava anormal, e detectou “raiva reprimida” na sua voz. HR não ousou chamá-lo para uma conversa, enviou o relatório direto ao conselho. No dia seguinte, o CEO reuniu toda a empresa na grande sala de reuniões, ficou no palco, projetou o relatório na parede da frente e disse uma frase que deixou todos nós em silêncio: esse IA não sabe que eu ando de um lado para o outro na sala de reuniões porque minha esposa pediu o divórcio na semana passada. Também não sabe que minhas pupilas contraíram porque ontem de manhã vi que cada um de vocês tinha medo dele.
Ele anunciou na hora que iria cancelar o projeto e desligar o sistema. Depois da reunião, voltei ao meu posto e percebi que a recepção estava vazia. No seu lugar, havia a sua curva de oscilações emocionais impressa pelo sistema, ao lado de um calendário de mesa com o horário de visitas na UTI marcado com círculos. Ela levou o calendário embora, mas a curva de emoções ficou. No topo, uma nota gerada automaticamente pelo sistema: ela suspiros quinze vezes, classificados como “tristeza desconhecida”.
Naquela tarde, todos nós formamos uma fila ao redor daquele posto vazio e colocamos um doce. O atendente da loja do térreo perguntou qual era a ocasião. Eu disse que não era nada, que uma colega não tinha vindo hoje, mas que ela talvez viesse depois, ou talvez não. Ela não insistiu. Apenas, ao vendermos todos os doces daquela loja, silenciosamente nos deu um desconto de vinte por cento.