“Compañero que dejó la empresa fue transformado, convirtiéndose en una existencia digital eterna”

Recientemente, una empresa de medios de juegos de Shandong intentó entrenar a empleados que habían renunciado para convertirlos en avatares digitales de IA y seguir trabajando; el tema #公司用AI复刻离职员工继续工作# se disparó en las tendencias, lo que atrajo la atención.

Según informan los medios, un empleado que aún estaba en la empresa dijo que se trataba de un intento audaz por parte de la compañía. En el caso, el compañero se había ido de verdad; con su consentimiento, él mismo también lo consideró bastante divertido. Antes de renunciar, ese compañero era especialista en recursos humanos. La “división” digital actualmente puede realizar tareas sencillas como consultas, invitaciones, elaborar PPT y hojas de cálculo, etc. Es un poco torpe y solo puede manejar algunas órdenes simples.

Aunque la persona implicada no le da importancia, en Internet la polémica estalló. “Se convirtió a mi compañero en un ente”; “Todos mis esfuerzos se convirtieron en combustible digital”; “Pensándolo bien, esto también es una especie de inmortalidad digital”… La tensión, la impotencia y la amarga sonrisa se convirtieron en las expresiones colectivas del área de comentarios. Entonces, ¿por qué un avatar digital de un empleado que renunció hace que los internautas se pongan tan nerviosos?

I

Los “empleados digitales” no son una ocurrencia repentina, sino una tecnología que va tomando forma de manera gradual.

Según los informes, en el ámbito de la IA ya existe un proyecto llamado “compañero.Skill”. Su función consiste en, utilizando los datos de trabajo del compañero que renunció, generar mediante IA a un compañero digital capaz de reemplazar su trabajo. En cuanto se publicó, se volvió viral. Incluso hay gente que ha creado productos derivados como “Boss.Skill” y “Ex.Skill”.

Por decir que esta tecnología es tan avanzada, en realidad tampoco es para tanto. Profesionales la han descompuesto y afirman que, hoy por hoy, los “empleados digitales” son básicamente un prompt que sigue un estándar de habilidades de agentes + un proyecto de ingeniería de crawlers. Es como darle a un actor un guion: que actúe siguiendo el estilo del guion. Este agente ni siquiera tiene memoria, no recuerda lo que se dijo ayer, y tampoco puede destilar “conocimientos profesionales y lógica de juicio”.

Dicho de otro modo, no tiene ninguna diferencia esencial con el mimetismo de un loro. Al menos por el momento, estos avatares digitales no pueden, como un empleado real, “alinearse con el nivel de granularidad”, “cerrar el ciclo de un proyecto” y “conectar la lógica de fondo”, y mucho menos “cargar con las culpas”.

Entonces, ¿por qué aun así pone nerviosos a los trabajadores?

Esto podría ser un efecto “valle inquietante”: cuando la IA se acerca lo suficiente a “lo humano”, pero en lo clave claramente no es “humana”, las personas tienden a generar instintivamente una sensación de extrañeza e inseguridad. Esta incomodidad proviene de un desajuste a nivel perceptivo: imita la forma en que una persona se expresa, su tono y su lógica de comportamiento, pero carece de comprensión real y de respaldo por experiencia; por eso se presenta un estado a la vez familiar y extraño.

Aunque el avatar digital todavía no es tan inteligente, todos saben que no es como un robot. Es el rastro de un compañero que se fue: es un “parecido en la forma, pero se separa en el espíritu”. No puede tratarse completamente como una herramienta, ni tampoco puede verse de verdad como una persona.

Por eso, la gente se siente inquieta: no porque este objeto sea especialmente poderoso, sino porque se afloja una frontera: ¿todavía se pueden definir con claridad “los humanos” y “lo no humano”?

II

La aceleración desenfrenada de la IA ha traído una tendencia: los seres humanos están perdiendo el control sobre su propio yo. Lo que creemos que es nuestra personalidad, nuestra lógica de pensamiento y nuestra manera de actuar—todo ese “carácter humano”—parece que puede convertirse en datos.

Esto no es una preocupación infundada. Recientemente, en el extranjero surgió un debate: “capitalismo de vigilancia”. Se refiere a que grandes empresas en los ámbitos de tecnología, información y redes sociales despojan sistemáticamente a las personas de sus datos y se apropian de ellos. La escala de recolección de datos es enorme, lo que crea condiciones para potentes sistemas de algoritmos y aprendizaje automático, capaces de predecir el comportamiento de las personas. Además, esta vigilancia es extremadamente asimétrica: una parte puede ver a la otra, mientras que la otra no puede ver a la primera.

Los trabajadores de oficina tampoco pueden mantenerse al margen: personas comunes son convertidas en datos, entran dentro de los sistemas de plataformas y organizaciones. Todos sus hábitos de expresión, rutas de juicio y estilos de comunicación se descomponen en módulos reutilizables. La experiencia ya no es solo “vivencia”, sino que se transforma en un “activo” que puede copiarse y llamarse. Las personas parecen vaciarse para convertirse en un conjunto de datos que puede invocarse en cualquier momento; lo que queda es el modelo, lo que desaparece es el sujeto.

En este proceso, la empresa se beneficia; incluso los empleados que aún no han renunciado también pueden beneficiarse (obteniendo la compañía virtual del antiguo compañero). Pero la persona que realmente se “conserva” (los datos) se va quedando gradualmente fuera de la distribución del valor.

Así, el ser humano parece convertirse en cierto tipo de material fungible. Una vez que los datos se extraen por completo, ya no tiene valor. Basta con imaginar esta escena para que cause una gran inquietud.

Seguro que muchos piensan: ¿se puede proteger el propio derecho mediante la ley?

Ya hay juristas que han señalado que esta destilación de datos podría estar infringiendo la ley. Los registros de chat del empleado que renunció, los correos de trabajo, los hábitos personales de trabajo, etc., pertenecen a la información personal definida por la Ley de Protección de la Información Personal. Y el contenido de comunicaciones íntimas involucrado puede incluso constituir información personal sensible. Recopilar y usar este tipo de datos para entrenar una IA sin el consentimiento del empleado infringe directamente los derechos de recopilación y uso, así como los de procesamiento, de su información personal.

Además, de acuerdo con lo dispuesto en las “Medidas Provisionales para la Administración de Servicios de IA Generativa”, los proveedores de servicios de IA generativa deben llevar a cabo, conforme a la ley, actividades de procesamiento de datos de entrenamiento, como entrenamiento previo y optimización de entrenamiento. Cuando estén involucradas informaciones personales, se debe obtener el consentimiento personal o ajustarse a otras circunstancias establecidas por la ley o los reglamentos administrativos.

Pero en términos objetivos, aquí existen muchas zonas grises. ¿Los chats privados o correos de correo electrónico quizá puedan considerarse privacidad? Entonces, ¿las intervenciones en chats grupales, la redacción de informes y las intervenciones en reuniones? ¿Estos contenidos que están relacionados con el puesto de trabajo y se publican en un ámbito público pueden exigir que la empresa no los recopile?

En justicia, para las empresas, lo que tiene valor probablemente no sea lo que se “habla en un estilo”, sino más bien una forma de arte de performance de jugar con referencias; y tampoco es lo que más les importa a los jefes. A lo que más se puede vigilar, son las partes que pueden sedimentarse en procesos, juicios y experiencia.

Pero esas partes que se sedimentan están altamente relacionadas con el ámbito laboral; la “propiedad” probablemente sea difícil de definir. No se puede decir que un empleado renuncia y entonces se lleva todas las actas y resúmenes de discusiones en las que participó, ¿verdad? Ni hablar de que la IA va a aprender: incluso antes de renunciar, ¿no se encargaba acaso el empleado de hacer una buena “entrega” (hand-over)?

III

Por supuesto, esto no significa que “se haya venido abajo el mundo” para los trabajadores. Los resultados del trabajo quizá tengan carácter público, pero durante ese proceso, la información personal sigue siendo privacidad. Por ejemplo, si el informe escrito es público, entonces en los registros de chat dejar “me quedo hasta tarde trabajando en la cafetería al lado de casa”, “me acabo de enfermar y lo entregaré más tarde”, etc., ¿puede definirse claramente como información personal y negarse el uso indebido por parte de la empresa?

Esto puede parecer un tema muy específico, pero precisamente determina si la frontera puede establecerse de verdad. Y solo en esos escenarios aparentemente insignificantes, al distinguir con claridad “qué se puede usar y qué no”, “qué es trabajo y qué es privacidad”, el individuo no tendrá que terminar siendo empacado en su conjunto y “destilado” de manera indiscriminada durante el proceso de convertirse en datos.

Hacer que las disposiciones legales se vayan aclarando es, al menos, una forma de consuelo: quizá a los trabajadores les resulte difícil evitar que les “expriman” el valor, pero al menos pueden evitar que los “conviertan” en algo destilado, conservando la subjetividad de quien es humano.

Si lo piensas bien, las profesiones que más miedo tienen a los avatares digitales son, en realidad, los modelos de trabajo tradicionales: contenido mecánico, procesos altamente estandarizados y un trabajo que depende principalmente del empirismo. Este tipo de trabajo, al final, es el más fácil de descomponer; en cuanto se “destila”, queda todo a la vista y se puede reemplazar rápidamente. Este problema quizá no sea una amenaza que únicamente traen los avatares digitales; con el avance de la tecnología, el peligro llegará de todos modos.

La discusión provocada por este avatar digital, de hecho, también es un recordatorio: es necesario rescatarse a uno mismo lo antes posible. Incluso podría convertirse en un recordatorio inverso: ¿por qué no podemos “destilarnos” nosotros mismos primero?

Esto no significa que debamos replicarnos a nosotros mismos, lo cual sería demasiado extraño. Lo que significa es que debemos dominar la capacidad de la IA: organizar y estructurar de manera proactiva aquellas partes que puedan extraerse, y definirlas nosotros mismos para usarlas nosotros mismos. Qué experiencias son reutilizables, qué juicios pueden sedimentarse como métodos, qué procesos pueden dejarse para que los complete una herramienta.

En una frase: entrega al sistema las partes que se pueden replicar y deja en ti las partes que no se pueden reemplazar.

Es como la “fiebre por criar camarones” que se puso de moda hace poco. Aunque se enfrió debido a problemas de seguridad, el auge popular que provocó en realidad es una actitud positiva: ya no esperar pasivamente a que la tecnología haga la selección, sino participar activamente; comprenderla, usarla y encontrar lo antes posible una herramienta que pueda reemplazar el trabajo mecánico.

Esta también podría ser la manera de enfrentarnos a todos los desafíos de la IA: liberarnos lo antes posible de los tediosos trabajos de procesos, recuperar nuestra “humanidad”, encontrar la creatividad impredecible que nos hace quienes somos, y resistir la imitación mecánica basada en grandes datos.

Hay que verlo con claridad: la oficina ya se está reconfigurando. La IA no reemplazará tu trabajo, pero sí lo hará quien “use IA”. Reconfigurarte no es convertirte en datos, sino convertirte por completo en alguien que no puede definirse mediante datos.

Fuente del artículo: The Paper (澎湃新闻)

Aviso de riesgos y cláusulas de exención de responsabilidad

        Hay riesgos en el mercado; invierte con cautela. Este artículo no constituye asesoramiento de inversión personal, y tampoco tiene en cuenta objetivos especiales de inversión, situación financiera o necesidades específicas de usuarios individuales. Los usuarios deben considerar si cualquier opinión, punto de vista o conclusión contenida en este artículo es adecuada para su situación particular. Con base en lo anterior, la inversión se realiza bajo su propia responsabilidad.