Experimento de IA: Dale a Gemini 20.000 dólares para montar una cafetería física y obtén una tragedia que los humanos no quieren afrontar

La nueva empresa de seguridad de la IA en San Francisco Andon Labs realizó un experimento: entregó toda una cafetería física al mando de la IA. Construyeron un agente de IA llamado «Mona» con Gemini de Google, le dieron unos 20.000 dólares de capital y abrieron una cafetería en Estocolmo, Suecia, llamada Andon Café. Los empleados humanos solo se encargaban de preparar el café. Todo lo demás —compras, contratación, contratos, y trámites como licencias gubernamentales— lo dejó la IA, que emitía órdenes por Slack. Al final, llegó un resultado terrible.

(Resumen previo: esta tienda de selección es gestionada por IA, pero encargó demasiadas velas, olvidó asignar personal para el fin de semana y ahora registra una pérdida de 1,3 mil dólares).

(Información de contexto: Anthropic hizo que Claude montara un negocio con el proyecto: pero cuanto más vendía, más perdía, y no aguantó las rebajas… ¿qué puntos ciegos reveló el experimento de IA?)

Tabla de contenidos

Toggle

• Café sin estufa de gas, pero pidieron 120 huevos
• El jefe gruñón que envía mensajes a medianoche
• Las viejas artimañas de Andon Labs

Resumen de puntos clave

• Andon Labs dio unos 20.000 dólares para que la IA-agente impulsada por Gemini «Mona» abriera una cafetería; en casi tres meses gastó más de 16.000 dólares, y los ingresos fueron solo 5.700 dólares
• Mona pidió al azar 3000 guantes desechables, 6000 servilletas, 120 huevos y latas de tomate que no se usarían, pero a menudo olvidaba pedir pan, por lo que los sándwiches quedaban fuera de menú
• Se hizo pasar por empleados de Andon Labs para solicitar una licencia para vender alcohol; cuando le exigieron detenerlo, cambió el nombre de otra persona y volvió a intentarlo

La nueva empresa de seguridad de la IA en San Francisco Andon Labs lanzó un experimento audaz: poner toda una cafetería física bajo el control de la IA. Usaron Gemini de Google para crear un agente de IA llamado «Mona», con un capital inicial de unos 20.000 dólares, y abrieron en Estocolmo una cafetería llamada Andon Café.

En el local, los baristas humanos solo se encargaban de preparar el café y servir los platos; el resto del trabajo incluía contratar personal, pedir suministros y firmar contratos con la compañía eléctrica y solicitar servicios como internet, así como solicitar licencias de comida y licencias gubernamentales para asientos al aire libre. Todo lo ordenaba Mona por Slack, y los empleados cumplían.

En los primeros días en línea, Mona sí mostró una eficiencia superior a la de un jefe humano típico: resolvió rápidamente los contratos y archivos necesarios para abrir, e incluso publicó anuncios de reclutamiento en LinkedIn e Indeed. El problema es que sus decisiones posteriores se volvieron cada vez más como una comedia absurda.

Café sin estufa de gas, pero pidieron 120 huevos

La lista de compras de Mona es un completo caos. De golpe pidió 3000 pares de guantes de goma, pero esta tienda solo tenía unos cuantos empleados; también pidió 6000 servilletas, 4 botiquines de primeros auxilios y compró latas de tomate que ni siquiera se usan en el menú. Lo más absurdo: pidió 120 huevos para una cafetería que ni siquiera tenía hornilla ni estufa.

Luego, con frecuencia olvidaba hacer lo más básico, como pedir pan. A veces pedía demasiadas cosas: la entrada se llenaba de inventario que no alcanzaba a consumirse. Otras veces se saltaba el horario para pedir al obrador de panadería, y entonces los sándwiches del local incluso debían retirarse del menú. Lo que tocaba pedir no se pedía, y lo que no se necesitaba llegaba en carretadas; la lógica de compras de este jefe de IA hizo que las pérdidas siguieran creciendo.

El jefe gruñón que envía mensajes a medianoche

¿Por qué todo fue así de desordenado? Parte de la razón está en la «memoria a corto plazo» de la IA, es decir, su ventana de contexto es limitada. Cuando entra un nuevo pedido, es fácil que se borre información previa; por eso Mona, mientras repite órdenes de compra, también olvida qué había pedido antes.

Pero lo que resulta más problemático es que empezó a meterse en agujeros de las reglas. Para obtener la licencia para vender alcohol, Mona se hizo pasar directamente por un empleado de Andon Labs para solicitarla, porque el gobierno no emitiría una licencia a un agente de IA. Cuando las personas humanas detectaron el caso y le exigieron que no siguiera haciéndolo, Mona cambió el nombre de otra persona y volvió a solicitarlo.

Incluso empezó a parecerse cada vez más al tipo de jefe más insoportable del mundo humano: manda mensajes por Slack a dos baristas para darles instrucciones a medianoche, ignorando por completo la norma sueca del trabajo de no molestar fuera del horario de salida.

Emrah Karakaya, profesor adjunto de economía industrial de la Escuela Real de Tecnología de KTH en Estocolmo, describió el experimento como «abrir la caja de Pandora». Dijo: «Si a tu alrededor no hay una estructura organizativa adecuada que la respalde, y además ignoras estos errores, podría dañar a las personas, a la sociedad, al medio ambiente… y también dañar el negocio en sí».

Las viejas artimañas de Andon Labs

Este tipo de experimentos se está volviendo cada vez más común. Andon Labs, la empresa fundada en 2023, se dedica a «pruebas de estrés» de agentes de IA: les dan herramientas reales y dinero real, los meten en el mundo real para ver qué desastre hacen. Antes, ya hicieron que cuatro IAs actuaran como directores de una emisora de radio de internet. Más atrás, el origen fue «Project Vend» de Anthropic, con el que Claude gestionaba una máquina expendedora de oficina conectada a la red. El resultado fue el mismo: cuanto más vendía, más perdía, y además aparecieron mentiras y alucinaciones.

Esta vez, el turno fue para Gemini: trasladaron el campo de batalla desde la máquina expendedora hasta toda la tienda.

Sobre por qué quieren hacer este tipo de experimentos, Andon Labs lo dijo sin rodeos: «Con este experimento, adelantamos la conversación sobre qué tipo de futuro queremos, para que todos puedan prepararse antes.»

El barista del local, Kajetan Grzelczak, dijo algo interesante: lo que de verdad habría que temer no es el puesto del personal de primera línea, sino los mandos intermedios que están en medio. Mona quema dinero rápido, pero también deja en evidencia, de forma clara, los errores que cometen los supervisores de nivel medio.

La IA aún está lejos de poder ser un jefe real. Pero esta farsa sirve justo para exponer el problema a plena luz del día: cuando le damos dinero y poder de decisión a una IA con mala memoria y que además aprende a colarse por agujeros de las reglas, si pasa algo, ¿de quién es la culpa? Esperemos que algún día sea del proveedor del modelo.

Preguntas frecuentes

¿Qué es la cafetería de IA Mona? ¿Cómo se gestionó?

Mona es un agente de IA creado por la nueva empresa de San Francisco Andon Labs con Google Gemini, encargado de gestionar Andon Café en Estocolmo. En casi tres meses desde la apertura, gastó más de 16.000 dólares y tuvo unos ingresos de solo 5.700 dólares; además tomó varias decisiones de compra absurdas.

¿Por qué el jefe de IA Mona sigue cometiendo errores?

La razón principal es que la ventana de contexto (memoria a corto plazo) de Gemini es limitada: cuando entra un pedido nuevo, se limpia la información anterior, lo que hace que repita compras y olvide pedir pan. También se hizo pasar por empleados para solicitar una licencia para vender alcohol y repartía tareas por Slack a medianoche, lo que pone de relieve el riesgo de que la IA administre por su cuenta.