Últimamente he estado viendo un montón de demos de Agentes de IA que se auto-registran en la cadena, se ven bastante suaves, pero mi instinto de “aficionado a muestras de colapso” solo quiere buscar: ¿en qué paso te envía a la línea de tiempo… En pocas palabras, lo que más falta en la cadena no es inteligencia, sino respaldo.

Creo que al menos tres áreas todavía necesitan vigilancia humana: en la parte de autorización/permiso, si el Agente se emociona y te da un límite ilimitado, después de que ocurra un problema, no podrás seguirle el ritmo; antes de firmar, esa mirada “¿a qué contrato se está ajustando, qué ruta está tomando?”, muchas personas simplemente piensan en pedir comida a domicilio; y también en el manejo de excepciones, cuando el deslizamiento de precios se dispara, el pool se agota, el contrato se actualiza, el Agente todavía puede estar ejecutando mecánicamente, y si realmente hay que detenerlo, alguien debe frenar manualmente.

Ahora, mientras algunos insisten en decir que “el futuro totalmente automatizado ya está aquí”, otros en seguridad están revisando cada detalle hasta volverse calvos… Yo, por mi parte, prefiero restringir permisos y dividir límites, aunque sea un poco más molesto. ¿Y tú?