Cada utopía de IA comienza eliminando la variable que no encaja en el modelo. El humano.

He estado releiendo La fatal arrogancia de Hayek.
Es un libro corto con un solo argumento y ahora mismo parece una respuesta directa a la mitad de las propuestas de IA que veo.
La tentación siempre está allí: diseñar la sociedad como una máquina. Describir el mundo en ecuaciones. Eliminar la irracionalidad. Construir el sistema perfecto.
Tiene sentido si vienes de la física o la ingeniería. Si puedes dividir el átomo y describirlo con matemáticas, la lógica sigue: ¿por qué no la sociedad? El universo tiene leyes. Seguramente las personas también.
Esa es la lógica detrás de las economías planificadas. La misma propuesta, diferente marca, detrás de las ciudades gobernadas por IA.
El problema de Hayek con esto no son las matemáticas. Es el modelo del humano. La gente funciona con tradición, contexto local, reglas informales, contradicciones que nunca se resuelven por completo. No es un error. Es simplemente lo que una persona es.
El conocimiento en cualquier sociedad está disperso. Vive en los precios, en decisiones locales, en señales que ningún planificador central puede recopilar en su totalidad. Los mercados no son una ideología en el marco de Hayek — son el único mecanismo que permite que este conocimiento se mueva. Centralizar, y destruyes exactamente lo que estabas tratando de optimizar.
Sigo pensando en esto cuando alguien propone una política monetaria gestionada por IA, o un sistema financiero donde el humano es una variable de entrada.
La tecnología no es el problema. Lo que estos sistemas descartan primero es a la persona que no encaja en el modelo. Ahí estaba la información.