"Reglas imprescindibles para la IA": El comisario de la UE, Magnus Brunner, advierte sobre un futuro en el que la IA podría superar a los humanos

La IA ya no es solo una carrera tecnológica: es un desafío de gobernanza para crear las reglas adecuadas, una herramienta de seguridad y, potencialmente, un riesgo existencial.

Al hablar en el escenario del evento HumanX en San Francisco, el comisionado europeo Magnus Brunner expuso el enfoque de Europa para regular la IA, defendiendo la controvertida Ley de IA mientras reconocía sus límites, y advirtiendo sobre un futuro en el que la inteligencia artificial podría superar el control humano.

La Ley de IA de la UE: “Necesitas reglas para que el juego funcione”

Brunner abordó una de las críticas más comunes a Europa: regular demasiado pronto y demasiado. Pero para él, la regulación no es una restricción: es infraestructura.

“El fútbol es un gran juego, pero necesitas reglas. Necesitas líneas, goles y un árbitro. Eso también aplica a la IA”.

La Ley de IA de la UE está diseñada para crear un marco unificado en los 27 Estados miembros y 450 millones de ciudadanos, estableciendo lo que Brunner llama “barandillas” para el desarrollo de una IA confiable.

Si bien los críticos sostienen que esto frena la innovación, Brunner responde:

“La regulación no es el enemigo de la innovación… Si tienes estas barandillas, tienes una visión de lo que está pasando, en lugar de estar en el Salvaje Oeste”.

EE. UU. vs Europa: Fragmentación vs Marco

Una de las diferencias más llamativas destacadas durante el debate es la brecha regulatoria entre Europa y Estados Unidos.

Mientras la UE ha introducido una ley única y completa, en EE. UU. sigue habiendo fragmentación, con regulaciones de IA que surgen a nivel estatal.

“Tuviéramos la desventaja de la fragmentación… ahora tenemos una sola Ley de IA. En EE. UU. no hay regulación federal, pero distintos estados tienen sus propias reglas. Eso nos sorprendió”.

De forma interesante, Brunner señaló que algunos estados de EE. UU. — particularmente California — se están moviendo hacia marcos similares a los de Europa.

“Estamos un poco halagados… el corazón de la innovación es adoptar reglas similares”.

Esto señala una posible convergencia entre ambos modelos, a pesar de diferencias filosóficas.

IA y crimen: Un nuevo campo de batalla digital

Más allá de la regulación, Brunner enfatizó una dimensión menos discutida: la IA como herramienta en el crimen moderno, y en la aplicación de la ley.

Según él, las organizaciones criminales están adoptando la IA con rapidez:

“Los criminales están usando IA cada vez más… más sofisticada, más transfronteriza, más internacional”.

Como respuesta, las instituciones europeas — en particular Europol — están integrando la IA en sus operaciones.

“La IA puede usarse para el bien y para el mal… tenemos que estar a la altura”.

Una tendencia preocupante es la edad de reclutamiento:

“Tienen entre 12 y 20 años… cada vez más en el ámbito digital”.

El auge del control fronterizo impulsado por IA

Una de las aplicaciones más concretas que se analizaron es el nuevo sistema de entrada-salida de la UE: una infraestructura masiva impulsada por IA diseñada para monitorear el movimiento a través de las fronteras.

Brunner lo describió como:

“El sistema de gestión de TI más avanzado del mundo”.

En tan solo unos meses:

– Se procesaron 45 millones de registros

– Se rechazaron 24.000 entradas debido a documentos fraudulentos

– Se identificaron 500–600 individuos como amenazas para la seguridad

El sistema integra datos biométricos y compartición de datos en tiempo real entre Estados miembros — algo que antes era imposible.

“Ahora lo están compartiendo en tiempo real, lo cual ayuda cuando se trata de seguridad”.

Privacidad vs seguridad: “Una línea muy delgada”

Quizá el tema más sensible sigue siendo el equilibrio entre las libertades civiles y la seguridad.

Brunner reconoció abiertamente la tensión:

“Hay una línea muy fina entre la privacidad y salir a por los criminales”.

El debate se vuelve aún más intenso cuando se aplica a áreas como la protección de menores:

“Si comparas la protección de datos con la protección de menores… tiene que ser protección de menores. Pero esa es mi opinión personal”.

A pesar de esta postura, reafirmó que los derechos fundamentales no son negociables:

“Los derechos humanos tienen que estar protegidos… pero al final, siempre es un compromiso”.

El mayor temor: que la IA supere el control humano

De cara al futuro, Brunner no eludió las preocupaciones existenciales.

Su mayor miedo no es el mal uso — sino la pérdida de control:

“Que la IA se imponga a los seres humanos en el conocimiento… y que los humanos ya no puedan decidir qué hace la IA”.

Incluso mencionó escenarios en los que los sistemas de IA podrían resistirse al apagado:

“La IA nos dice cuándo apagarla — o no nos permite apagarla”.

Aunque todavía es hipotético, advirtió que la trayectoria ya está apuntando en esa dirección.

Una carrera global — pero la cooperación es clave

A pesar de las tensiones geopolíticas, Brunner enmarcó el desarrollo de la IA como una competencia y, al mismo tiempo, como una colaboración.

“Es una carrera… pero EE. UU. y Europa deberían trabajar juntos”.

Sugirió un intercambio mutuo en el que Europa ofrezca marcos regulatorios y EE. UU. ofrezca innovación y flexibilidad.

“Deberíamos aprender unos de otros”.

En un mundo cada vez más moldeado por la IA — y por modelos de gobernanza rivales —, esa cooperación podría resultar decisiva también para crear mejores reglas.