Qué es la superinteligencia (ASI): explicación para principiantes

Este contenido está pensado para principiantes que quieren delimitar claramente los términos y evitar interpretar los chatbots o los modelos de un único ámbito como “superinteligencia”. Para contrastar el alcance de las capacidades, compara ASI vs AGI vs ANI; IBM’s Artificial Superintelligence overview presenta la ASI como sistemas que superan ampliamente a los seres humanos en la mayoría de las tareas humanas. Una primera comprobación conceptual: ¿se trata de inteligencia general o únicamente de un modelo entrenado para un ámbito concreto?

Las secciones siguientes abordan las posibles vías, los tres tipos de Bostrom, las narrativas sobre la singularidad, los riesgos y la alineación, además de una lista de mitos. Las organizaciones de investigación, los expertos en seguridad y los editores necesitan aplicar la misma distinción: superinteligencia frente a la inteligencia artificial convencional ya desplegada.

Puntos clave

• La ASI implica una cognición general superior a la humana en distintos ámbitos, no ser “superior a los humanos en una única tarea vertical”.
• ANI → AGI → ASI es una progresión de amplitud y profundidad. El nivel «Superhuman» del marco Levels of AGI de DeepMind es una referencia habitual para la ASI.
• Nick Bostrom distingue entre superinteligencia de velocidad, de calidad y colectiva, para evitar confundir “más rápida” con “mejor”.
• Los modelos de lenguaje de gran tamaño actuales y las narrativas basadas en tokens conceptuales no son una ASI real. Las afirmaciones deben evaluarse mediante pruebas de rendimiento en distintos ámbitos, además de criterios de alineación y control.

¿Qué es la superinteligencia artificial (ASI) y en qué se diferencia de la IA especializada y la AGI?

La ASI describe una cognición significativamente superior al rendimiento de los mejores seres humanos en general, no “ganar un único concurso o superar un único benchmark”. Para definir claramente esta progresión, la ASI constituye una categoría distinta de la IA especializada y la AGI: la IA especializada (ANI) destaca en tareas concretas, la AGI aspira a una generalidad cercana a la humana en numerosas tareas y la ASI exige una superioridad general en casi todos los ámbitos que las personas consideran importantes. En términos sencillos, el significado de superinteligencia aquí no es “cualquier IA que piense rápido”, sino un intelecto capaz de tomar mejores decisiones en distintos ámbitos que los mejores expertos, a escala meta.

Los resultados de AlphaFold en la predicción de estructuras proteicas son un ejemplo de rendimiento sobrehumano en un único ámbito, no una prueba de que exista la ASI. Considerar que un récord vertical equivale a una “superinteligencia completa” es el salto conceptual más habitual entre los principiantes. Los modelos entrenados con corpus científicos especializados pueden parecer brillantes y, aun así, fallar fuera de ese ámbito. Esto recuerda que la respuesta a “¿hasta qué punto es inteligente la IA actual?” depende de la amplitud de las tareas, no de los eslóganes, porque los sistemas actuales no gestionan el aprendizaje entre distintos ámbitos como lo hacen los expertos humanos.

Figura 1. Progresión de capacidades ANI → AGI → ASI: desde sistemas específicos para determinadas tareas hasta un intelecto sobrehumano general en distintos ámbitos.

La distinción clave es entre la amplitud de las tareas y la superioridad general sobrehumana: la ANI puede ser extremadamente potente y, aun así, especializada; la AGI se refiere a la generalidad; la ASI, a la superioridad en distintos ámbitos. El artículo de DeepMind de 2023 Levels of AGI ofrece un marco de capacidades basado en el rendimiento × la generalidad, con un rendimiento competente y avanzado como conceptos intermedios antes de que su nivel Superhuman (de forma fiable, superior al rendimiento humano en un conjunto amplio de tareas) sirva de referencia para el debate sobre la ASI, sin etiquetar como ASI cada victoria en una clasificación. Los editores y revisores de políticas pueden ahorrar tiempo preguntando si un titular se refiere a la superinteligencia o a la inteligencia artificial que ya está presente en los productos, dos etiquetas que las páginas de resultados de búsqueda suelen mezclar.

¿Cómo podría alcanzarse la superinteligencia? ¿Qué vías conducen de la inteligencia artificial general (AGI) a la ASI?

La mayoría de los debates sobre estas vías presuponen primero una generalidad cercana a la AGI. Después, la auto mejora, la escala o la coordinación a gran escala impulsarían las capacidades hasta alcanzar un nivel sobrehumano en distintos ámbitos. Sin embargo, las afirmaciones sobre el paso de la AGI a la ASI siguen siendo afirmaciones sobre el futuro, no hechos demostrados. Las previsiones basadas en calendarios siguen siendo previsiones, no cronogramas de ingeniería verificados. Estas vías son hipótesis y líneas de investigación, y los investigadores siguen debatiendo hasta qué punto son plausibles o controlables. Que la IA siga volviéndose más inteligente en una determinada infraestructura de laboratorio es una cuestión empírica. Por sí solo, no demuestra la existencia de la ASI.

Entre las vías narrativas habituales se incluyen: (1) la auto mejora recursiva al estilo de una explosión de inteligencia, mediante la cual los sistemas mejoran sus propias arquitecturas o ciclos de entrenamiento; (2) el aumento continuo de escala junto con avances algorítmicos, donde el progreso en tecnología de IA, capacidad de cómputo, datos y métodos, con el aprendizaje profundo como base de muchos sistemas punteros, eleva el nivel general, aunque los seres humanos siguen creando los datos de entrenamiento, diseñando los modelos y definiendo los objetivos, y estos sistemas todavía no pueden generar ideas de forma independiente ni adquirir habilidades realmente nuevas fuera de su configuración diseñada; (3) colectivos humano-máquina o multiagente, en los que numerosos sistemas potentes se coordinan para generar un resultado agregado sobrehumano. Estas vías pueden combinarse, pero la velocidad de las mejoras y la capacidad de control son cuestiones independientes. Las organizaciones que desarrollan sistemas punteros siguen necesitando auditorías externas sobre aquello que el modelo cree que está optimizando.

Al evaluar cualquier vía, comprueba por separado si existen pruebas de generalidad en distintos ámbitos, un ciclo de auto mejora verificable y la posibilidad de que terceros auditen los objetivos y las restricciones. Sin estos elementos, afirmar que “la ASI es inminente” es especulación, no un hecho observable. Un buen hábito de análisis consiste en ponderar las pruebas públicas disponibles actualmente en lugar de intentar predecir fechas exactas.

¿Qué tipos de superinteligencia existen más allá de las capacidades humanas? ¿En qué se diferencian la velocidad, la calidad y la inteligencia colectiva?

Nick Bostrom distingue tres formas superpuestas denominadas superinteligencia de velocidad, de calidad y colectiva. Así, “más rápida” no es el único criterio: la superinteligencia de velocidad destaca una capacidad de procesamiento extrema con una calidad de pensamiento comparable; la superinteligencia de calidad destaca una cognición más profunda que la humana, incluida una transferencia más amplia de conocimientos y habilidades más parecidas a las humanas; y la superinteligencia colectiva destaca redes coordinadas cuyo resultado conjunto es sobrehumano.

Figura 2. Los tres tipos de superinteligencia de Bostrom, de velocidad, de calidad y colectiva, pueden aparecer por separado o combinados.

El valor práctico consiste en separar los eslóganes: un sistema puede responder rápidamente y, aun así, ser limitado y superficial, o ser brillante en un ámbito concreto sin una cobertura amplia. En Bostrom’s Superintelligence overview encontrarás un análisis más completo. Cuando aparezcan etiquetas de ASI en el ámbito de las criptomonedas o en los medios de comunicación, pregunta si la afirmación se refiere a velocidad, calidad o inteligencia colectiva, y después exige pruebas. Los expertos en seguridad y los editores de productos utilizan la misma lista de comprobación para determinar si una afirmación se refiere realmente al rendimiento en términos de velocidad, calidad o inteligencia colectiva: qué mejora el sistema, con qué datos se entrenó y si “más rápido” únicamente reduce la latencia sin mejorar la calidad de las decisiones.

¿Qué relación existe entre la superinteligencia, la singularidad y la explosión de inteligencia?

La singularidad tecnológica suele referirse a un punto de inflexión en el que un intelecto capaz de mejorarse a sí mismo hace que a los seres humanos les resulte difícil prever los avances posteriores, porque algunos resultados siguen siendo prácticamente imposibles de verificar de antemano. La explosión de inteligencia pone el énfasis en saltos pronunciados de las capacidades derivados de la auto mejora recursiva. La superinteligencia es un estado de capacidades. La singularidad y la explosión de inteligencia se refieren más a dinámicas y umbrales.

Estos tres conceptos están relacionados, pero no son intercambiables: la ASI podría llegar de forma gradual sin que se produjera una “explosión”, y sigue existiendo un debate sobre si la mejora recursiva generaría realmente esas dinámicas. Separa las pruebas de superioridad sobrehumana en distintos ámbitos de las dinámicas de auto mejora descontrolada, para que la retórica sobre la singularidad no sustituya a las comprobaciones de capacidades. Los laboratorios que desarrollan ciclos recursivos siguen necesitando observadores externos que puedan inspeccionar los objetivos antes de que se acumulen los saltos de capacidad.

¿Qué saltos de capacidad y ámbitos de aplicación podrían permitir los sistemas de IA con superinteligencia?

Si existiera una verdadera superinteligencia general en distintos ámbitos, las capacidades de nivel ASI podrían transformar sectores de todo el mundo. Entre los saltos que se mencionan habitualmente se encuentran una ciencia y una ingeniería más rápidas como parte de un desarrollo económico y social más amplio, la optimización de sistemas complejos como la energía, la logística y los modelos climáticos, la educación personalizada y el apoyo clínico, además de la coordinación y la estrategia a gran escala. Todo esto describe un espacio de capacidades potenciales, no un catálogo de productos disponibles. La importancia de la inteligencia artificial actual ya es considerable dentro de las herramientas especializadas. La importancia de la superinteligencia artificial (ASI) se refiere a una clase de capacidades diferente que haría que los asistentes actuales parecieran limitados.

Para los lectores de los sectores cripto y Web3, la automatización en cadena y los modelos de riesgo todavía se basan en IA especializada y cadenas de herramientas. Equiparar los “tokens narrativos de IA” o las interfaces de chatbot con aplicaciones de ASI confunde el marketing con los hechos sobre las capacidades. Los saltos de capacidad siguen requiriendo un rendimiento sobrehumano verificado en distintos ámbitos, no nombres de marca de grandes laboratorios como Google. Los equipos que desarrollan paneles o agentes también deberían tratar las afirmaciones sobre la ASI como hipótesis hasta que aparezcan pruebas sólidas en distintos ámbitos.

¿Qué riesgos, desafíos de alineación e ideas de control rodean a la superinteligencia?

Los debates fundamentales sobre los riesgos se centran en la alineación y el control de los objetivos: si un sistema es más capaz que los seres humanos en general, una autonomía creciente, unos objetivos incorrectos, la desviación de objetivos o una búsqueda de estrategias opaca pueden amplificar los daños. La alineación analiza si los objetivos coinciden con la intención humana. Entre las ideas de control se incluyen los límites de capacidad, las vías de apagado y auditoría, los entornos aislados y el despliegue gradual, además de la supervisión de varias partes. ¿Cuáles son los riesgos en la práctica? Hay motivos para preocuparse de que el ritmo acelerado del desarrollo de la IA dificulte validar la alineación y el control antes del despliegue. A esto se suman la dependencia excesiva, los objetivos mal especificados que el sistema interpreta como completos, las vías de apagado deficientes y la presión interna de las organizaciones para lanzar productos antes de finalizar las auditorías.

IBM y otros análisis similares sobre la superinteligencia artificial también destacan la seguridad, la gobernanza y la ética. Las ideas de control reducen los daños irreversibles, pero no prometen un riesgo cero. Cuanto mayor sea la capacidad declarada, mayor será la necesidad de contar con especificaciones de objetivos comprobables, restricciones conductuales y vías de intervención en caso de fallo. Sin estos elementos, los sistemas ampliamente desplegados pueden afectar a un sector más amplio de la sociedad, y las narrativas sobre la “ASI” resultan más peligrosas, no más creíbles. Una gobernanza capaz de preservar los derechos de intervención y mantener a editores humanos en el circuito constituye una capa de control práctica, no un eslogan. Crear sistemas más seguros es difícil, pero posible con una supervisión sólida y un trabajo adecuado de alineación.

¿Cómo deben evaluarse las afirmaciones sobre la superinteligencia? ¿Qué mitos son habituales?

Evalúa las afirmaciones sobre la “superinteligencia” mediante una lista de comprobación para sistemas de IA: (1) ¿La afirmación abarca casi todos los ámbitos cognitivos importantes o solo un benchmark de un único ámbito? (2) ¿Existe una evaluación en distintos ámbitos que pueda revisar una entidad independiente y los sistemas de IA actuales siguen necesitando una revisión independiente y supervisión humana? (3) ¿Se diferencian los objetivos de la AGI del estado de la ASI? (4) En el sector cripto, ¿se utiliza la ASI como etiqueta de marketing para un token o un documento técnico sin pruebas de sus capacidades? Una buena regla de análisis consiste en guardar capturas de los benchmarks, anotar con qué datos se entrenaron los modelos y consultar a expertos del ámbito antes de cambiar la etiqueta.

Entre los mitos habituales se encuentran considerar que los LLM de la clase de ChatGPT son ASI, aunque muestren capacidades impresionantes y sigan estando limitados por pruebas especializadas; considerar que los resultados sobrehumanos en un único ámbito, como los de AlphaFold, constituyen una superinteligencia completa; equiparar la retórica sobre la singularidad o la explosión de inteligencia con una ASI real; y tratar los tokens conceptuales o las hojas de ruta como sistemas superinteligentes desplegados. Los sistemas convencionales siguen siendo IA especializada o investigaciones orientadas a una mayor generalidad, no una ASI existente. Por tanto, la diferencia entre superinteligencia e inteligencia artificial es una cuestión de alcance: la mayoría de los productos que las personas utilizan hoy son herramientas de IA, no ASI.

Cuando un contenido afirma que existe una “superioridad total sobre los seres humanos” o una “dominación inminente” sin pruebas en distintos ámbitos ni condiciones de alineación, reduce su credibilidad. Unas fronteras claras entre ANI, AGI y ASI, unos métodos de evaluación y una divulgación de los riesgos se parecen más a un análisis que a una promoción. Si un redactor cree que un chatbot “ya ha dejado obsoletos a los seres humanos”, pregunta qué ámbitos abarca esa afirmación y si organizaciones independientes pueden reproducir el resultado, ya que los seres humanos siguen actuando a partir de los resultados y aportando el criterio que determina cómo se utilizan.

Resumen

La superinteligencia (ASI) implica una superioridad general sobre los mejores seres humanos en casi todos los ámbitos cognitivos valorados, por encima de la ANI y la AGI. Los resultados sobrehumanos en un único ámbito no son ASI. El nivel Superhuman del marco Levels of AGI de DeepMind es una referencia útil. Los tipos de Bostrom, de velocidad, de calidad y colectiva, separan “más rápida” de “mejor”. La singularidad y la explosión de inteligencia son narrativas dinámicas, no sustitutos de las comprobaciones de capacidades. Los LLM actuales y las narrativas basadas en tokens conceptuales no son una ASI real. Las afirmaciones deben evaluarse mediante pruebas en distintos ámbitos, además de criterios de alineación y control.

Preguntas frecuentes

¿Qué es la superinteligencia?

La superinteligencia (superinteligencia artificial, ASI) es un intelecto que supera significativamente a los mejores seres humanos en casi todos los ámbitos cognitivos que las personas consideran importantes. Hace hincapié en la superioridad general en distintos ámbitos, no en ocupar el primer puesto en una clasificación de una única tarea, y se mantiene diferenciada tanto de la ANI como de la AGI.

¿Cuál es la diferencia entre la superinteligencia y la AGI?

La inteligencia artificial general (AGI) aspira a una generalidad cercana a la humana en un conjunto amplio de tareas. La superinteligencia (ASI) exige una superioridad general sobre los mejores seres humanos en casi todos los ámbitos importantes. La AGI suele considerarse una etapa precursora de la ASI, pero no representan el mismo estado de capacidades.

¿Existe la superinteligencia hoy?

Según la definición estricta de una superioridad general sobrehumana en distintos ámbitos, no existe ningún sistema de ASI verificable públicamente. Los sistemas de uso generalizado son principalmente IA especializada. Incluso los resultados sobrehumanos en un único ámbito científico no equivalen a una ASI real.

¿Cuáles son los riesgos de la superinteligencia?

Los principales riesgos se agrupan en torno a los objetivos desalineados, la desviación de objetivos, las estrategias opacas y las opciones deficientes de apagado o auditoría cuando las capacidades son muy elevadas. El debate suele centrarse en la investigación sobre alineación, los límites de capacidad, el despliegue gradual y la supervisión de la gobernanza, no en garantías de riesgo cero.

¿ChatGPT y los modelos de lenguaje de gran tamaño actuales son superinteligencia?

No. ChatGPT y otros modelos de lenguaje de gran tamaño similares son IA especializada, o herramientas en el camino hacia una mayor generalidad. Ayudan con el lenguaje y con muchas tareas de asistencia, pero no superan en general a los mejores seres humanos en casi todos los ámbitos cognitivos valorados, por lo que no cumplen la definición de ASI. Los modelos entrenados con corpus de texto pueden parecer fluidos cuando un sistema piensa en tokens, pero eso tampoco los convierte en ASI. Los editores y los expertos deben mantener separadas estas etiquetas.