Anthropic ha advertido de que la inteligencia artificial podría estar acercándose a una etapa en la que los sistemas de IA aceleren de forma significativa el desarrollo de modelos de IA más capaces. Este proceso, conocido como mejora recursiva propia (RSI), se produce cuando los sistemas de IA contribuyen a diseñar, entrenar, evaluar y mejorar a sus propios sucesores. Las declaraciones de Anthropic de noviembre de 2026 indican que la IA ya desempeña un papel cada vez más importante en sus flujos de trabajo de investigación y desarrollo, aunque la empresa no ha clasificado ningún modelo actual como uno que haya superado su umbral interno de RSI. La importancia potencial reside en un bucle de retroalimentación: los modelos más capaces podrían acelerar la investigación en IA, lo que podría dar lugar a sucesores aún más capaces. Sin embargo, el desarrollo autónomo de la IA sigue siendo técnicamente incierto, ya que el criterio de investigación, la disponibilidad de capacidad computacional, la validación de la seguridad y la supervisión humana continúan siendo limitaciones importantes.
Tradicionalmente, la inteligencia artificial ha dependido de investigadores humanos para diseñar arquitecturas de modelos, preparar datos de entrenamiento, realizar experimentos, evaluar resultados y determinar qué mejoras deberían incorporarse a las versiones posteriores. Las herramientas de IA han asumido cada vez más tareas individuales dentro de este proceso, especialmente la programación, la depuración, el análisis de datos y la ejecución de experimentos.
Anthropic advierte ahora de que este cambio podría tener consecuencias más importantes. En su documento regulatorio del 2 de noviembre de 2026, la empresa reveló que el uso cada vez mayor de sistemas de IA en investigación y desarrollo podría hacer que las capacidades de los modelos avancen más rápido que su capacidad para desarrollar e implementar las correspondientes medidas de seguridad. También afirmó que sus estimaciones internas sugieren que pronto podría cumplir la definición de su Política de escalado responsable de un progreso drásticamente acelerado atribuible a la IA.
La distinción es importante. Anthropic no ha designado ningún modelo actual como uno que supere este umbral. La empresa está describiendo una posible aceleración basada en estimaciones internas y expectativas sobre modelos futuros, no confirmando que el desarrollo de IA plenamente autónomo ya haya comenzado.
La advertencia se basa en un argumento más amplio presentado por The Anthropic Institute en su investigación sobre la mejora recursiva propia. La organización describe una progresión que va desde la asistencia de la IA en tareas individuales de programación hasta agentes autónomos capaces de ejecutar código, gestionar flujos de trabajo prolongados y delegar tareas en otros agentes.
Anthropic también informó de que sus ingenieros publican ahora aproximadamente ocho veces más código por trimestre que durante el periodo 2021-2025. Esta cifra ilustra cómo el desarrollo asistido por IA puede transformar la productividad de una organización, aunque un mayor volumen de código por sí solo no demuestra que la IA pueda diseñar y construir de forma independiente a sus sucesores.
La preocupación central es que la tecnología utilizada para desarrollar IA también podría automatizarse cada vez más, lo que reduciría potencialmente el tiempo necesario para producir cada nueva generación de modelos.
La mejora recursiva propia describe un proceso en el que un sistema de IA contribuye a mejorar la tecnología que produce sus propias capacidades. En lugar de limitarse a responder a instrucciones o completar tareas, el sistema participa en el ciclo de investigación y desarrollo que crea sistemas de IA más capaces.
Un ciclo de desarrollo simplificado consta de varias etapas:
La IA ya puede contribuir a varias de estas etapas. Los agentes de programación pueden modificar software, ejecutar pruebas e investigar errores. Los agentes de investigación pueden resumir artículos técnicos, generar hipótesis y analizar resultados experimentales.
La posibilidad más relevante surge cuando estas capacidades se conectan. Si un sistema de IA puede proponer experimentos de forma independiente, implementarlos, evaluar los resultados y utilizar los hallazgos para mejorar un modelo sucesor, podría comenzar a automatizar una parte sustancial del proceso de desarrollo.
Entonces podría surgir un ciclo recursivo:
IA más capaz → investigación y desarrollo más rápidos → modelos sucesores mejorados → mayor capacidad de investigación → nuevas mejoras de la IA.
Este es el mecanismo que sustenta la preocupación de que el progreso de la IA pueda acelerarse más allá del ritmo previsto por los modelos de desarrollo tradicionales.
Sin embargo, la mejora recursiva propia tiene distintos niveles. La asistencia de la IA en el desarrollo de software no equivale a la creación autónoma de modelos. Un sistema que ejecuta experimentos bajo dirección humana también es diferente de otro que elige de forma independiente los objetivos de investigación, diseña un sucesor, lo entrena y verifica su comportamiento.
La distinción es importante porque los debates sobre la RSI a veces agrupan estas capacidades diferentes bajo una única etiqueta.
La posible aceleración procede de la relación entre la capacidad de la IA y la productividad de la investigación.
El desarrollo de modelos punteros requiere un trabajo considerable de ingeniería e investigación. Los ingenieros construyen la infraestructura de entrenamiento, optimizan los sistemas de computación distribuida y resuelven problemas de software. Los investigadores determinan qué experimentos realizar, interpretan los resultados y deciden qué enfoques merecen continuar.
Los sistemas de IA capaces de realizar estas tareas pueden aumentar el número de experimentos que un equipo de investigación puede ejecutar durante un periodo determinado. También pueden reducir el tiempo dedicado a la implementación rutinaria y la depuración.
La investigación de Anthropic describe una tendencia más amplia en la duración de las tareas que los sistemas de IA pueden completar de forma fiable. Su análisis sugiere que la duración de las tareas que los modelos pueden gestionar se ha duplicado aproximadamente cada cuatro meses, frente a una tendencia anterior de unos siete meses. Se trata de una tendencia observada en el análisis de la empresa, no de una garantía de que las capacidades futuras sigan creciendo al mismo ritmo.
Si estas mejoras continúan, los sistemas de IA podrían gestionar procesos de investigación cada vez más complejos. Las tareas que actualmente requieren varios días de trabajo humano podrían llegar a ser gestionables por agentes autónomos, lo que permitiría a los investigadores supervisar más experimentos de forma simultánea.
El efecto podría extenderse más allá del desarrollo de software. Los agentes de investigación más capaces podrían ayudar a investigar nuevos algoritmos, optimizar los procesos de entrenamiento, mejorar la utilización del hardware e identificar deficiencias en los modelos existentes.
Sin embargo, la aceleración no implica necesariamente un aumento exponencial ilimitado de la inteligencia. El progreso de la investigación depende de varios recursos, entre ellos la capacidad computacional, la electricidad, los datos de alta calidad, el hardware especializado y la disponibilidad de métodos de evaluación fiables.
Aunque la IA automatice gran parte del trabajo intelectual, las limitaciones físicas y organizativas podrían seguir determinando la rapidez con la que se desarrollan y despliegan nuevos modelos.
La transición del desarrollo asistido por IA a la mejora propia plenamente autónoma implica varios problemas técnicos complejos.
El primero es el criterio de investigación. Los sistemas de IA pueden ejecutar experimentos bien definidos y analizar sus resultados, pero decidir qué preguntas merecen atención requiere una capacidad diferente. La investigación exige identificar problemas relevantes, distinguir los resultados prometedores de los engañosos y reconocer cuándo un enfoque establecido ha alcanzado sus límites.
El segundo es la fiabilidad de la evaluación. Un modelo que produce código o propone un nuevo método de entrenamiento no puede determinar automáticamente si el resultado es correcto, seguro o realmente más capaz. Una evaluación fiable requiere pruebas independientes, experimentos reproducibles y métodos para detectar fallos que podrían no aparecer en las pruebas de referencia estándar.
El tercero es la infraestructura. El entrenamiento de modelos avanzados requiere grandes cantidades de recursos computacionales, aceleradores especializados, redes de alta velocidad y una cantidad considerable de electricidad. Los agentes de investigación de IA más capaces podrían aumentar la demanda de estos recursos al generar experimentos y cargas de trabajo de desarrollo adicionales.
El cuarto es la capacidad de mantener la alineación y la seguridad a medida que los sistemas se vuelven más capaces. Si un sistema de IA participa en la construcción de su sucesor, los desarrolladores deben comprender cómo se transfieren o cambian sus objetivos, comportamiento y posibles modos de fallo durante el proceso.
Estas barreras implican que la mejora recursiva propia no consiste simplemente en permitir que un modelo de IA escriba más código. Requiere un sistema conectado capaz de investigar, implementar, experimentar, evaluar y mantener una supervisión fiable.
Una de las implicaciones menos evidentes de la investigación asistida por IA es que la automatización de tareas individuales puede trasladar los cuellos de botella a otras partes del proceso de desarrollo.
Esto puede entenderse mediante la ley de Amdahl, un principio de la informática que describe cómo la velocidad global de un proceso está limitada por las partes que no pueden acelerarse.
Por ejemplo, si los agentes de IA generan código mucho más rápido de lo que los ingenieros humanos pueden revisarlo, la revisión del código se convierte en el factor limitante. Aumentar aún más la capacidad de generación de código podría producir mejoras decrecientes, a menos que el proceso de revisión también se vuelva más eficiente.
El mismo problema puede producirse en la investigación de IA. Los agentes podrían generar hipótesis, realizar experimentos y producir resultados más rápido de lo que los investigadores pueden evaluarlos. El cuello de botella pasa entonces de realizar experimentos a determinar qué resultados son fiables y qué líneas de investigación merecen recursos adicionales.
Por tanto, la supervisión humana no consiste únicamente en aprobar los resultados de la IA. También implica establecer objetivos, comprobar supuestos, identificar comportamientos inesperados y garantizar que las decisiones de desarrollo sigan siendo coherentes con los requisitos de seguridad.
Anthropic ha declarado que no prevé utilizar de forma segura Claude para diseñar y construir de manera plenamente autónoma generaciones sucesivas de modelos punteros sin una supervisión humana significativa ni comprensión humana, aunque finalmente la capacidad técnica llegue a ser posible.
Esta posición pone de relieve una distinción importante entre automatización y control. Un proceso de desarrollo puede automatizarse cada vez más y, al mismo tiempo, seguir requiriendo que los seres humanos mantengan la autoridad sobre las decisiones críticas.
El desafío consiste en garantizar que los revisores humanos dispongan de tiempo suficiente, conocimientos técnicos y herramientas de verificación independientes para desempeñar ese papel de forma eficaz.
Si los sistemas de IA comienzan a contribuir de forma más sustancial a su propio desarrollo, las prácticas de seguridad podrían tener que evolucionar al mismo ritmo que las capacidades técnicas.
Las evaluaciones tradicionales de modelos suelen centrarse en el comportamiento de un sistema en una etapa concreta de desarrollo. La mejora recursiva introduce un problema más dinámico: las capacidades y los riesgos de los modelos futuros podrían cambiar rápidamente a medida que los sistemas de IA participen en su producción.
Esto plantea varios desafíos de gobernanza.
En primer lugar, los procesos de evaluación deben mantener el ritmo del desarrollo. Si se producen nuevos modelos más rápido de lo que pueden probarse, las revisiones de seguridad podrían quedar incompletas o desactualizadas antes del despliegue.
En segundo lugar, los desarrolladores necesitan mejores métodos para supervisar los procesos de investigación automatizados. Esto incluye hacer un seguimiento de los experimentos que realizan los agentes, del código que modifican, de los recursos a los que acceden y de si sus acciones se mantienen dentro de los límites aprobados.
En tercer lugar, la verificación independiente adquiere una importancia cada vez mayor. Las empresas no pueden depender exclusivamente de la propia evaluación de un sistema de IA sobre sus capacidades o su seguridad. Las pruebas externas, las evidencias reproducibles y la revisión humana pueden proporcionar controles adicionales.
Por último, la coordinación entre los desarrolladores de IA y los responsables políticos podría adquirir mayor relevancia si el ritmo del progreso comienza a superar la capacidad de las organizaciones individuales para gestionar sus consecuencias. Anthropic ha defendido anteriormente mecanismos que podrían permitir ralentizar o pausar el desarrollo de IA puntera en condiciones coordinadas y verificables.
Sin embargo, una ralentización también plantea desafíos prácticos. Si solo algunos desarrolladores reducen su actividad de investigación mientras otros continúan, el efecto general podría ser limitado. Una coordinación eficaz requeriría una supervisión creíble, expectativas compartidas y la participación de las principales organizaciones.
La mejora recursiva propia también podría generar beneficios significativos. Los sistemas de investigación más capaces podrían acelerar los descubrimientos científicos, mejorar la seguridad del software, apoyar la investigación médica y ayudar a resolver problemas complejos de ingeniería. La cuestión central de gobernanza es cómo aprovechar estos beneficios y mantener al mismo tiempo un control suficiente sobre sistemas de desarrollo cada vez más autónomos.
Las últimas declaraciones de Anthropic ponen de relieve una posible transición en el desarrollo de la IA: la inteligencia artificial ya no es únicamente un producto creado por investigadores, sino que se está convirtiendo cada vez más en una herramienta utilizada para construir sistemas de IA posteriores.
La mejora recursiva propia describe la posibilidad de que este proceso acabe convirtiéndose en un bucle de retroalimentación, en el que cada generación contribuya al desarrollo de un sucesor más capaz. La advertencia de Anthropic sugiere que esta posibilidad podría estar acercándose antes de lo que esperan algunas instituciones, pero sus modelos actuales no han sido clasificados como modelos que hayan superado el umbral interno de RSI de la empresa.
Las preguntas clave son si los sistemas de IA pueden desarrollar el criterio de investigación necesario para avanzar de forma autónoma, si la capacidad computacional y la infraestructura pueden respaldar una experimentación más rápida y si la evaluación de la seguridad puede mantener el ritmo de un desarrollo cada vez más automatizado.
El futuro de la IA podría depender no solo del nivel de capacidad que alcancen los modelos, sino también de si los seres humanos pueden seguir comprendiendo, verificando y gobernando los sistemas que participan en su creación.
Esto no es un consejo de inversión. Esta información se proporciona únicamente con fines informativos y no debe interpretarse como una recomendación para comprar, vender o mantener ningún activo. El trading de criptomonedas implica un riesgo de pérdida.
Los servicios de Gate US pueden estar restringidos en ciertas jurisdicciones. Para más información, consulta nuestras divulgaciones legales: https://www.gate.com/en-us/legal/disclosures
Compartir
Contenido
