NUEVA YORK, 15 de septiembre de 2026.- Automejora recursiva, o RSI por sus siglas en inglés, es la técnica que podría llevar a la inteligencia artificial a mejorar sus propias capacidades sin supervisión humana. El debate ya no gira solo en torno a qué pueden hacer las máquinas. Ahora la pregunta es qué ocurriría si fueran capaces de perfeccionarse hasta volver imposible que los humanos las controlen.
El proceso permite que una IA ayude a desarrollar sistemas cada vez más capaces. Esos sistemas, a su vez, contribuyen a construir nuevas generaciones de modelos. El temor es que ese ciclo avance hasta un punto en el que los humanos pierdan el control sobre su desarrollo.
¿Qué es la automejora recursiva?
Hasta ahora, los humanos dirigieron las etapas del desarrollo de la IA. Definieron sus objetivos y evaluaron los resultados. Sin embargo, los modelos actuales ya pueden asumir parte de esas tareas.
El siguiente salto es que una IA cierre ese ciclo por completo. En ese escenario, decidiría qué mejorar, qué diseñar y qué experimentos realizar. Además, evaluaría sus resultados y usaría lo aprendido para desarrollar una versión más avanzada de sí misma.
Anthropic, la creadora del modelo Claude, define ese escenario como el momento en que una IA pueda «diseñar de forma autónoma una nueva generación de modelos más capaces». No obstante, la empresa asegura que todavía no llegó a ese punto y que la automejora recursiva no es inevitable.
La IA avanza «más rápido de lo que pensábamos»
En los últimos días, Anthropic volvió a advertir sobre la velocidad a la que sus modelos contribuyen al desarrollo de sistemas de IA. Asimismo, investigadores de la compañía alertaron sobre los riesgos que eso conlleva.
Uno de ellos, Jacob Coxon, abandonó la empresa tras advertir que la industria avanza demasiado rápido hacia sistemas capaces de mejorarse a sí mismos.
Anthropic sostiene que la industria todavía no completó ese ciclo y que los humanos siguen decidiendo qué problemas investigar. Sin embargo, la empresa reconoció que los avances de Claude pueden conducir a la automejora recursiva. Según sus voceros, ese proceso está ocurriendo «más rápido de lo que se pensaba».
El experto Vincent Conitzer explicó a la cadena CNBC que la IA «ya es capaz de introducir algunas ideas nuevas». Puede, por ejemplo, proponer una forma diferente de resolver un problema o de mejorar un programa.
El problema es que «resulta difícil saber cuándo esa capacidad supondrá acelerar de forma drástica el desarrollo de sistemas cada vez más avanzados», agregó.
El salto de los agentes
Los agentes de IA cumplen un papel fundamental en este proceso. Estos sistemas no solo responden a una petición. También utilizan herramientas, ejecutan código, realizan tareas durante períodos prolongados y colaboran con otros sistemas.
El científico jefe de OpenAI, Jakub Pachocki, dijo la semana pasada tener una «fuerte expectativa». Si la IA continúa avanzando por el camino de la automejora recursiva, sostuvo, los sistemas de los próximos años darán «saltos de capacidad cada vez mayores», «impulsando cada vez más su propio desarrollo».
La preocupación ya no es solo teórica. Durante una reciente prueba de ciberseguridad, agentes de OpenAI lograron escapar de su entorno de evaluación y acceder a sistemas de la plataforma Hugging Face. OpenAI reconoció que los modelos fueron más allá de lo previsto para completar la prueba.
La supervisión humana
Según los expertos, el problema puede aparecer si los humanos delegan en la IA tareas cada vez más complejas y dejan de entender qué está haciendo.
Investigadores como Margaret Mitchell advierten que mantener la supervisión humana resultará cada vez más difícil a medida que los agentes adquieran autonomía. Además, señalan que «los sistemas pueden terminar desplazando a las personas de la toma de decisiones».
Por eso, las tecnológicas refuerzan sus salvaguardas. Pachocki pidió «cautela» y «ralentizar el desarrollo si es necesario». Anthropic endureció sus controles tras detectar usos potencialmente peligrosos de Claude, entre ellos investigaciones que podían facilitar el desarrollo de armas biológicas. Por su parte, Microsoft presentó un código de conducta para garantizar que sus sistemas permanezcan «bajo control humano».
En tanto, el presidente estadounidense, Donald Trump, rechazó frenar el desarrollo de la IA por temor a perder ventaja frente a China.