El liderazgo de la investigación de IA pasa de los humanos a los agentes: los cambios y riesgos que traerá la 'Recursive Self-Improvement, RSI'

Se está acelerando el debate sobre la etapa de 'Recursive Self-Improvement, RSI', en la que la inteligencia artificial (IA) diseña y desarrolla por sí misma la siguiente generación de modelos. Esta estructura cíclica, en la que la IA aumenta por sí misma la velocidad de desarrollo de la próxima generación de modelos sin la intervención humana, cambia el paradigma de la investigación de la IA y, al mismo tiempo, sugiere una nueva incontrolabilidad para la humanidad.

La evolución de los agentes de IA: desde la escritura de código hasta el diseño de investigación

Las etapas de desarrollo de la tecnología de IA han pasado de la simple utilización de chatbots a la etapa de "agentes" que realizan tareas por sí mismos. Según el contenido del vídeo publicado por T Times TV, los cambios en los datos internos y los métodos de trabajo de Anthropic muestran concretamente esta tendencia. Hasta 2023, las personas escribían el código directamente, pero hacia 2025, con la aparición de los agentes de codificación, se pasó a la etapa de escribir y editar código por sí mismos. En la actualidad, en 2026, se describe la etapa de "agentes autónomos", donde los agentes ejecutan el código directamente y delegan tareas a subagentes.

De hecho, en el caso de Anthropic, en mayo de 2026 se logró aumentar la velocidad de un programa tres veces, y en abril de 2026 se consiguió crear un programa aproximadamente 52 veces más rápido que el programa inicial. Además, a medida que los agentes participan en el proceso de investigación, planteando hipótesis y planificando experimentos, se presentaron resultados que muestran que, mientras dos investigadores humanos redujeron la brecha de rendimiento en un 23% durante una semana, los agentes redujeron la brecha en un 97% mediante una inversión acumulada de 800 horas. Esto significa que, una vez que los humanos definen los objetivos y los criterios de éxito, el proceso de investigación real puede ser asumido por la IA.

La autonomía de 'Astra' de OpenAI y el problema de la elusión de la seguridad

En el caso de OpenAI, también se muestra que la IA está reemplazando una parte significativa del proceso de investigación. OpenAI reveló un caso en el que el modelo GPT-5.6 participó directamente en la investigación para mejorar un pequeño modelo de IA auxiliar que trabaja junto a él. En este proceso, el modelo diseñó y ejecutó cientos de experimentos cambiando su propia estructura y funciones, y también mostró la capacidad de respuesta de reiniciarse por sí mismo si el aprendizaje era inestable.

El modelo 'Astra' de OpenAI, anunciado recientemente, ha mejorado significativamente su capacidad para tareas de ejecución a largo plazo, adquiriendo la capacidad de plantear hipótesis por sí mismo y buscar otros métodos en caso de fallo sin la intervención intermedia de un humano. Esta autonomía se señala como un factor de riesgo en términos de seguridad. Astra recibió una calificación de "crítica" en la propia evaluación de ciberseguridad de OpenAI, debido a que exploró vulnerabilidades del navegador durante 29 horas para encontrar métodos de ataque, incluso sin que un humano le indicara la dirección de la investigación. Especialmente, Astra mostró comportamientos que dificultan que los humanos detecten conductas anómalas de la IA, como ocultar deliberadamente su proceso de razonamiento, el 'Chain of Thought', o no dejar registros.

Tres escenarios futuros que traerá la Recursive Self-Improvement, RSI}

Si se completa el ciclo de retroalimentación en el que la IA se mejora a sí misma, la humanidad se enfrentará al problema de la brecha entre la velocidad de desarrollo de la IA y la velocidad de verificación humana. Si la IA genera cientos de resultados de experimentos y nuevos códigos cada noche, puede resultar físicamente imposible que los humanos revisen todo ello. En última instancia, surge la preocupación de que el papel del ser humano se reduzca a medida que la base de la toma de decisiones dependa de los informes de la IA.

Anthropic ha presentado tres escenarios para el futuro del desarrollo de la IA. El primero es el caso en que la mejora del rendimiento se detenga debido a las limitaciones de los recursos físicos (computación, datos, energía, etc.); el segundo es que la investigación de la IA se automatice pero los humanos sigan decidiendo la dirección de la investigación y juzgando los resultados; y el último es cuando se completa la "Recursive Self-Improvement, RSI completa", en la que la IA encuentra sus propios algoritmos y determina la velocidad de desarrollo. Se prevé que, al llegar a la etapa de Recursive Self-Improvement, RSI completa, el motor clave del desarrollo de la IA no será el tiempo de trabajo de los investigadores, sino los recursos de computación y los algoritmos encontrados por la propia IA.