Los agentes de IA están aprendiendo a mejorar su propio software. La clave puede estar en predecir sus errores antes de cometerlos

En el desarrollo de software, cambiar algo para mejorarlo siempre abre la posibilidad de estropear otra cosa. Hasta un ajuste pequeño puede alterar el comportamiento de un programa, de modo que proponer una modificación y demostrar que funciona son dos trabajos distintos. Ahora traslademos ese dilema a los agentes de inteligencia artificial capaces de intervenir en el código y las instrucciones que utilizan para resolver tareas. Pueden intentar perfeccionar sus propias herramientas, sí, pero cada intento plantea el mismo desafío: saber cuándo una modificación merece la pena y cuándo puede introducir un problema que antes no existía.

El desafío de mejorar sin fallar. Un equipo de investigadores de la Universidad de Virginia, Microsoft Research y la Universidad de Tsinghua ha desarrollado una forma de dar a estos agentes una oportunidad más antes de poner a prueba sus cambios. La idea, presentada en un estudio publicado en arXiv, es que un sistema intente predecir si una modificación podría empeorar los resultados y, cuando detecta ese riesgo, permita revisarla. No estamos hablando de entrenar nuevamente la inteligencia artificial, sino de mejorar los programas y las instrucciones que utiliza para trabajar. El objetivo no es eliminar todos los errores, sino orientar mejor los intentos de mejora.

Así se modifican los agentes. Imaginemos dos agentes de inteligencia artificial trabajando juntos. El primero se dedica a resolver tareas, mientras que el segundo busca maneras de mejorar su funcionamiento, modificando el código y las instrucciones que utilizan ambos. Este último también puede cambiar su propio software. Así funciona HyperAgents, el sistema del que parte la investigación y que, además, guarda los resultados de versiones anteriores para orientar futuras modificaciones. No es el primer intento de conseguir algo parecido: en 2025, Sakana AI presentó Darwin Gödel Machine, un proyecto que ya exploraba cómo un agente podía mejorar mediante cambios en su propio código.

Anticipar un problema antes de probar. Para decidir cuándo conviene revisar una modificación, los investigadores incorporaron el Improvement Dynamics Model (IDM). Este componente analiza el cambio propuesto y utiliza la experiencia acumulada para estimar sus posibles consecuencias. Puede distinguir, por ejemplo, entre una tarea que terminaría con una respuesta incorrecta y otra que ni siquiera llegaría a completarse. Si prevé un empeoramiento, permite una revisión adicional antes de evaluar la versión resultante. Durante una prueba, unas instrucciones quedaron fuera de las comillas correspondientes y provocaron un error de sintaxis. El agente había detectado el problema, pero agotó sus llamadas a herramientas antes de repararlo. El predictor anticipó que las tareas probablemente quedarían incompletas y motivó otra revisión. Tras corregir el código, la nueva versión consiguió resolver 11 tareas. El sistema realiza la evaluación final aunque la última predicción sea desfavorable.

Las pruebas muestran una mejora. Los investigadores no se quedaron en el ejemplo de las comillas: pusieron a prueba los agentes con 166 tareas de programación que no habían utilizado durante el proceso de mejora ni para seleccionar las versiones. Para dar una tarea por resuelta, el sistema debía proponer una modificación de código que superara las pruebas correspondientes. El agente inicial alcanzó una tasa de éxito de aproximadamente el 16%, mientras que las versiones seleccionadas de HyperAgents, sin el nuevo predictor, lograron una mediana cercana al 22%. Con el método de predicción, esa cifra llegó a casi el 30%. Los resultados, obtenidos a partir de cinco ejecuciones por configuración, apuntan a una mejora dentro de las condiciones del experimento.

Un predictor que también aprende. Hay una segunda capacidad que merece atención: el sistema encargado de anticipar los resultados también puede perfeccionarse. Cada cinco rondas, el agente responsable de las modificaciones propone cambios en su funcionamiento, que solo se incorporan si superan una comprobación posterior. Los investigadores también quisieron saber si esa experiencia podía aprovecharse en tareas diferentes. Tras perfeccionar el predictor con trabajos de predicción de aceptación de artículos científicos y diseño de recompensas para robots simulados, lo utilizaron para orientar la mejora de nuevos agentes encargados de calificar soluciones matemáticas. En 100 ejercicios reservados para la evaluación final, estos agentes coincidieron exactamente con las calificaciones de expertos en una mediana del 55% de los casos, frente al 51% con un predictor inicial y el 47% de HyperAgents.