China — La llegada de las IA con «automejora recursiva»: qué significa que Astra haya ayudado a modificar otro modelo de IA

El pasado 12 de septiembre Dario Amodei, el director general de Anthropic, publicó uno de sus ensayos más controvertidos. Lo tituló ‘Debemos marcar el ritmo de la frontera’ (We Must Pace the Frontier), y en su texto defiende la necesidad de ralentizar el desarrollo de los modelos de inteligencia artificial (IA) de frontera con el propósito de asegurar su correcta alineación con los intereses del ser humano y de minimizar en la medida de lo posible los riesgos derivados de la puesta a punto de las IA más avanzadasse denomina automejora recursiva y está empezando a producirse en toda la industria, incluida Anthropic». Podemos entender la automejora recursiva como la capacidad de un modelo de lenguaje de desarrollar de forma autónoma nuevos modelos más avanzados que él mismoDe las palabras de Amodei se desprende que los modelos más avanzados de Anthropic y otros laboratorios ya están participando en el desarrollo de nuevos modelos de lenguaje más capaces, aunque por el momento ninguna de estas empresas ha demostrado públicamente que uno de sus modelos haya alcanzado la automejora recursiva en sentido estricto. Sin embargo, acaba de producirse un giro inesperado: un grupo de investigadores del MIT (Instituto Tecnológico de Massachusetts) ha demostrado que GPT-6 Astra ha conseguido modificar directamente el funcionamiento de otra IAVarios investigadores del Laboratorio de Inteligencia Artificial e Informática del MIT han comprobado que GPT-6 Astra, el modelo de IA de OpenAI, es capaz de modificar directamente los parámetros internos de otra red neuronal para mejorar su comportamiento. Curiosamente, estos científicos han realizado su experimento sobre Qwen3.5–0.8B, un modelo de lenguaje de 800 millones de parámetros desarrollado por la compañía china Alibaba. Lo que ha conseguido hacer Astra es mejorar mucho su rendimiento en operaciones matemáticas manipulando tan solo el 0,016% de sus parámetrosobstante, también es sorprendente que esta mejora haya sido posible sin recurrir a un nuevo proceso de entrenamiento del modelo. Lo que ha hecho Astra es, sencillamente, modificar el valor de los pesos de Qwen. Para entender por qué esto es importante nos interesa repasar qué son los pesos de un modelo de IA.los grandes modelos de lenguaje se les da de maravilla reconocer patrones. De hecho, esta capacidad reside en el corazón de su funcionamiento y se consigue gracias a miles de millones de parámetros numéricos, entre ellos los pesos, que el modelo va ajustando durante el entrenamiento. Una IA es una gigantesca red de miles de millones de pequeñas conexiones. Durante el proceso de entrenamiento, la IA analiza una cantidad ingente de información y va ajustando esas conexiones para aprender a reconocer patrones.

El valor numérico de cada una de esas conexiones determina cuánto influye cada una de ellas en el comportamiento del modelo. Estos valores son los pesos. En vez de reentrenar a Qwen, Astra ha identificado un problema en su funcionamiento y ha manipulado directamente los valores numéricos que lo desencadenaban. Es una estrategia inédita hasta ahora en manos de una IA que abre un nuevo camino a la hora de acelerar el desarrollo de nuevos modelos, aunque no estamos ante la automejora recursiva de la que hemos hablado unas líneas más arriba. No en sentido estricto