GPT-6 Astra lee pesos de IA y arregla un modelo sin reentrenar

Investigadores del MIT CSAIL publicaron el 2 de noviembre de 2026 un experimento que suena a ciencia ficción: GPT-6 Astra, de OpenAI, puede leer y escribir directamente los pesos de una red neuronal, sin descenso de gradiente y sin un ciclo de entrenamiento. El trabajo, titulado “Sparks of Weight-Space Programming”, está firmado por Rikiya Takehi, Jayden Teoh, Alex Zhang y Omar Khattab, y los propios autores lo describen como resultados muy iniciales, aún sin revisión por pares ni replicación independiente.

La idea central es lo que los autores llaman Weight-Space Programming: en lugar de entrenar un modelo para ajustar sus pesos, pedirle a un modelo de frontera, en lenguaje natural, que interprete los números brutos de otra red y los reescriba hacia un objetivo. En los experimentos menores, Astra identificó, solo por los pesos, para qué juego se había entrenado una red — Breakout, con un 99% de confianza, a partir de 17.253 pesos —, corrigió una política de conducción atascada en una rampa, con un 100% de éxito en 1.024 episodios tras editar el 3,5% de los pesos, y escribió redes de juego desde cero: en Breakout, su red de un solo intento marcó 517,4 puntos, frente a 15,8 de un modelo entrenado con PPO durante 100 millones de pasos.

El caso Qwen3.5-0.8B: el 0,016% de los pesos, seis veces más matemáticas

El experimento más comentado usó Qwen3.5-0.8B, el modelo abierto de Alibaba con 800 millones de parámetros. Con un cuaderno Python sobre los pesos y un presupuesto de pasadas de evaluación (forward passes), Astra rastreó un defecto conocido del modelo — bucles de razonamiento, sobre los que advierte la propia ficha de Qwen — hasta una única dirección escrita por los MLP de las capas 15 y 19, y restó esa dirección de 64 columnas de salida en cada capa: 131.072 pesos modificados, el 0,016% del total. Con 50 forward passes, MATH-500 subió del 7,9% al 48,1%, GSM8K del 13,8% al 67,1% e IFEval, que mide el seguimiento de instrucciones, del 21,0% al 62,3%. La proporción de respuestas de MATH-500 que tocaban el límite de 32.768 tokens cayó del 93% al 33,1%.

Los propios autores ponen el freno: la corrección eliminó un obstáculo que ocultaba una habilidad, no creó una habilidad nueva. La prueba está en el control con Gemma 3 270M, un modelo que rara vez entra en bucle: allí, ninguna edición movió MATH-500 en más de alrededor de un punto. Del mismo modo, Astra no pudo identificar, solo por los pesos, cuál de dos modelos había sido entrenado para ser adulador; solo acertó cuando pudo observar los patrones de atención. Los autores publicaron los registros completos de todos los experimentos y ahora construyen un benchmark para medir esta capacidad con rigor.

Crédito de la imagen: Rikiya Takehi, Jayden Teoh, Alex Zhang y Omar Khattab, en el artículo “Sparks of Weight-Space Programming” (imagen del experimento con Breakout).

Fuentes: Rikiya Takehi e coautores (MIT CSAIL) — Sparks of Weight-Space Programming; ExplainX — GPT-6 Astra Edits Qwen Weights.

Transparencia: este artículo se produjo con ayuda de inteligencia artificial, cruzando publicaciones públicas en X y fuentes de internet. Consulta las fuentes originales para confirmar los detalles.

Muse