Astra edita los pesos de Qwen3.5-0.8B y dispara su precisión en matemáticas del 7,9% al 48,1%
Astra can read and write weights to improve Qwen
Investigadores de MIT CSAIL demuestran que los LLM de frontera pueden leer y escribir los pesos de una red neuronal directamente, sin optimizadores ni descenso de gradiente. GPT-6 Astra identifica qué juego aprendió una política solo mirando sus 17.253 pesos y, sin retroalimentación del entorno, escribe desde cero redes que superan a las entrenadas con PPO durante 100 millones de pasos. En Qwen3.5-0.8B detecta el fallo que provoca bucles de razonamiento y lo corrige editando el 0,016% de los pesos: MATH-500 pasa del 7,9% al 48,1% y IFEval se triplica. Lo llaman Weight-Space Programming.
A lo largo de la historia del deep learning codificamos nuestros sesgos inductivos más simples en pequeños optimizadores simbólicos como Adam o Muon. Esto está cambiando: nuestros pesos de redes neuronales pronto serán optimizados de forma nativa por LLM que razonan deliberadamente sobre ellos.
- vessenes
Esto es una locura.
Astra puede, sin herramientas, determinar con qué juegos se entrenan redes pequeñas, puede editar los pesos de las redes directamente para mejorar los resultados, y puede editar a mano un modelo qwen pequeño para mejorar sus habilidades matemáticas unas 5 veces.
Estoy en shock. Si me hubieras preguntado esta mañana si los LLM tienen una comprensión nativa de sus pesos que sea menor que la comprensión humano <-> neurona, igual que la humana o mayor que la humana, habría dicho "igual o menor" dependiendo de las definiciones.
Ningún humano puede ir a editar un cerebro para volverse mejor en matemáticas. Esto es simplemente muy, muy sorprendente para mí y extremadamente interesante. Supongo que esto trastoca bastantes teorías de interpretabilidad y posturas filosóficas sobre lo que está pasando con estas redes.
- xg15
Y aquí vamos...
Como han dicho otros, aunque sigue siendo una absoluta locura, no me parece completamente sorprendente de la nada. Una de las habilidades recurrentes de los LLM (de la generación actual) parece ser la de captar rápidamente sistemas muy complejos, donde los humanos necesitarían meses o años para alcanzar el mismo nivel de experiencia.
Se puede ver en cómo un agente de programación puede "entender" y explicar enormes bases de código heredado en segundos.
También se ve en los proyectos que los usan para hacer ingeniería inversa de protocolos propietarios de IoT o de videojuegos.
Pero todos esos eran sistemas de los que teníamos conocimiento detallado sobre qué estructuras había que revertir.
Si los modelos pueden transferir esta habilidad a otros sistemas donde no conocemos la estructura subyacente, entonces creo que nos esperan muchas más locuras en el futuro. (¿Redes de interacción de proteínas? ¿Secuencias de ADN? ¿Interacciones de ecosistemas? ¿Lenguajes animales?)
En cuanto a los pesos, si los modelos realmente pueden analizar la semántica detrás de pesos o direcciones específicas, tengo la esperanza de que también puedan dar una explicación textual o ayudar a diseñar herramientas para hacer que el "trabajo manual" de los pesos sea más práctico en general.
- NitpickLawyer
> Como resultado, Astra detecta y corrige un fallo común de los modelos de razonamiento diminutos: entran en bucle [13]. Cuando el modelo base entra en bucle, repite el mismo texto y rara vez llega a una respuesta (85 de sus primeras 96 respuestas de práctica llegaron al límite de 32.768 tokens). Astra rastreó el bucle hasta una dirección escrita por los MLP de las capas 15 y 19, y restó esa dirección de 64 columnas de salida en cada una (131.072 pesos), más o menos como eliminar un comportamiento borrando una sola dirección de los pesos de un modelo
¡JA! Eso sí que es genial. No necesariamente las mejoras, esos son benchmarks antiquísimos y probablemente sobreentrenados, pero es genial que el modelo encontrara una dirección singular para este "bug de bucle". Me imagino que podría hacer más o menos lo mismo para encontrar otras "direcciones singulares" en una variedad de temas (si los guardarraíles lo permiten). Esto es realmente muy genial, especialmente para la gente de mechinterp.
- vanyle
No creo que esto sea una capacidad emergente. Creo que Astra fue entrenado con datos de pesos neuronales como un intento de OpenAI de llegar a la automejora recursiva.
Algo similar ocurrió en los primeros modelos GPT, que tenían muchas partidas de ajedrez en notación estándar en sus datos de entrenamiento, lo que los hacía muy buenos en ajedrez siempre que tu prompt tuviera el formato correcto.
Veremos si este intento de RSI funcionó.
- _bobm
Creo que el subcampo existe desde hace mucho tiempo. Véase una pequeña sección de artículos sobre el tema de generar pesos dinámicos durante la inferencia, predecir pesos a partir de la arquitectura de red, y aprender la distribución de parámetros de redes previamente entrenadas, por nombrar solo algunas palabras clave:
Parameter Prediction for Unseen Deep Architectures [1]
NeuroGen: Neural Network Parameter Generation via Large Language Models [2]
Diffusion-Based Neural Network Weights Generation [3]
Lo crítico para mí es que Astra es capaz de hacerlo. No sé si fue entrenado para ello.
Todo esto no lo hace menos loco en mi opinión. Y sigo sin saber cómo voy a poder dormir tranquilo esta noche.
[1] https://arxiv.org/abs/2110.13100
- jsenn
Siento que esto está mezclando 2 resultados separados de una forma un poco engañosa.
> Descubrimos que los LLM de frontera son sorprendentemente buenos leyendo y escribiendo pesos de redes neuronales de forma nativa
Esta afirmación se respalda con la capacidad de Astra, dada una representación textual de los pesos de modelos diminutos (20k) de propósito específico, de averiguar qué hacen esos modelos y en algunos casos mejorarlos más allá de lo que el RL podría lograr simplemente leyendo los pesos sin llamadas a herramientas. A esto lo llaman "programación en el espacio de pesos".
> Asimismo, cuando se le pide hacer que Qwen3.5-0.8B sea mejor en matemáticas sin gradientes, Astra identifica un problema en sus pesos que causa bucles de razonamiento de los que advierte la propia model card de Qwen, y lo corrige editando de forma nativa el 0,016% de los pesos
Aquí sí usó llamadas a herramientas, y aparentemente usó técnicas estándar de vectores de dirección para identificar y corregir bucles de razonamiento en este pequeño modelo Qwen. Esto no parece estar muy relacionado con los resultados anteriores.
- futureshock
Esto me parece completamente impactante. Definitivamente soy escéptico. Simplemente no encaja con mi comprensión de cómo funcionan estos modelos. ¿Realmente hay suficientes datos de entrenamiento sobre edición directa de pesos como para darle a un modelo esta habilidad? Quizá sea evidencia de que OpenAI ha estado creando muchos datos de entrenamiento sobre investigación en ML. Aunque me sorprende que eso se haya incluido en un modelo de cara al público.
- Imnimo
En conjunto, no me sorprende tanto que pueda adivinar juegos mirando los pesos de una red neuronal diminuta. Un humano puede hacer lo mismo mirando los pesos de un MLP entrenado con mnist, por ejemplo. Con esa estructura simple, es fácil mirar la capa de entrada y ver que las características corresponden a la ubicación espacial de los objetos de interés.
Me sorprende mucho más que pueda hacer esto en modelos más grandes, aunque los detalles parecen sugerir que se le da mucha más libertad para ejecutar pases hacia adelante y hacer experimentos limitados, no solo echar un vistazo a los pesos.
- GodelNumbering
Intenté reproducir esto usando Astra para un modelo pequeño de lenguaje natural a comandos bash[1][2], pero no obtuve ninguna mejora neta. Editar 1.920 pesos corrigió algunos errores de grep pero rompió otros comandos. Supongo que es más fácil mejorar el comportamiento cuando primero se puede señalar una zona específica del modelo.
- belval
La gente ha estado hablando de Sol 6.1 y quizá para programar sean equivalentes, pero Astra 6 sigue estando muy por delante en casi todo lo demás.
Hice que agentes de Astra construyeran modelos 3D y les di acceso directo a mi impresora 3D. La calidad de sus diseños es mucho mejor que lo que Sol ha podido hacer para mí. Tanto que creo que Astra es una arquitectura/codificador ligeramente distinta, no solo un modelo más grande.
Imagen, para hacerse una idea: https://github.com/Belval/crossflow-fan/blob/main/renders/ca.... Esto se imprimió sin defectos evidentes (sí, el ventilador sopla aire)