El experimento de Astra con Qwen no es lo que parece: la mitad de sus pruebas usan Python
The 'Astra can read and write weights to improve Qwen' post is misleading
Matthew Honnibal, creador de spaCy, desmonta el post que atribuye a GPT-6 Astra la capacidad de leer y reescribir pesos de redes neuronales. Solo tres experimentos, sobre redes de 17K a 172K pesos, trabajan con los pesos en crudo; el resto, incluido el resultado estrella que sube MATH-500 del 7,9% al 48,1% en Qwen3.5-0.8B, usa Python y hasta 50 pasadas de entrenamiento. Lo compara con un mago que cambia de truco en cada función.
Lo que el resultado de Qwen demuestra en realidad es que se puede pedir a Astra que idee y ejecute tareas que un ingeniero de ML humano podría hacer.
- x313
Trabajo en este campo (investigación en interpretabilidad mecánica) y estoy de acuerdo, la publicación original es definitivamente engañosa. Algo de exageración en la investigación es normal, pero esto es demasiado.
Primero, el resultado clave no tiene nada que ver con hacer que Qwen sea mejor en matemáticas, solo reduce los bucles de razonamiento.
Los bucles de razonamiento son un problema simple: el modelo genera el token </think> (que cierra el razonamiento) con una probabilidad demasiado baja. Puedes solucionar esto con enfoques simples de steering en los que añades un vector a diferentes componentes del LLM (https://arxiv.org/abs/2503.22048, https://arxiv.org/abs/2506.18167, etc.). El método que usó Astra para identificar el vector es el procedimiento estándar que usan los humanos (análisis contrastivo). La creación de tales vectores de steering es básicamente el "proyecto de interp de nivel introductorio" estándar para investigadores humanos.
Si sabes programar y entiendes las tripas de los LLM, puedes hacer esto tú mismo en 4-8 horas. El equivalente en SWE sería hacer binary patching con un depurador. Está bien que los modelos de frontera puedan hacer esto, pero no es inesperado ya que los humanos pueden hacerlo sin problema.
- bushido
Hablando por mí. He estado al tanto de muchos conceptos relacionados con el entrenamiento, pero me mantuve alejado hasta hace muy poco.
Hace unas semanas, formulé la hipótesis de que podría lograr que un modelo más pequeño dominara los estándares específicos que tengo para mis mensajes de commit de git, que son difíciles de obtener de la mayoría de los LLM actuales.
Pasé las últimas cuatro o cinco semanas en entrenamiento tradicional. Mejoró en muchas áreas, pero no lo suficiente como para ser usable para mí.
Ayer, el artículo que critica el autor de esta publicación me dio suficiente claridad como para pensar que quizás los problemas que estaba viendo podrían resolverse haciendo que un LLM más grande cambiara los pesos directamente, sin pasar por el entrenamiento.
En las últimas doce horas más o menos he avanzado más que en 2+ semanas. Estoy usando uno de mis últimos checkpoints con buen rendimiento (fine-tune completo + cambios en la cabeza de decisión/LoRA, etc.) y le di al modelo rienda suelta para cambiar cualquiera de las capas.
Sus dos últimas acciones: (a) eliminó 16 direcciones de orden de participantes de una matriz de cabeza, lo que mejoró un tipo de razonamiento y degradó otro, y (b) restauró una de las 16, lo que revirtió la degradación mientras mantenía la mejora principal.
Con todo esto quiero decir que esto puede ser conocido para personas que han estado en el entrenamiento durante años, incluso décadas, pero es nuevo para muchos de nosotros. Y estamos emocionados por ello.
- phoghed
¿No era todo eso obvio para cualquiera que leyera la publicación original cuando llegara a la sección que explicaba explícitamente lo que el autor de esta publicación ahora está resumiendo?
Claro, si solo lees el título y el resumen de arriba te quedarías sin la imagen completa.
Esta es una mejor respuesta en mi opinión: https://news.ycombinator.com/item?id=50344861
- neom
Siento que mucho de este asunto de Astra editando Qwen es una regurgitación de técnicas existentes relativamente conocidas, por ejemplo: https://arxiv.org/html/2406.11717v3 y conceptualmente similar a: https://arxiv.org/abs/2512.05648 (aunque esto se hace en entrenamiento, si no recuerdo mal)
- tidbeck
Hubo muy buenos comentarios de @yurimo en la publicación de Hacker News 'Astra can read and write weights to improve Qwen' https://news.ycombinator.com/item?id=50341174
- GavinAnderegg
Sigo impresionado por la idea de "Weight-Space Programming". Quizás sea porque no sabía que los LLM podían entender o modificar con éxito los pesos antes de leerlo. Sin embargo, creo que los ejemplos proporcionados en la pieza original fueron reveladores. Sí, los humanos pueden construir herramientas para modificar pesos, pero el autor aquí está de acuerdo en que es difícil. Los ejemplos en los que Astra interactuaba con pesos siguen siendo novedosos, y Astra pareció manejarlos con una facilidad sorprendente.
- vkgcr
Pero teóricamente, ¿qué impediría a los laboratorios hacer RL de los modelos en tareas de "weight-space programming" para que mejoren en ellas? Quizás apenas estamos en el comienzo, como cuando los agentes de programación apestaban hace 2 años.
Todavía parece un enfoque prometedor para RSI, destilación, fine-tuning y toda una serie de otras tareas.
- kenjackson
La publicación original explica mejor lo que hicieron y por qué que esta publicación. Esta publicación no me enseñó nada que no estuviera en la original.