Los LLM no son superhumanos al leer y escribir los pesos de una red neuronal
LLMs are not superhuman at reading and writing neural network weights
Un paper reciente sostiene que GPT-6 Astra puede manipular directamente los pesos de redes neuronales: identificar a qué juego fue entrenada una red pequeña o corregir los bucles de un Qwen de 0.8B para que resuelva problemas de matemáticas más allá de los 32k tokens. El autor argumenta que un investigador humano competente haría lo mismo, y que ajustar pesos a mano es un truco vistoso, no una capacidad radical que vaya a transformar la investigación en AI.
Deberíamos pensar en esto como análogo a la capacidad de los LLM de emitir código máquina y retocar binarios compilados: es un truco impresionante, pero la mejor forma de trabajar con binarios sigue siendo escribir código fuente y compilarlo.
- nfw2
Se podría decir que aquí podrían ser "superhumanos" de la misma manera en que se podría decir que los LLM son superhumanos en matemáticas. Quizá hacen este trabajo más rápido y de forma más eficaz de lo que cualquier persona podría hacerlo manualmente. Pero desde luego siguen haciéndolo a la manera "humana", es decir, razonando con pensamientos legibles y coherentes, en lugar de comunicarse mediante alguna simbología tipo Matrix, que es lo que parecen suponer quienes hojean el artículo por encima.
- nagi_builds
"Creo que un investigador humano inteligente de ML podría realizar todas estas tareas."
¿Y durante cuánto tiempo?