27Bモデルが勾配なしで自らの重みを書き換え、未知の問題で6.6ポイント精度向上

Language Models Can Rewrite Their Own Weights

言語モデルが推論だけで自身の重みを書き換え、性能を高める「self-rewriting」を著者らが初めて実証した。オープンな27Bモデルが、自分の重み・採点済み回答・自己実行能力を与えられ、失敗を診断して重みを修正。未見の問題で6.6ポイント精度が向上し、8回の連続セッションで精度は上昇し続けた。損傷したコピーも再学習なしで元の精度の80%超まで回復。この能力はスケールとともに現れ、同ファミリーでは最大モデルのみが改善・修復に成功した。

訓練と推論の間の壁は、私たちの道具の限界であって、知能の性質ではない。
  1. aesthesia

    特筆すべきは、モデルが自己改善のために行った唯一の変更が、トークン制限に引っかからないように推論トレースの長さを短縮することだった点だ。これは最近のweight-space programmingの記事(https://rikiyat.github.io/blog/weight-space-programming/)の結果と基本的に同じで、Astraでさえこの種の明らかな欠陥がなければモデルの性能を向上させられなかったことがわかっている。

  2. gavinray

    Googleの「sleep」論文がすでにこれを示していたのでは?

    https://research.google/blog/the-sleep-framework-a-new-way-f...

    > オフラインの睡眠フェーズでは、モデルは事前に割り当てられたMixture-of-Experts(MoE)メモリブロックのロックを解除し、自己生成した練習例を使って数値的な重みを更新する。

  3. Toutouxc

    誰かこれについて説明してくれると嬉しいのだが。彼らは「トレーニングなし」と言っている:

    > 初めて、言語モデルが自身の推論によって自分の重みを書き換え、勾配もトレーニングもなしに性能を向上させる

    > 練習問題で編集をテストし、うまくいったものだけを提出し、各編集は前回を改善し、8回の連続セッションで精度は上がり続ける

    しかし、これはトレーニングによく似ているし、「うまくいったものだけを提出する」というのは、定義上はおそらく勾配降下法ではないにせよ、何かを最適化しているときにはかなり当たり前に思える。

  4. samlinnfer

    モデルに自己修復を訓練できるかどうか気になる。CNNがデブラー(元の画像をぼかして、モデルが元の画像をどれだけ忠実に復元できるかで評価する)を学習するように。モデルが自分の重みをどれだけ忠実に修復したかで評価できる。そうすればモデルは自己修復が上手くなり、次に損傷していないモデルを修復するように指示されて、再帰的に自己改善できるかどうかを試せる。

  5. yieldcrv

    私たちのニューロンの構成にも同じことができる方法を明らかにしてくれたらいいのに。

  6. SamInTheShell

    Chris Hayが、彼のLARQLでモデルに重みを変更させる使い方を示した動画を公開した:https://www.youtube.com/watch?v=NLguavIxFFs

  7. woah

    最近の重み書き換え論文の数々は、現在の能力よりもインスピレーションを与える内容として価値がある。実際には、これらのモデルは論文が示唆するように重みを直感的に理解しているのではなく、分析スクリプトを使った非常に単純な微調整を行っているにすぎない。

    しかし、LLMが大量のシリアライズされたLLMの重みと対応する推論トレースで事前学習されるようになれば、これは変わるかもしれない。

  8. radicalbyte

    なぜできないのだろう?どの重みが活性化するかがわかれば、変更→テスト→変更のループに入れる。

    これが人々が中国のモデルから検閲などを取り除いている方法だと理解している。

この日のほかの記事

2026-11-20