LLMが手書き数字認識の重みを自力で書くと、1990年代の職人技が再現された

Weight-Space Programming builds neural networks like a 1990s researcher

LLMが手書き数字認識の重みを自力で書くと、1990年代の職人技が再現された

Weight-Space Programmingの実験として、Claude Fable 5.2にMNIST分類器の5,994個の重みを、学習や回帰なしで手作業で設定させた。モデルはSobel風の線検出器や手描きテンプレート、naive Bayes風のスコアリングを組み合わせ、50ステップでテスト精度約91%に到達。これはAdamで50回勾配更新した結果に匹敵し、LeCunが1998年に述べた「手作り特徴抽出器+学習可能分類器」の再現になっている。

Claudeは1990年代のコンピュータビジョンエンジニアのように始める。最初の層は、数式から書かれた4方向の線検出器のセットだ。

この日のほかの記事

2026-11-20