1.8MパラメータのモデルがSudoku-Extremeで99.9%達成、推論計算量は345分の1
Energy-Based Reasoners: 385x more efficient inference

Duke大学、UIUC、Harvard大学の研究チームが提案したEnergy-Based Reasoners(EBR)は、潜在的な推論状態に対するエネルギー関数を学習し、ループ更新をそのエネルギー上の勾配降下として定式化する。エネルギーは外部検証器なしに候補を採点し、勾配は改善方向と停止の判断を導く。1.8MパラメータのみでSudoku-Extremeの99.9%精度を達成し、次善モデルより345倍少ない推論計算量で済む。N-QueensやGraph Coloringでも単一サンプルでほぼ100%の精度を保ちつつ、多様な解の網羅率で最先端を記録した。
正しい軌跡は低いエネルギーと小さな勾配で定常状態に落ち着く一方、誤った軌跡は動き続ける。
HNでの議論
45- Topfi
EBMについてより深く知るには、Yann LeCunなどが議長を務めるLogical Intelligenceをチェックすることをお勧めします[0]。LLMが従来あまり得意としない分野で大きな可能性を秘めており、EBMの利点を示したいという思惑から、LLMが苦手とする例(小学校レベルの算数や数え上げなど)の格好の供給源にもなっています(皮肉なことに、Millennium級のLean証明を提供しているにもかかわらず)。もちろん、計算を行うコードを書けば信頼性が高く高速である場合に、LLMが正確に数えられるかどうかが重要かという、もっともな議論も生じますが…
[0] https://logicalintelligence.com/blog/energy-based-model-sudo...
- program_whiz
これを数独について考えると分かりやすいでしょう:
すべてのヒントについて、その行/列でその数字をサンプリングする確率をゼロにします。また、「ヒントセル」を変更対象として選択する確率も0にします。
変更するセルをランダムに選びますが、その「エネルギー」に基づいて選びます(エネルギーの高いものが先に変更されます):
1. 競合するセルはすべてエネルギー+1.0(新しい空セルを作る前に競合を解決しようとする)。例えば、同じ行に2つの7があれば、両方ともエネルギー+1。
2. 空セルは小さなエネルギー0.1
3. 競合のない埋まったセルはエネルギー0
選んだセルについて、数字を選びます。その行/列の数字を見て、行/列に出現するたびにその数字をサンプリングする確率を90%下げます。例:
| 7の数 | 7の確率 |
| --- | --- |
| 0 | 10%(他の数字と同じ) |
| 1 | 1% |
| 2 | 0.1% |
もちろん、行にもっと数字が入ればもっと複雑になります(これは他の空行で7だけをチェックする場合です)。
これは本質的にこれらのモデルがやっていることです。「エネルギー」に基づくランダム探索を伴う一種の「波動関数の収束」サーチを提供しますが、エネルギーは単に競合/未解決として定義されます。迷路のようなものでは、エネルギーは分断された経路セグメントや壁などです。
- mocmoc
私はこれに1年を費やしました。EBMは…何と言えばいいか、印象的な検証器ですが、訓練するのは信じられないほど難しいです。非常にニッチで特定の分野に特化しています。一方、LLMは常に正しいわけではなく不器用ですが、最終的に人々が仕事を成し遂げるのを助けます。
EBMの数独は小規模ならそれほど難しくなく、Logical Intelligenceの数独ソルバーはスケールしません。もし私が間違っているなら、どんなに大きな数独でも提供できることを見せてほしいです。
また、何ヶ月もEBMを訓練した後、気づくのは…本当にそれだけの価値があるのか?ということです。
- xgk
論文はEnergy-Basedとは何かを定義していないようです。論文には「EBMは入力が与えられた候補予測にエネルギーを割り当てるスカラー関数を学習する」とあります。これらの学習されたスカラー関数の終域は何でしょうか?実数だと思いますが、「Energy」は単に実数の同義語なのでしょうか?
- igleria
私が理解できた限りでは、これは非常に特定の論理パズルの問題セットに対して非常にうまく機能します。今後の論文には興味がありますけどね :)