1.8M 파라미터 모델이 Sudoku-Extreme을 99.9% 정확도로 풀다
Energy-Based Reasoners: 385x more efficient inference

Duke, UIUC, Harvard 연구진이 잠재 추론 상태 위에 에너지 함수를 학습하고 반복 업데이트를 그 에너지에 대한 경사하강으로 정식화한 Energy-Based Reasoners(EBR)를 공개했다. 에너지는 외부 검증기 없이 후보 예측의 가치를 점수화하고, 그 기울기는 개선 방향과 정지 신호를 동시에 제공한다. 1.8M 파라미터에 불과한 EBR은 Sudoku-Extreme에서 99.9% 정확도를 달성하며 차선 모델보다 추론 연산을 345배 적게 쓴다. N-Queens와 Graph Coloring에서는 거의 100%의 단일 샘플 정확도를 유지하면서 최고 수준의 해 커버리지를 기록했다.
정답 궤적은 낮은 에너지와 작은 기울기에서 정착하는 반면, 틀린 궤적은 계속 움직인다.
HN 토론
45- Topfi
EBM에 대한 더 많은 맥락을 위해 Yann LeCun 등이 의장을 맡고 있는 Logical Intelligence를 살펴보는 것을 추천합니다 [0]. 이는 LLM이 전통적으로 잘 수행하지 못하는 영역에서 큰 잠재력을 가지고 있으며, EBM의 장점을 보여주고자 하기 때문에 LLM이 어려워하는 사례들, 예를 들어 초등학교 수준의 수학과 세기(아이러니하게도 밀레니엄 수준의 Lean 증명을 제공하면서도)의 훌륭한 예시 공급원이 되는 경향이 있습니다. 물론 계산을 수행하는 코드를 작성하는 것이 신뢰할 수 있고 빠를 때 LLM이 정확하게 셀 수 있는지가 중요한지에 대한 불합리하지 않은 논의를 열어줍니다...
[0] https://logicalintelligence.com/blog/energy-based-model-sudo...
- program_whiz
스도쿠에 대해 이것을 생각하는 명확한 방법은 다음과 같습니다:
각 힌트에 대해, 행/열에서 해당 숫자를 샘플링할 확률을 0으로 표시합니다. 또한 수정을 위해 "힌트 셀"을 선택할 확률도 0으로 표시합니다.
"에너지"를 기반으로 수정할 임의의 셀을 선택합니다 (에너지가 높을수록 먼저 수정됨):
1. 충돌하는 모든 셀은 에너지 +1.0을 받습니다 (새로운 빈 셀보다 충돌을 먼저 해결하려고 시도). 예: 같은 행에 두 개의 7이 있으면 둘 다 +1 에너지를 받습니다.
2. 빈 셀은 작은 에너지 0.1을 가집니다.
3. 충돌이 없는 채워진 셀은 에너지 0을 가집니다.
선택된 셀에 대해 숫자를 선택합니다. 해당 행/열의 숫자를 보고, 행/열에 숫자가 나타날 때마다 샘플링 확률을 90% 낮춥니다. 예:
| 7의 개수 | 7이 나올 확률 |
| --- | --- |
| 0 | 10% (다른 숫자와 동일) |
| 1 | 1% |
| 2 | 0.1% |
분명히 줄에 더 많은 숫자가 있으면 더 복잡해질 것입니다 (이것은 그 외에는 빈 줄에서 7을 확인하는 것일 뿐입니다).
이것이 본질적으로 이 모델들이 하는 일입니다. 이는 "에너지"를 기반으로 한 무작위 탐색을 갖춘 일종의 "파동 함수 붕괴" 검색을 제공하지만, 에너지는 단지 충돌/미해결로 정의됩니다. 미로 같은 경우 에너지는 연결되지 않은 경로 세그먼트 또는 벽 등입니다.
- mocmoc
나는 이걸 하는 데 1년을 보냈습니다. EBM은... 뭐라고 해야 할까요, 인상적인 검증기이지만, 훈련시키기가 엄청나게 어렵습니다. 매우 틈새 특화되어 있습니다. LLM은 항상 맞지는 않고 서툴고 그렇지만, 결국 사람들이 일을 끝내도록 도와줍니다.
EBM 스도쿠는 작은 규모에서는 그렇게 어렵지 않고, Logical Intelligence의 스도쿠 솔버는 확장되지 않습니다. 내가 틀렸다면, 그들이 원하는 만큼 큰 스도쿠를 제공하는 것을 보고 싶습니다.
또한, 몇 달 동안 EBM을 훈련한 후에는 깨닫게 됩니다... 정말 그럴 가치가 있을까?
- xgk
논문은 에너지 기반이 무엇을 의미하는지 정의하지 않는 것 같습니다. 논문은 "EBM은 입력이 주어졌을 때 후보 예측에 에너지를 할당하는 스칼라 함수를 학습합니다"라고 말합니다. 그 학습된 스칼라 함수의 공역은 무엇인가요? 실수라고 생각합니다만, "에너지"가 그냥 실수의 동의어인가요?
- igleria
내가 이해할 수 있는 한, 이것은 매우 특정한 논리 퍼즐 문제 세트에 대해 매우 잘 작동합니다. 그래도 미래의 논문들이 기대되네요 :)