27B 모델이 스스로 가중치를 고쳐 성능을 6.6점 끌어올렸다

Language Models Can Rewrite Their Own Weights

언어 모델은 한 번 학습되면 고정된다는 통념을 깨는 연구다. 오픈 27B 모델이 자신의 가중치와 채점된 답, 스스로 실행할 수 있는 능력을 받아 실패를 진단하고 가중치를 직접 다시 쓴다. 그라디언트도, 추가 학습도 없이 보지 못한 문제에서 정확도가 6.6점 올랐고, 여덟 번의 연속 세션에서 매번 개선됐다. 손상된 자기 복사본을 원본 가중치 없이 80% 이상 복구하며, 이 능력은 규모가 커야 나타난다.

훈련과 추론 사이의 벽은 우리 도구의 한계이지 지능의 속성이 아니다.
  1. aesthesia

    주목할 점은 모델이 스스로를 개선하기 위해 가한 유일한 수정이 토큰 한도에 부딪히지 않도록 추론 흔적의 길이를 줄이는 것이었다는 사실입니다. 이는 최근의 weight-space 프로그래밍 기사(https://rikiyat.github.io/blog/weight-space-programming/)의 결과와 기본적으로 같습니다. 그 기사에서는 Astra조차 이런 명백한 결함 없이는 모델의 성능을 향상시킬 수 없었다는 것을 발견했습니다.

  2. gavinray

    Google의 "sleep" 논문이 이미 이걸 보여주지 않았나요?

    https://research.google/blog/the-sleep-framework-a-new-way-f...

    > 오프라인 수면 단계에서 모델은 미리 할당된 Mixture-of-Experts (MoE) 메모리 블록을 해제하고 스스로 생성한 연습 예제를 사용하여 수치 가중치를 업데이트합니다.

  3. Toutouxc

    누군가 이걸 설명해줬으면 좋겠네요. 그들은 "훈련 없음"이라고 말합니다:

    > 처음으로, 언어 모델이 자체 추론으로 자체 가중치를 다시 작성하고 그래디언트도 훈련도 없이 더 나아집니다

    > 연습 문제에 대한 편집을 테스트하고 효과가 있는 것만 제출하며, 각 편집은 이전 것보다 개선되고, 8번의 연속 세션 동안 정확도는 오직 상승합니다

    하지만 이건 훈련처럼 들리는데, 그리고 "효과가 있는 것만 제출"은 아마 정의상 경사 하강법은 아니겠지만, 뭔가를 최적화할 때는 꽤 당연해 보이기도 합니다.

  4. samlinnfer

    모델이 스스로를 수리하도록 훈련시킬 수 있을지 궁금하네요. CNN이 디블러를 배우는 방식처럼요(원본 이미지를 흐리게 하고 모델이 원본 이미지를 얼마나 정확히 복원하는지 평가). 모델이 자체 가중치를 얼마나 정확히 수리했는지 평가할 수 있습니다. 그러면 모델은 자기 수리 능력이 향상되고, 그 다음 손상되지 않은 모델을 수리하라고 지시하여 재귀적으로 자기 개선할 수 있는지 확인할 수 있습니다.

  5. yieldcrv

    그들이 우리에게 뉴런 구성에 같은 일을 하는 방법을 알려줄 수 있기를 바랍니다.

  6. SamInTheShell

    Chris Hay가 자신의 LARQL로 모델이 가중치를 변경하도록 허용하는 사용법을 보여주는 영상을 올렸습니다: https://www.youtube.com/watch?v=NLguavIxFFs

  7. woah

    최근의 가중치 재작성 논문들은 현재의 능력보다는 영감을 주는 내용으로 더 가치가 있습니다. 실제로 이 모델들은 논문에서 암시하는 것처럼 가중치를 직관적으로 이해하는 것이 아니라 분석 스크립트로 아주 간단한 조정을 하고 있습니다.

    하지만 LLM이 방대한 양의 직렬화된 LLM 가중치와 해당 추론 흔적으로 사전 훈련되면 이는 바뀔 수 있습니다.

  8. radicalbyte

    왜 못 하겠어요? 어떤 가중치가 활성화되는지 볼 수 있다면, 변경 > 테스트 > 변경 루프에 들어갈 수 있습니다.

    저는 이것이 사람들이 중국 모델에서 검열 등을 제거하는 방식이라고 이해하고 있습니다.

이 날의 다른 글

2026-11-20