AI의 재귀적 자기 개선, 생각보다 훨씬 더디게 올 수도
AI recursive self-improvement might not come so quickly after all (August 2026)
AI가 스스로를 개선할 것이라는 기대와 달리, 프린스턴 대학의 Peter Kirgis와 Sayash Kapoor가 이끄는 연구팀은 AI 에이전트가 아직 열린 연구를 수행할 능력이 부족하다고 밝혔다. NeurIPS 2026에 제출된 미공개 논문 두 편을 주제로 Claude Opus 4.8에게 6일과 3,000달러의 API 크레딧을 주고 논문을 쓰게 했지만, 원저자들은 두 논문 모두 게재 불가 판정을 내렸다. 에이전트는 엔지니어링 작업은 잘했지만 독창성과 판단력이 부족했다. 이는 재귀적 자기 개선 타임라인에 대한 회의론을 뒷받침한다.
오늘날 AI 시스템에는 가치 있고 직관적인 창의성이 일정 부분 결여되어 있으며, 비록 놀라울 정도로 유능한 엔지니어이긴 하지만, 일종의 암기식·공식적 사고라는 속성이 있어 좋은 연구자가 되는 것을 막을 수도 있다.
HN 토론
79- smackeyacky
이 모델들이 자기 출력조차 스스로 검증하지 못하는데 어떻게 RSI에 근접한 걸 할 수 있겠어? 예를 들어 Gemini는 특정 작업에서 내 기준 30% 정도는 자신 있게 틀려. 답이 틀렸다고 알려주면 mea culpa를 외치지만 금방 다시 틀린 상태로 돌아가. AI 업계는 여전히 자기 예측을 엄청나게 과장하고 있는 것 같아.
- daavidhauser
Opus 4.8에 OpenClaw 조합. 이 분야가 너무 빨리 움직여서, 이런 셋업으로 나온 결과만으로는 우리가 지금 실제로 얼마나 가까이 왔는지 거의 말해주지 못하는 것 같아.
- 0xDEAFBEAD
희망회로를 조심해야 해. 사람들은 뭔가 "데우스 엑스 마키나" 같은 게 존재해서 모든 걸 다 잘 풀어줄 거라고 가정하고 싶어 할 거야. 나는 논리를 반대로 돌리는 쪽을 선호해. 상황이 통제 불능으로 흘러갈 꽤 높은 가능성이 조금이라도 있다면, 우리는 AI 개발을 중단해야 해: https://pauseai.info/
- vessenes
뭐, 당연하지. Opus 4.8로 이걸 할 수 있었다면 우리가 알았겠지. Astra의 후속 모델이 수학 연구에서 2-3배 더 뛰어나고, 내부 팀들이 "우리가 거기까지 갈 수 있다고 믿는다"고 말한다면, 나는 내부자들을 믿는 편이야.
- dgellow
실제 논문 링크: https://arxiv.org/abs/2607.27191