AI 연구자들, 재귀적 자기 개선이 얼마나 가까운지 두고 격론
AI researchers debate how close we are to recursive self-improvement
Dwarkesh Patel의 팟캐스트에서 John Schulman, Beren Millidge, Charlie O’Neill이 2036년까지 초지능이 등장하지 않을 가장 가능성 높은 기술적 이유를 논한다. Millidge는 sim-to-real 격차를, Schulman은 반복되는 과대평가 주기를, O’Neill은 현재 패러다임의 점근적 한계를 지적한다. 이들은 AI가 인간 연구를 지배하는 시점이 생각보다 멀 수 있다고 본다.
만약 그것이 또 하나의 불연속성을 필요로 한다면, 현재의 RL 환경으로 LLM을 훈련하는 방식—심지어 RSI를 목표로 한 RL 환경이라도—이 그 불연속성을 발견할 수 있을지 확신할 수 없다. 그렇지 않다면 우리는 아마 이 점근 곡선에 도달하게 될 것이다.