AI가 스스로를 개선하는 '자기 강화 루프'는 아직 충분히 강하지 않다
The Economics of Recursive Self-Improvement [pdf]
경제학자들이 AI의 자기 개선(Recursive Self-Improvement) 가능성을 모델링한 논문을 발표했다. 연구진은 AI 능력이 다음 세대 AI 개발을 가속화하는 '핵심 피드백 루프'의 강도를 측정하는 그래프 기반 프레임워크를 제시한다. 기존 데이터를 바탕으로 한 계산에 따르면, 현재 AI 모델의 능력이 1단위 증가할 때 AI R&D 생산성은 약 9% 향상되는데, 이는 자립적 가속이 일어나기 위한 임계값(15%)에 미치지 못한다. 그러나 이 수치는 최근 증가 추세에 있어, 향후 자기 강화적 가속이 발생할 가능성을 배제할 수 없다. 연구는 AI 기업들이 공개할 수 있는 데이터 목록도 제안한다.
현재 피드백 루프는 자기 강화적 가속을 생성하기에 충분히 강하지 않지만, 강화되고 있는 것으로 보인다.