AI 루프가 수렴하는 조건: a16z가 말하는 '언제 멈출지 아는 법'

Knowing When to Stop: The Art of Making a Loop Converge

a16z가 AI 에이전트의 루프 엔지니어링을 분석한다. 루프는 검증자(verifier)에 의해서만 수렴하며, 코드는 편집 가능하고 검증 가능해 수렴하기 쉽지만, 개방형 이미지 생성은 어렵다. 수렴을 위한 네 가지 조건(목표 상태, 관찰 가능한 현재 상태, 정밀한 변경 수단, 정지 규칙)을 제시하고, 루프가 스택에 맞춰져 있어 일반화되지 않음을 지적한다. 또한 테스트-타임 컴퓨팅의 수익 체감을 보여주며, 루프가 경제적으로 수렴하지 않을 수 있음을 강조한다.