AI 에이전트 실패의 진짜 원인은 '맥락 관리'다: 메모리와 비용을 수명주기 문제로 재정의
Agentic Context Management: Memory and Cost as Architecture Problems
프로덕션 AI 에이전트의 실패는 추론 능력 부족보다 대화 기록, 대형 프롬프트, 도구 정의, 비대해지는 도구 출력 등 '맥락' 관리 실패에서 비롯됩니다. 기존 접근은 이를 저장·검색 문제로 보지만, 저자들은 에이전트가 무엇을 기억하고 잊을지 결정하는 전체 수명주기를 관리해야 한다고 주장합니다. 이 논문은 이를 Agentic Context Management(ACM)라 명명하고, 아키텍처링, 인제스팅, 스코핑, 안티시페이팅, 컴팩팅·통합의 5가지 기본 요소로 분해합니다. 또한 맥락 축적이 대화 길이에 따라 토큰 비용이 2차적으로 증가하는 반면, 검증된 압축은 정확도를 유지하며 선형 비용을 달성함을 경제적으로 입증합니다. 참조 구현인 Maximem Synap은 LongMemEval에서 92%, LoCoMo에서 93.2%를 기록했으며, 기존 벤치마크가 놓치는 지연 시간, 토큰 효율성, 맥락 부패 저항성 등의 차원을 제시합니다.
에이전트가 마음에 담고 있는 것을 적극적으로 관리하는 것은 단순한 저장소 문제가 아니라 수명주기 문제입니다: 무엇을 기억할지 결정하고, 추출하고 구조화하며, 데이터 유형별로 적절한 저장소를 선택하고, 통합하고 잊어버리면서 출처를 보존하고, 지금 무엇이 관련 있는지 결정하고, 다음에 무엇이 필요한지 예측하며, 중요한 것을 잃지 않으면서 맥락을 예산에 맞게 압축하는 것을 포괄합니다.