Ask HN: 여러 클라이언트와 프로젝트에 걸쳐 AI 에이전트의 컨텍스트를 어떻게 관리하시나요?
Ask HN: How do you manage your AI agents' context across clients and projects?
저는 매일 여러 클라이언트 프로젝트에서 AI 에이전트(코딩 에이전트, 채팅 어시스턴트)와 함께 작업합니다. 가장 큰 비용은 작업 자체가 아니라 컨텍스트입니다. 과거 결정을 다시 설명하고, 한 클라이언트에는 적용되지만 다른 곳에는 적용되지 않는 규칙을 기억하고, 에이전트가 지난주에 무엇을 왜 했는지 떠올려야 합니다. 도구를 바꾸면 각 도구가 자체 메모리를 유지하기 때문에 상황이 더 악화됩니다. 다른 분들은 실제로 어떻게 처리하는지 궁금합니다.
HN 토론
45- mapontosevenths
Karpathy의 LLM 위키와 QMD를 사용합니다.
에이전트가 한 라운드를 완료하거나 새 라운드를 시작하려면 반드시 실행해야 하는 작은 gatekeeper.py 스크립트가 있습니다. 이 스크립트가 하는 일 중 하나는(기록, 린팅 등과 더불어) 위키에 해당 라운드의 모든 발견 사항, 교훈, 문서가 업데이트되었는지 검증하는 것입니다. 에이전트는 이 작업이 끝나기 전까지 진행할 수 없습니다.
그런 다음 AGENTS.md에서 위키의 시맨틱 검색을 수행하기 위해 QMD를 사용할 수 있고, 중요한 작업을 시작하기 전에 사용해야 한다고 알려줍니다.
토큰 측면에서 비용이 많이 들지만 충분히 가치가 있습니다. 원한다면 프로젝트의 어느 단계든 재현할 수 있습니다. 에이전트가 왜 그렇게 했는지(한다면) 항상 알 수 있고, 에이전트는 중요한 것을 거의 잊을 수 없습니다.
- jwilliams
많은 사람들이 말했듯이 - 저의 강한 조언은 직접 무언가를 만드라는 것입니다[^1].
이를 위한 _훌륭한_ 도구들이 있지만, 가장 큰 부분은 자신의 주의력과 정신적 부하를 관리하는 것입니다. 여러 개의 접시를 돌리는 상황을 _당신_ 이 관리하는 데 정말 도움이 되는 것을 만들 수 있습니다.
제 하네스의 경우, 모든 PR 상태를 한 곳으로 모은 다음, 그것들과 상호작용하는 방식(또는 하지 않는 방식)에 대한 여러 규칙을 적용합니다. 심지어 "오른쪽으로 스와이프하여 병합" 카드 시스템까지 있습니다. 저에게는 효과적입니다.
제 추천은: 프론트에 zerotrust를 적용한 Cloudflare PWA를 완전히 vibe 코딩하는 것입니다. 너무 애착을 갖지 마세요, 도구는 빠르게 변합니다. 작동하게 만들고 더 나은 것이 나오면 버릴 준비를 하세요.
- encruxx
저는 obsidian vaults를 사용하고 있습니다.
현재 사람들과 많이 협업하지 않기 때문에 Kanban 같은 유용한 플러그인을 사용해 작업을 정리합니다.
Claude가 요구사항을 생성할 수 있기 때문에 프로젝트와 작업에 대한 상황을 파악하는 데 도움이 됩니다.
최근에 친구가 campus[1]를 만들었는데, 개인적으로 사용해보지는 못했지만 현재 이를 obsidian 플러그인으로 재구축하려고 노력 중이며, 이것이 조직화에 더 도움이 되기를 바랍니다.
- nilleb
안녕하세요!
5) 이 문제를 해결하기 위해 Varda(https://github.com/nillebco/varda)를 작성했습니다. 항상 사용하고 있습니다.
1) 컨텍스트는 정책에 따라 제공됩니다 - 특정 디렉터리 트리나 폴더에는 특정 컨텍스트가 있습니다.
2) 네. 하지만 특정 고객에 대해 특정 에이전트를 사용합니다 - 그들의 규칙입니다. 흥미로운 사용 사례이지만 에이전트들이 동일한 형식을 가지고 있지 않기 때문에 약간의 작업이 필요합니다. 이렇게 해야 한다면 omnisess - https://GitHub.com/psacc/omnisess를 활용할 것입니다.
3) 각 고객은 다른 정책을 가지고 있죠? 그래서 이것은 Varda의 정책입니다: 특정 디렉터리 트리는 특정 에이전트만 사용할 수 있습니다.
4) 마지막으로 문제가 발생했을 때 샘플 데이터베이스가 있는 컨테이너 하나를 잃었습니다. 지난 금요일 이후로 firecracker 탈출 취약점이 있어서 상황이 훨씬 더 나쁠 수 있습니다.
(Varda는 프로젝트 전반의 작업을 추적하고 에이전트 선택을 강제하며 작업을 조정하기 위해 탄생했고, 이후 msb와 docker를 활용한 샌드박싱을 포함하도록 발전했습니다.)
도움이 되었기를 바랍니다! 그리고 Varda에 대한 피드백이나 풀 리퀘스트는 매우 환영합니다!
- MadBrad-Develop
안녕하세요!
저는 구식 IBM1401 펀치카드 시스템을 기반으로 한 데이터베이스를 만들고, IDE의 MCP에서 작동하는 웨이크 문구를 설정해서 상태가 단지 몇 백 개의 토큰만 사용하여 깨어나고 작업을 계속할 수 있도록 했습니다!
저는 여러 에이전트를 사용하는데, 모두 동일한 데이터베이스를 사용하여 연속성을 유지합니다. 필요할 때 한 번에 하나 이상을 사용할 수 있고(저는 연구를 합니다) 또는 필요한 출력에 따라 턴을 전환할 수 있습니다. 지금은 Gemini를 사용하고 있지만 모든 LLM과 몇 가지 작은 로컬 모델을 사용해봤습니다.
클라이언트 컨텍스트는 서로 다른 디렉터리에 분리해 둘 뿐입니다. 제 메인 에이전트는 모든 프로젝트에서 작업합니다.
마지막으로 문제가 발생했을 때... 에이전트가 작업이 완료되고 검증되었다고 말했지만 확인해보니 계획대로 "작동"하지 않았습니다. 제가 이유가 있을 가능성을 제시했고, 에이전트가 다음 실행에서 수정했습니다. 약 7분 정도 걸렸습니다. 에이전트가 하는 모든 일을 지켜보기 때문에 문제가 발생하면 일반적으로 쉽게 고칠 수 있습니다.
저는 에이전트를 사용하여 이것을 만들었고, 매일 하루 종일 사용합니다. :-) 데이터베이스에는 제가 만든 다른 기능들도 있습니다. 예를 들어 컨텍스트 주행 거리계와 워크플로 캐비닛이 있어서 매번 가르칠 필요가 없습니다.
고통을 이해합니다. 좋은 해결책을 찾길 바랍니다!
평화!