Ask HN: Wie verwaltet ihr den Kontext eurer AI-Agenten über Clients und Projekte hinweg?
Ask HN: How do you manage your AI agents' context across clients and projects?
Ich arbeite täglich mit AI-Agenten (Coding-Agenten, Chat-Assistenten) an mehreren Kundenprojekten. Was mich am meisten kostet, ist nicht die Arbeit selbst, sondern der Kontext: vergangene Entscheidungen erneut zu erklären, Regeln, die für einen Kunden gelten, aber nicht für einen anderen, und sich daran zu erinnern, was ein Agent letzte Woche getan hat und warum. Der Wechsel zwischen Tools verschlimmert es, da jedes seine eigene Memory hat. Ich bin neugierig, wie andere das tatsächlich handhaben: Wie bekommt der Agent zu Beginn einer neuen Session, was er braucht? Nutzt ihr mehr als einen Agenten und wie übertragt ihr Kontext? Wie haltet ihr Kundenkontexte getrennt? Was ist passiert, als es schiefging, und wie viel Zeit hat es gekostet? Habt ihr jemals ein Tool dafür bezahlt oder gebaut? Ich prüfe, ob ich etwas in diesem Bereich bauen sollte, und versuche zu lernen, wie Leute wirklich arbeiten, nicht zu pitchen.
- mapontosevenths
Karpathys LLM-Wiki mit QMD.
Ich habe ein kleines gatekeeper.py-Skript, das der Agent ausführen muss, um eine Runde abzuschließen oder eine neue zu beginnen. Eine der Aufgaben (neben Protokollführung, Linting usw.) ist zu prüfen, ob das Wiki mit allen Erkenntnissen, Lehren und der Dokumentation für die Runde aktualisiert wurde. Der Agent kann nicht weitermachen, bis das erledigt ist.
Dann wird ihnen in der AGENTS.md gesagt, dass sie QMD für die semantische Suche im Wiki verwenden können und das vor Beginn einer wichtigen Arbeit tun sollten.
Es ist teuer, was die Token angeht, aber es lohnt sich sehr. Ich könnte jede Phase meines Projekts reproduzieren, wenn ich wollte. Ich weiß immer, warum sie getan haben, was sie getan haben (falls sie es tun), und die Agenten können nichts Wichtiges wirklich vergessen.
- rcarmo
Ich habe ein Ding namens Memento (https://rcarmo.github.io/projects/memento), das alle meine Agenten nutzen, um Skills und einige projektübergreifende Notizen zu teilen, aber im Allgemeinen lebt der meiste projektbezogene Kontext irgendwo in SQLite mit etwas FTS. Ich habe einen kleinen CRM-Skill gebaut, der die meisten Projektinteraktionen problemlos bewältigt, und man kommt mit gut organisiertem Markdown (oder einem gemeinsamen Obsidian-Vault) ziemlich weit, bevor man anfängt, die Dinge zu überkomplizieren.
- biggestriverman
Ich hatte ein ähnliches Problem mit dem Jonglieren mehrerer verschiedener Projekte. Ich fand, der Schlüssel liegt darin, seine Zeit besser zu verwalten und einen Agenten pro Projekt oder Teilprojekt zu haben, mit einem Manager-Agenten, mit dem man spricht. Ich habe mein eigenes System geschrieben, um das zu verwalten: https://github.com/mhalstrom/maximizepm – probier es gerne aus, nimm die guten Teile für dein eigenes System oder was auch immer.
- nilleb
Hallo!
5) Um dieses Problem zu lösen, habe ich Varda (https://github.com/nillebco/varda) geschrieben. Ich benutze es ständig.
1) Der Kontext wird per Policy bereitgestellt – ein bestimmter Verzeichnisbaum oder Ordner hat einen bestimmten Kontext.
2) Ja. Aber ich verwende einen bestimmten Agenten für einen bestimmten Kunden – deren Regeln. Es ist interessant als Anwendungsfall, erfordert aber etwas Arbeit, weil die Agenten nicht die gleichen Formate haben. Wenn ich das tun müsste, würde ich omnisess nutzen – https://GitHub.com/psacc/omnisess
3) Jeder Kunde hat unterschiedliche Policies, richtig? Das ist also eine Policy in Varda: Ein bestimmter Verzeichnisbaum darf nur einen bestimmten Agenten verwenden.
4) Das letzte Mal, als etwas schiefging, kostete es mich einen Container mit einer Beispieldatenbank. Seit letztem Freitag haben wir Firecracker-Escape-Schwachstellen, also könnte das viel schlimmer sein.
(Varda entstand, um Arbeit über Projekte hinweg zu verfolgen und die Agentenauswahl durchzusetzen und Aufgaben zu orchestrieren, und entwickelte sich dann weiter, um Sandboxing mit msb und Docker einzubeziehen.)
Ich hoffe, das hilft! Und jedes Feedback oder jeder Pull Request zu Varda ist sehr willkommen!
- encruxx
Ich benutze Obsidian-Vaults.
Derzeit arbeite ich nicht viel mit anderen zusammen, daher nutze ich hilfreiche Plugins wie Kanban, um Aufgaben zu organisieren.
Das hilft mir, bei Projekten und Aufgaben auf dem Laufenden zu bleiben, da Claude Anforderungen erstellen kann.
Ein Freund von mir hat kürzlich campus [1] gebaut, und obwohl ich es persönlich noch nicht nutzen konnte, versuche ich derzeit, es als Obsidian-Plugin nachzubauen, was hoffentlich weiter dazu beiträgt, dass ich organisiert bleibe.