Sieben Monate mit einer KI-Verfassung: Null Zwischenfälle

Ein Solo-Entwickler regiert seine persönliche KI-Agentenflotte seit sieben Monaten unter einer geschriebenen Verfassung – mit null Zwischenfällen. Der Beitrag erklärt, warum er auf Verfassung statt auf Guardrails setzt, wie er Regeln aus beobachteten Fehlern ableitet, und beschreibt die vier tragenden Säulen: Fail-safe-Standard, menschliche Gates für irreversible Aktionen, gleich starke Checks auf allen Pfaden und ein append-only Ledger. Drei Fallbeispiele zeigen, wie die Verfassung in der Praxis greift, etwa bei einem Mitternachts-Breakout eines Trading-Bots oder einem verschleierten Deployment-Payload. Der Autor teilt überraschende Erkenntnisse, etwa dass sich die Verfassung wie Gewohnheitsrecht weiterentwickelt und dass Solo-Betreiber Governance sogar leichter fällt als Unternehmen – aber auch die Grenzen des Ansatzes.

Guardrails sind das, was man nach dem Vorfall hinzufügt; eine Verfassung ist der Grund, warum der Vorfall nicht passiert ist.