ReasonGate - Explainable security gate for LLM apps
Show HN: ReasonGate- An explainable gate that blocks LLM prompt injection
ReasonGate ist ein erklärbares Sicherheits-Gateway für LLM-Anwendungen, das Prompt-Injection-Angriffe blockiert, bevor das Modell aufgerufen wird. Es analysiert Benutzereingaben, abgerufene Kontexte und Modellausgaben in mehreren Schichten: Normalisierung, Injection-Erkennung, indirekte Injection-Erkennung, Multi-Turn-Sitzungen und Leakage-Erkennung. Jede Entscheidung liefert eine nachvollziehbare Begründung und einen auditierbaren Datensatz. Das Open-Core ist rein in Python implementiert, hat null Abhängigkeiten und läuft ohne Netzwerkzugriff – ideal für sensible Umgebungen. Die ML-Erweiterung erhöht die Erkennungsrate auf bis zu 96 % Recall. Entwickler können ReasonGate einfach per 'pip install reasongate' integrieren und es mit beliebigen LLMs verwenden.
Ein Block, den du nicht erklären kannst, ist ein Block, den du nicht ausliefern kannst.