ReasonGate - Explainable security gate for LLM apps
Show HN: ReasonGate- An explainable gate that blocks LLM prompt injection
ReasonGate는 LLM 애플리케이션을 위한 설명 가능한 보안 게이트입니다. 프롬프트 인젝션 공격을 차단하고, 각 결정에 대한 감사 가능한 이유를 제공합니다. 사용자 프롬프트, 검색된 컨텍스트, 모델 출력을 검사하여 공격을 사전에 차단합니다. 규칙 기반 탐지기와 선택적 ML 탐지기를 포함한 다층 방어 구조를 갖추고 있으며, 모든 결정은 JSON 형식으로 기록되어 보안 팀, 감사자, 규제 기관에 설명할 수 있습니다. 오픈 코어는 제로 의존성으로 에어갭 환경에서도 실행됩니다. pip install reasongate로 시작할 수 있으며, 라이브 데모를 통해 직접 확인할 수 있습니다.
설명할 수 없는 차단은 배포할 수 없는 차단입니다. ReasonGate는 공격을 차단할 뿐만 아니라 어떤 신호가 발화했는지, 무엇과 일치하는지, 가장 유사한 알려진 공격이 무엇인지 알려줍니다.