AI 에이전트 규칙, 맥락과 계층적 OS 강제가 필요한 이유
An Empirical Study: AI Agent Rules Need Context and Layered Enforcement
ActPlane의 2,116개 명령문 분석 연구는 개발자가 작성한 행동 규칙과 시스템이 실제로 검사할 수 있는 규칙 사이의 간극을 측정합니다. 정책의 83%가 시스템 관찰 가능하며, 이 중 45%만 OS 수준에서 강제 가능합니다. 대부분의 정책은 프로젝트나 작업 맥락에 의존하며, 교차 이벤트 규칙은 시간 순서, 데이터 계보 등을 추적해야 합니다. 연구는 단일 OS 훅으로는 정책의 일부만 다룰 수 있음을 보여주며, 에이전트가 작성 가능하면서도 OS에서 강제 가능한 규칙 설계의 필요성을 제기합니다.
정책 강제는 프롬프트 주입에 취약하고 확률적 검사에 의존하기보다, 저장소와 작업 맥락을 결정론적 검사가 평가할 수 있는 구체적인 상태로 컴파일하는 것에서 시작됩니다.