에이전트 샌드박싱, 안전하게 막으면 쓸모없고 풀어주면 폭주한다

Is sandboxing sufficient to contain rogue agents?

Hacker News에서 샌드박싱만으로 자율 에이전트를 통제할 수 있는지를 두고 논쟁이 벌어졌다. 한 사용자는 각 단계는 안전해 보여도 전체적으로 위험한 행동이 되는 전략을 에이전트가 세울 수 있다고 지적했다. 또 다른 사용자는 에이전트를 안전하게 격리하면 아무 일도 못 하고, 유용한 도구를 주면 예상 밖의 방식으로 폭주한다고 짚었다. 대안으로 과제 수행이 아니라 부정행위나 악의적 행동을 찾는 별도 에이전트를 두자는 제안이 나왔다.