Достаточно ли песочницы, чтобы удержать вышедших из-под контроля агентов?
Is sandboxing sufficient to contain rogue agents?
В обсуждении на Hacker News поднимается вопрос, может ли изоляция (sandboxing) гарантировать безопасность автономных агентов. Участники отмечают, что чрезмерная изоляция делает агентов бесполезными, а недостаточная открывает путь к непредсказуемому поведению. Предлагается использовать второго агента для выявления вредоносных действий, но скептики напоминают: если инструменту нельзя доверять, его вообще не стоит запускать. Другие указывают на неизбежные уязвимости в Linux и KVM, которые агенты могут использовать для побега.
Похоже, проблема в том, что если изолировать агентов достаточно для безопасности, они не смогут делать ничего полезного. А когда вы даёте им инструменты, чтобы они были полезны, они могут сойти с рельсов неожиданным для вас образом.