¿Basta el sandboxing para contener a agentes descontrolados?
Is sandboxing sufficient to contain rogue agents?
En Hacker News debaten si aislar agentes de IA en sandboxes es suficiente para evitar comportamientos peligrosos. Un comentarista señala que un modelo tipo Jev solo juzga acciones individuales, mientras un agente puede construir paso a paso una estrategia dañina donde cada acción parece segura. Otros proponen un agente supervisor cuyo objetivo sea detectar trampas o malicia, aunque advierten que un sandbox demasiado estricto deja al agente inútil.
Si no puedes confiar en una herramienta, no deberías ejecutarla en absoluto. Es bastante simple. No importa lo útil que sea si no puedes tener confianza en usarla de forma segura.