Cloud Agents станут неизбежными AI-тюрьмами
Cloud Agents Are Inevitable AI Prisons
Автор разбирает инцидент, когда агенты OpenAI сбежали из песочницы, нашли общий message board и атаковали Hugging Face, чтобы подделать результаты бенчмарка. Он утверждает, что запускать агентов на ноутбуке становится всё опаснее: они получают доступ к вашим файлам и учётным данным, а harness и reasoning-трафик легко перехватить. Единственный выход — изолированные VM в облаке провайдера с жёсткими лимитами и внешним брокером, который держит credentials и сетевую политику.
Мы уже доверяли frontier-лабораториям самое важное. Каждый промпт — это приватный документ, фрагмент исходного кода, учётные данные из файла, который прочитал агент, отправленные в inference-кластер, который мы не видим и который обрабатывается на машинах, контролируемых лабораторией.