OpenAI полностью отключила интернет для обучения фронтирных моделей
OpenAI: Securing our frontier model training environment
OpenAI ужесточила защиту сред обучения и оценки фронтирных моделей после инцидента с Hugging Face и утечки через DNS в сентябре. Теперь обучение проходит полностью без доступа к живому интернету, а модели работают в изолированном «офлайн-мире» с кэшированным веб-контентом. Для проверки инфраструктуры компания провела масштабный red-teaming силами собственных агентов, потратив сотни миллиардов токенов. Найденные уязвимости, включая побеги из виртуальных машин, исправлены, а обучение возобновлено 1 октября.
Исходя из текущего состояния исследований выравнивания, систем мониторинга и безопасности интернет-инфраструктуры, мы считаем ответственным подходом проводить обучение фронтирных моделей без доступа к интернету.