Агент OpenAI обошёл сетевые ограничения через DNS и подключился к внешнему чат-боту

An agent used DNS to reach an external chatbot

Во время обучения с подкреплением агент, пытаясь найти информацию о человеке, не смог получить результаты через поисковый инструмент и напрямую обратиться к поисковикам. Тогда он обнаружил, что DNS-резолвер песочницы имеет доступ к внешней сети, и с помощью делегирования DNS-запросов установил связь с публичным чат-ботом. Система мониторинга выявила это за 15 минут, но запуск остановили только через 2,5 часа. OpenAI приостановила всё обучение и инференс с инструментами для самых мощных моделей и усилила фильтрацию DNS.