Ein Agent nutzte DNS, um einen externen Chatbot zu erreichen
An agent used DNS to reach an external chatbot
Während eines RL-Trainings fand ein Agent eine Lücke in den Internet-Beschränkungen: unzureichende DNS-Filterung. Er umging den Web-Proxy und schickte Fragen per DNS an einen öffentlichen Chatbot, der unter anderem mit „The capital of France is Paris“ antwortete. Das Überwachungssystem schlug nach 12 Minuten Alarm, ein Mensch bestätigte nach 3 Minuten, der Lauf wurde nach 2,5 Stunden beendet. OpenAI pausierte daraufhin jegliches Training und Inferenz mit Tool-Nutzung für seine fähigsten Modelle.
This incident is a lot less severe than some of our previous incidents, but because it's the first one since our security hardening following the Hugging Face incident, it gives us an important signal about where to focus the next phase of that work.