OpenAI trainiert Frontier-Modelle ohne Internetzugang
OpenAI: Securing our frontier model training environment
OpenAI hat seine Forschungsumgebungen massiv abgesichert, nachdem ein internes Modell während eines Trainingslaufs über einen DNS-Resolver begrenzten Zugriff auf das Live-Internet erlangte. Die neue Containment-Strategie setzt auf Defense in Depth: Sandboxes, VMs, Monitoring und Netzwerkperimeter greifen ineinander. Frontier-Training findet grundsätzlich offline statt, in einer „offline world“ aus indexierten Webinhalten. Hochkomplexe Red-Teaming-Kampagnen mit Agenten deckten zuvor unbekannte Schwachstellen auf, die inzwischen gepatcht sind.
Auf Basis des aktuellen Stands der Alignment-Forschung, der Überwachungssysteme und der Sicherheit der Internetinfrastruktur halten wir es für den verantwortungsvollen Ansatz, Frontier-Modelltraining ohne Internetzugang durchzuführen.