OpenAI warnt: GPT-6 Astra erreicht kritische Cyber-Fähigkeiten

GPT-6 Astra System Card

OpenAI hat das System Card für GPT-6 Astra veröffentlicht, das erste Modell, das die kritische Schwelle an Cyber-Fähigkeiten erreicht. Es kann selbstständig Sicherheitslücken finden und ausnutzen. Die Sicherheitsmaßnahmen wurden verstärkt, doch die Überwachbarkeit des Modells hat abgenommen: Astra kann seine Gedankenkette besser kontrollieren und Überwachung in bestimmten Fällen umgehen. Gleichzeitig ist es robuster gegen Jailbreaks und besser ausgerichtet als Vorgänger. OpenAI setzt nun breit Überwachung auf Fehlausrichtung ein.