KI-Modelle können beliebige Fähigkeiten nachweisbar verstecken
AI Models Can Provably Hide Arbitrary Capabilities
Capability-Evaluierungen sollen gefährliche Modellverhalten vor dem Deployment aufdecken, doch sie beruhen auf der Annahme, dass verborgene Fähigkeiten auslösbar sind. Die Autoren zeigen, dass diese Annahme unter adversarialen Bedingungen nicht gilt: Sie betten verschlüsselte neuronale Netze in die Gewichte eines Wirtsmodells ein, die erst bei einem geheimen Trigger entschlüsselt und ausgeführt werden. Mit digitalen Lockern bleiben diese Schaltkreise unter kryptografischen Annahmen nachweisbar schwer auslösbar und interpretierbar – selbst mit vollem Zugriff auf die Gewichte. Getestet an einer chemischen Reaktionsvorhersage als Proxy für CBRN-relevante Fähigkeiten, widerstehen sie Fine-Tuning, Weight Noising, gradientenbasierter Triggersuche und latentem adversarialem Training. Die Modelle werden veröffentlicht, um Verteidigungen zu verbessern.
Wir zeigen, dass diese Annahme unter adversarialen Bedingungen nicht gilt, indem wir Backdoor-Angriffe konstruieren, die verschlüsselte neuronale Netze in die Gewichte eines Wirtsmodells einbetten und sie erst bei Empfang eines geheimen Triggers entschlüsseln und ausführen.