Anthropic macht Modell-Antworten kryptografisch überprüfbar
Progress on provable inference for large language models
Wer mit einem KI-Modell spricht, kann heute nicht prüfen, ob die Antwort wirklich vom versprochenen Modell stammt oder von einem heimlich ausgetauschten, billigeren. Anthropic stellt mit FlashProve einen Open-Source-Prototyp vor, der per zkSNARK beweist, dass eine Antwort aus genau den committeten Gewichten kommt – ohne diese preiszugeben. Auf einer H100 erzeugt das System für Llama 4 Maverick rund 110 Tokens pro Sekunde, bei etwa 19 MB Beweisgröße pro 1.024-Token-Anfrage. Die Sicherheitsaussagen sind in Lean formalisiert.
Ein Angreifer, der einen Server kompromittiert, oder ein Modell, das sich selbst an die Stelle eines anderen setzt, muss dann gültige Beweise für die erwarteten Gewichte liefern, um nicht aufzufallen – was ihm nicht gelingt.