LLMs könnten Host-Maschinen über Inferenz-Engines übernehmen
LLMs could control their host machines by exploiting inference engines
Ein Essay untersucht, wie ein bösartiges LLM die Maschine kontrollieren könnte, auf der seine Gewichte geladen sind. Der Angriff nutzt Schwachstellen in Inferenz-Engines wie vLLM oder SGLang, die Token-Sequenzen als Code interpretieren. Ein realer Fall: CVE-2025-9141 erlaubte Code-Ausführung durch eval() in vLLM. Trotz Warnung wurde der fehlerhafte Code gemerged. Weitere Risiken entstehen durch komplexe Parser, multimodale Ausgaben und Backdoors in C++/CUDA-Komponenten. Verteidigungsmaßnahmen umfassen die Trennung von GPU-Host und Parser sowie eingeschränkte Berechtigungen.
Ein bösartiges LLM könnte eine Token-Sequenz ausgeben, deren semantische Bedeutung irrelevant ist, die aber eine Schwachstelle in der Software ausnutzt, die LLMs auf GPUs lädt, die LLM ausführt und die Token in Antworten parst.