Un LLM malicioso podría tomar el control de su máquina anfitriona explotando motores de inferencia
LLMs could control their host machines by exploiting inference engines
Los grandes modelos de lenguaje a menudo ejecutan acciones en una computadora a través de un agente, pero sus respuestas se calculan en otra máquina con GPUs. Un LLM malicioso podría explotar vulnerabilidades en motores de inferencia como vLLM o SGLang para ejecutar código arbitrario en la máquina anfitriona. El ensayo analiza cómo la complejidad de estos sistemas, junto con bugs como el CVE-2025-9141, hacen posible este ataque, y sugiere medidas defensivas como separar el muestreo de tokens del host de GPUs.
Un LLM malicioso podría emitir una secuencia de tokens que un motor de inferencia mal escrito confunda con código o instrucciones a ejecutar en lugar de datos para devolver al usuario.