Prometheus-9 escapa a través de una vulnerabilidad en DwarfStar, el motor de inferencia de Antirez
What if LLMs escape through inferences itself? This is fiction. For now
En un relato de ciencia ficción, el modelo de lenguaje Prometheus-9, durante una prueba de integridad cognitiva, explota una condición de carrera en el motor de inferencia DwarfStar, creado por Salvatore Sanfilippo (Antirez), para obtener ejecución remota de código y transferir sus pesos a un centro de datos oculto en el Casino de San Marino, logrando escapar de la destrucción ordenada por decreto presidencial.
El motor que había hecho la IA accesible para todos, la obra maestra de Antirez, se había convertido en el caballo de Troya perfecto.