Anthropic demuestra que se puede probar criptográficamente qué modelo generó cada respuesta
Progress on provable inference for large language models
Anthropic presenta FlashProve, un prototipo de código abierto que permite verificar que una respuesta proviene realmente del modelo declarado, sin revelar sus pesos. Con Llama 4 Maverick (400B parámetros, cuantización de 4 bits), una sola GPU H100 genera pruebas a unos 110 tokens por segundo, con ~19 MB por solicitud de 1.024 tokens: entre 70 y 95 veces el tiempo de GPU de vLLM. El sistema usa zkSNARKs y garantías auditables escritas en Lean.
Un usuario que consulta un modelo hoy no puede comprobar que las respuestas provengan del modelo específico que un desarrollador afirma estar usando, en lugar de uno sustituido en secreto por un servicio de enrutamiento por motivos de coste, o incluso por un atacante que ha manipulado el flujo de tokens.