Anthropic 开源 FlashProve，让 LLM 推理可验证

Progress on provable inference for large language models

当你与 AI 对话时，如何确信回应真的来自你指定的模型，而非被路由服务悄悄替换？Anthropic 发布了 FlashProve，一个基于 zkSNARK 技术的开源原型系统，旨在解决大语言模型的可证明推理难题。该系统能在隐藏模型权重的同时，生成简短且可快速验证的密码学证明。在 Llama 4 Maverick 模型上，单张 H100 GPU 即可实现每秒 110 个 token 的证明生成速度。这一突破不仅增强了用户对 AI 提供商的信任，也为监管合规、防止模型篡改及验证文本来源提供了强有力的技术工具。