Homebench：一键评测本地 LLM 速度与质量

Homebench – Benchmark local LLMs for speed, memory, and quality

Homebench 是一款专为本地 LLM 打造的评测工具，只需一条命令即可在终端生成实时排行榜。它支持 Ollama、LM Studio、llama.cpp 和 vLLM 等多种本地推理后端，无需配置或 API 密钥。工具不仅测量 tokens/sec 和首字延迟，还通过精心设计的任务集评估模型在数学、推理及代码理解方面的质量。其独特的缓存机制让重复评测仅需数秒，同时提供硬件适配建议，帮助用户快速判断哪些模型能在当前设备上流畅运行，是本地部署大模型时的得力助手。