Homebench: 로컬 LLM 벤치마크, 속도·메모리·품질을 한 번에

Homebench – Benchmark local LLMs for speed, memory, and quality

Homebench는 로컬 LLM의 속도, 메모리, 품질을 한 번에 측정하는 TUI 도구입니다. Ollama, LM Studio, llama.cpp, vLLM 등에서 설치된 모델을 자동으로 감지하여 토큰/초, 첫 토큰까지의 시간, 메모리 사용량을 측정하고, 31개의 결정적 평가 과제로 품질을 점수화합니다. 별도 설정 없이 pip install homebench 후 실행하면 됩니다. 벤치마크 결과는 리더보드로 표시되며, 모델 간 비교와 하드웨어 적합성 확인(fit) 기능도 제공합니다.