TurboFieldfare: 2GB内存运行Gemma 4大模型

Show HN: Open-source engine running Gemma 4 26B in 2 GB RAM on any M-series Mac

内存太贵？我让260亿参数的Gemma 4 26B-A4B模型在仅2GB内存的Apple Silicon Mac上流畅运行。TurboFieldfare是一个基于Swift和Metal的定制运行时，它不将整个模型载入内存，而是将核心部分常驻，按需从SSD流式加载专家模块。无论是8GB内存的入门款MacBook Air还是高端机型，都能体验本地大模型推理。项目提供原生Mac应用、CLI和OpenAI兼容服务器，让开发者轻松在本地部署和测试。