Apple 的 Minions:闲置 Mac 变身分布式 GPU 云
Apple's Minions: A virtual GPU cloud built from idle Apple Silicon Macs
随着 GPU 加速机器学习推理需求的激增,集中式 GPU 基础设施面临成本高、弹性不足和等待时间长等瓶颈。与此同时,现代 Apple Silicon 驱动的 macOS 设备配备了强大的 GPU,却在日常使用中大量闲置。Minions 项目应运而生,它构建了一个动态分布式的虚拟 GPU 云,聚合跨 macOS 设备的闲置 Apple Silicon GPU,以执行大规模机器学习推理工作负载。该系统让团队无需额外采购 GPU,即可利用现有硬件,提供灵活的推理任务执行、容错机制和高效的资源利用率。实践证明,在集中式 GPU 资源受限的环境中,闲置的 macOS 设备可转化为实用的分布式 GPU 推理平台。
我们的经验表明,在集中式 GPU 资源受限的环境中,闲置的 macOS 设备可以转化为一个实用的分布式 GPU 推理平台。