纯 C 版 MicroGPT 在 Apple M5 上跑出千万级 TPS

Microgpt in pure C hits 10M tps on Apple m5

vixhal-baraiya 在 GitHub 上开源了一个名为 microgpt-c 的项目，它用纯 C 语言实现了一个字符级 Transformer 模型，没有任何外部依赖，仅依赖 libc。这个极简的 GPT 模型在 Apple M5 Pro 上配合 NEON 指令集，推理速度达到了惊人的 10168430 tok/sec。项目不仅支持训练和推理，还实现了反向传播和 Adam 优化器，甚至能在几秒内基于 3.2 万个名字的数据集完成训练并生成新名字。它证明了在极致精简的代码中，依然可以跑出媲美现代框架的性能，为理解 GPT 底层原理提供了最原子的视角。