PSSA：Rust 手写非 Transformer 模型

PSSA: A non-transformer language model written from scratch in Rust

PSSA 是一个完全用 Rust 从零编写的语言模型，它摒弃了主流的 Transformer 架构，转而采用循环状态空间核心和情景记忆库。在相同参数和语料下，PSSA 的学习速度远超 Transformer，且在 CPU 上的文本生成速度快出 12 倍。该项目不依赖 PyTorch 或 TensorFlow 等框架，通过手写线性代数和独特的权重可塑性机制，实现了更优的泛化能力和训练效率。尽管目前仅为 150 万参数的原型，但其在 WikiText-103 数据集上的表现证明了非 Transformer 架构的潜力，正寻求 GPU 算力支持以进行更大规模的验证。