Anthropic 神秘模型 numbat 检查点疑似泄露
Alleged Mythos Class Anthropic Checkpoint Leak
Hugging Face 上出现了一个名为 numbat 的模型检查点,据称是 Anthropic 下一代 Mythos 级模型的预训练中途版本。该模型拥有约 14T 参数、114 层结构,采用混合 GDN/MLA 架构及 MoE 设计,并使用了 NVFP4 量化格式。泄露内容包含完整的配置、参考实现代码以及总计 772 个分片的模型权重,总数据量达 7.72TB。作者指出,该检查点已在 Claude Code 源码泄露中被确认为内部代号,且其架构细节与 Mythos 级训练预期相符。值得注意的是,这是一个未经过 RLHF 的原始预训练检查点,主要用于评估团队在 Trainium2 集群上的测试,而非最终发布版本。
评估团队将每个异步检查点量化为 NVFP4,以便在部分 Trainium2 集群上运行评估,而不是使用完整的训练集群。