德国Soofi S:30B模型霸榜英德双榜
German AI consortium releases Soofi S, an open 30B model that tops benchmarks

德国AI联盟重磅发布Soofi S,这款30B参数量的开源模型在英语和德语基准测试中双双登顶,力压OLMo 3 32B和Apertus 70B等强劲对手。其核心亮点在于采用了混合Mamba-Transformer架构,即便在超长上下文场景下也能保持惊人的生成速度。更令人称道的是,该项目完全在德国Telekom的Industrial AI Cloud上训练,不仅数据配比特意向德语倾斜,还实现了全可再生能源供电。尽管面临关于训练数据量的争议,技术团队Michael Fromm坚持认为经典Chinchilla scaling laws并不适用于MoE架构,这一创新尝试为欧洲AI主权建设树立了新标杆。
"Michael Fromm反驳道,针对稠密模型的旧版缩放定律已不再适用于Mixture-of-Experts架构。"