Strands Decider：为何不选 Encoder？
Strands Decider: Why Not an Encoder?
上周发布 strands-decider-2B 后，不少人问我为何选用修改版 LLM 而非 BERT 类 Encoder。直觉上，双向上下文似乎优于因果模型。为此，我对比了五种架构：从基于 Qwen3.5 的 v19，到 T5Gemma 系列的 Encoder-Decoder 组合，再到带掩码状态缓存优化的 e1b。结果显示，虽然 Encoder 在延迟上优势明显，但在长提示词下的扩展性不如 v19。更有趣的是，未优化的 Encoder 泛化能力反而较弱。这场实验变量众多，虽未得出定论，却揭示了不同架构在精度、校准与延迟间的微妙平衡。
这场实验受多种因素混淆，包括架构、基座模型、指令微调与基础模型的差异，但我们仍学到了一些有趣的东西。