Antidoom:终结LLM的Doom Loop死循环

Reducing Doom Loops with Final Token Preference Optimization

12dataminer💬 2
Antidoom:终结LLM的Doom Loop死循环

推理模型常陷入Doom Loop死循环,不断重复“Wait, let me reconsider”等废话直到耗尽上下文。传统的repetition_penalty只是治标不治本,而强化学习又成本高昂。LiquidAI推出了Antidoom方案,利用Final Token Preference Optimization(FTPO)技术,精准定位导致循环的起始Token,训练模型在该位置偏好连贯的替代词。实验显示,该方法将LFM2.5-2.6B的循环率从10.2%降至1.4%,Qwen3.5-4B更是从22.9%降至1%。这不仅消除了故障模式,还意外发现消除循环后,低温度采样反而能获得更好的评估分数,推翻了以往认为高温度更适合推理的直觉。

"训练集并没有教会模型任何关于数学或代码的新知识,它只是移除了阻碍模型输出其本已具备答案的故障模式。"