修复三处Bug,Qwen3.5-122B 变身 Mac Studio 日常主力
Fixed three bugs that made Qwen3.5-122B a daily driver on Mac Studio

我花了三周时间,只为让 Qwen3.5-122B 在 M3 Mac Studio Ultra 上流畅运行。起初,面对 5 万 token 的长对话,生成首词竟需等上三五分钟,这哪里是聊天,分明是批处理任务。为了摆脱这种等待,我从 DS4 Flash 转向 Qwen3.5-122B,并基于 rapid-mlx 开发了 qMLX。真正的挑战在于修复三个致命 Bug:系统提示词中的时间戳导致缓存失效、中断回复未保存引发上下文断裂、以及检查点存储中的垃圾数据挤占空间。解决这些问题后,长上下文推理从分钟级缩短至秒级,本地 AI 终于能真正胜任长程代码协作。
"那不是一个聊天机器人,那只是一个批处理作业,你得去泡杯咖啡等它思考。"