MLOps 未解之谜：为何模型上线全靠感觉？

Unsolved Problems in MLOps

深度学习让 AI 看似无所不能，但 MLOps 领域却充满了未解的难题。传统软件中依赖的确定性测试、CI/CD 流水线回滚和 SLO 告警，在 ML 系统中几乎完全失效。因为模型是非确定性的，且数据与代码同样驱动系统行为，导致我们无法像修复普通 Bug 那样简单地重建二进制文件。微软甚至不得不让 LLM 互相评判，或依赖员工的主观点赞来验证模型质量。当修复一个模型错误可能需要数百万美元和数月的时间时，我们该如何确保 AI 系统在生产环境中的可靠性？这不仅是技术挑战，更是对现有工程范式的根本性颠覆。

"在 ML 世界里，服务二进制文件、模型和数据之间的复杂关系，使得关于如何以及回滚什么的决定变得异常艰难。"