MLOps의 미해결 문제: 신뢰할 수 있는 ML 시스템 구축의 어려움
Unsolved Problems in MLOps
MLOps는 ML 모델을 구축, 배포, 모니터링하고 관리하는 작업이지만, 현재의 접근 방식은 고전적 소프트웨어 엔지니어링의 방법을 그대로 적용하기 어렵습니다. ML 시스템은 비결정적이고 데이터에 의해 동작이 좌우되기 때문에, 품질 측정, 알림, 롤백 등이 본질적으로 어렵습니다. 이 글은 Azure의 LLM 평가 사례, 카나리 배포의 한계, 모델 품질 측정의 문제 등을 통해 MLOps의 핵심 미해결 문제를 짚고, ML 시스템의 안전한 배포를 위해 새로운 패러다임이 필요함을 주장합니다.
새로운 모델 버전을 배포하는 것은 종종 다른 무엇보다 '감'에 의존하는 행위입니다.