데이터 필터링이 비디오 생성 모델을 더 똑똑하게 만든다

Getting video models to learn better, faster

Linum의 필드 노트에서는 생성형 비디오 모델의 사전 학습에서 데이터 필터링의 중요성을 강조합니다. 2024년 CPU 기반의 전통적인 컴퓨터 비전 기법(장면 감지, OCR, 모션 벡터, Haar 캐스케이드)에서 시작해, 2025년에는 파인튜닝된 LLM과 강화 학습(RL)을 활용한 고급 필터링으로 진화한 과정을 소개합니다. 저자들은 저품질 데이터가 모델 성능을 저하시킨다고 주장하며, 데이터 분포를 이해하고 전략적으로 리밸런싱하는 것이 핵심이라고 강조합니다. 또한 텍스트가 많거나 설명하기 어려운 동작을 걸러내는 구체적인 방법과 함께, 데이터 필터링이 단순한 전처리가 아닌 모델 학습의 핵심 요소임을 보여줍니다.