LLM 분류는 사실상 특징 공학이다

LLM Classification Is Feature Engineering

LLM을 분류기로 쓸 때 겪는 보정 부재, 구조적 정보 미활용, 해석 불가 문제를 지적하고, LLM 판정을 하나의 특징으로 삼아 로지스틱 회귀 같은 기존 ML 모델에 넣는 방식을 제안한다. 이렇게 하면 확률 보정, 임계값 조정, 추가 변수 결합이 가능해지고, 프롬프트 수정 대신 데이터 수집·특징 개선·모델 아키텍처 교체로 성능을 높일 수 있다. SemEval 2018 아이러니 탐지 데이터셋에서 LLM 단독 판정의 Brier score 0.259가 로지스틱 회귀 결합 후 0.175로 개선됨을 보여준다.