GLM-5.3-Flash, 단일 순방향 패스로 Jev급 의사결정 모델로 변신
Turning GLM-5.3-Flash into a Jev-like decision model
Privatemode 연구진이 별도 파인튜닝 없이 상용 LLM인 GLM-5.3-Flash를 Jev와 유사한 의사결정 모델로 전환하는 방법을 공개했다. 선택지를 번호로 매기고 답변을 미리 채운 뒤, 단일 순방향 패스에서 각 선택지의 확률을 추출한다. 29개 공개 데이터셋 벤치마크에서 정확도는 Jev와 동등했고, 지연 시간은 독일에서 180ms 대 264ms로 더 빨랐다. 이미지에 대한 타입 지정 의사결정도 가능하다.
우리의 핵심 통찰은 LLM이 전체 JSON 객체를 예측하도록 할 필요가 없다는 것이다. 우리는 이미 그 형태를 알고 있다.