Gemini가 스스로를 대체할 모델을 9달러에 훈련시키다
I had Gemini train its own replacement for $9
레딧 댓글에서 나이프 브랜드, 모델, 강종을 추출하는 NER 작업을 Gemini 3.1 Pro로 처리하던 저자는 비용 문제로 오픈소스 GLiNER로 전환했지만 정확도가 0.65 F1으로 떨어졌다. Gemini가 4,290개 댓글에 라벨을 붙인 데이터로 GLiNER large v2.5를 파인튜닝한 결과, 24분 만에 0.83 F1을 달성했다. 라벨 비용 9달러, GPU 비용 2.5달러가 들었지만, words_mask 텐서를 잘못 채워 며칠을 디버깅하는 시행착오를 겪었다.
words_mask는 마스크가 아니다. 특수 토큰, 프롬프트, 패딩 토큰에는 0을, 각 실제 단어의 첫 서브토큰에는 1, 2, 3을 부여하는 단어 인덱스다.