100배 저렴한 오픈 모델로 GPT-5.6 Sol을 이기다

Beating GPT-5.6 Sol on retrieval with 100x cheaper open models

Neon과 Castform이 협력하여 검색 작업에서 프론티어 모델을 능가하는 비용 효율적인 AI 에이전트를 구축하는 방법을 소개합니다. Castform은 오픈소스 모델을 RL(강화 학습)로 후훈련시켜 특정 작업에서 GPT-5.6 Sol과 같은 폐쇄형 모델을 능가하면서도 요청당 비용은 100배 저렴합니다. 이 게시물은 Lakebase Search를 사용하여 기업이 보유한 데이터(내부 문서, 제품 기록 등)를 훈련 데이터로 변환하고, 에이전트가 검색, 인용, 정확한 답변을 제공하도록 보상 함수를 설계하는 방법을 설명합니다. 또한 Neon의 동적 컴퓨팅 확장과 브랜칭이 훈련 중 급증하는 워크로드와 상태 저장 에이전트 격리에 어떻게 도움이 되는지 보여줍니다.