100倍安いオープンモデルでGPT-5.6 Solを検索性能で上回る「Castform + Neon」

Beating GPT-5.6 Sol on retrieval with 100x cheaper open models

NeonとCastformは、オープンソースの小規模モデルをRLポストトレーニングすることで、検索タスクにおいてフロンティアモデルを凌駕しつつ、コストを100分の1に削減できると主張しています。従来のRAGパイプラインはエージェント型検索へと進化し、複数回のループで検索を行うため、フロンティアモデルでは遅く高コストでした。Castformは、NeonのLakebase Searchを利用して、企業のデータベース内の生データをトレーニングタスクに変換し、報酬関数に基づいてモデルを強化学習で最適化します。Neonの動的スケーリングとブランチングにより、バースト的なワークロードや状態を持つエージェントのトレーニングを効率的にサポートします。