Castform+Neon:100倍成本击败GPT-5.6-Sol
Beating GPT-5.6 Sol on retrieval with 100x cheaper open models

传统RAG管道正被多跳搜索的Agentic Retrieval取代,但频繁调用GPT-5.6-Sol导致成本飙升且延迟高企。Castform与Neon联手,利用企业私有数据构建训练集,通过RL后训练让开源模型在检索任务上超越前沿闭源模型。这套方案不仅将单次请求成本降低100倍,还利用Neon的动态计算扩展和分支功能,完美解决了训练过程中的突发负载与隔离环境问题。无需复杂ML基础设施,开发者即可将内部知识库转化为高效智能体,实现低成本、低延迟的精准检索。
大多数团队的最佳训练数据正沉睡在数据库中,难点在于将原始数据转化为可用资源,而让智能体大规模廉价地读取、搜索和修改数据需要先进的基础设施,Castform指向Neon则完美规避了这两大难题。