Jevper: 兼容任意模型的分类接口封装
Show HN: Jevper – the Jev interface on top of any OpenAI-compatible model
Jevper 是一个将 Jev 接口封装在任意 OpenAI 兼容模型之上的工具,让开发者无需依赖 TypeSafe SDK 即可使用 System One 的分类功能。它支持从云端 LLM 到本地 llama.cpp 服务器的无缝切换,返回带概率和置信度的结构化答案而非普通文本。通过智能的方法选择机制,它能在不同模型间自动适配 logprobs 或 JSON Schema,确保代码编写一次即可在任何后端运行。
指向任何托管 LLM 或自托管 llama.cpp 服务器,原本为 Jev 编写的代码无需任何修改即可继续工作。