Jevper - Clasificación tipada sobre cualquier modelo compatible con OpenAI
Show HN: Jevper – the Jev interface on top of any OpenAI-compatible model
Jevper implementa la interfaz Jev (System One) sobre cualquier modelo compatible con OpenAI, ya sea alojado o autoalojado con llama.cpp. En lugar de texto libre, devuelve respuestas tipadas con probabilidades y confianza para preguntas de tipo Noul, Choice y Score. Ofrece cuatro métodos de elicitación (auto, logprobs, grammar, structured) y permite razonamiento, ejemplos few-shot y ejecución concurrente. Es una alternativa independiente a typesafe-sdk, instalable con pip, ideal para clasificación fiable y estructurada en producción.
Jevper no llama a la API alojada de TypeSafe ni depende de typesafe-sdk o openai en tiempo de ejecución: el objeto cliente es duck-typed, por lo que cualquier objeto que exponga responses.create o chat.completions.create funciona, incluido un servidor llama.cpp autoalojado.