Perplexity lanza Decider v1.3, su modelo de decisiones que clasifica sin generar texto
Perplexity Decider v1.3: Training, eval, and use cases
Perplexity presenta Decider v1.3 y Decider Flash v1.3, modelos de clasificación general que devuelven probabilidades para preguntas de sí/no, opción múltiple y puntuación en una sola pasada. Entrenados sobre Qwen con atención bidireccional y destilación, añaden la función 'locate' para extraer entidades y datos personales. Disponibles en Hugging Face bajo licencia Apache y en la API de decisiones de Perplexity.
Un modelo de decisión es un clasificador de propósito general. Le das una entrada y un conjunto de preguntas, cada una con sus posibles respuestas, y para cada pregunta devuelve una distribución de probabilidad sobre las respuestas.
- 0o777
Esta entrada del blog actuó como una madriguera de conejo hacia cosas interesantes:
https://www.perplexity.ai/hub/blog/pii-trace-detecting-perso...
https://www.perplexity.ai/hub/blog/a-local-first-agent-for-p...
- waximabbax
Bueno, felicidades.
Aquí van algunos pensamientos, no hechos:
Sobre el AA Decision Index.
Decider v1.3 y Decider v.1.2 parecen tener los mismos benchmarks. Sin embargo, V1.3 flash supera a V1.2 flash por 4 puntos.
No me entusiasma particularmente este patrón/tendencia de tener versiones flash para modelos de decisión. El objetivo principal de los modelos de decisión era ofrecer una salida más rápida para solicitudes de alto volumen a un costo mucho menor que los modelos de razonamiento. Dado que la mayoría de los modelos de razonamiento pueden y probablemente ya superan a los modelos de decisión en precisión, pero son mucho más lentos y más caros. Los modelos de razonamiento ya pueden devolver salidas estructuradas.
Así que tu modelo insignia debe ser el más rápido y preciso.
A menos que pueda manejar alguna forma diferente de entrada además de solo imagen y texto, no veo el sentido de tener tanto la versión insignia como la flash para el mismo modelo.
- nchmy
Gracias a esta publicación, descubrí e investigué varios modelos decider y otros. El mecanismo "locate" en Decider 1.3 parece tener un equivalente en Clairic de Cloudflare y Extract de ScaleDown. Estoy particularmente impresionado con ScaleDown para mi caso de uso: mucho más barato y preciso que los demás.