Strands Decider 2B: un modelo de decisión pequeño y de código abierto que decide en milisegundos

Strands Decider 2B: a small, open-source, decision model

Strands Decider 2B: un modelo de decisión pequeño y de código abierto que decide en milisegundos

Strands Labs presenta Strands Decider 2B, un modelo de decisión de 2 mil millones de parámetros que elige entre opciones y asigna puntuaciones de confianza, en lugar de generar texto libre. Optimizado para baja latencia (~115 ms en RTX 3090), es ideal para enrutamiento de modelos, selección de herramientas y guardrails. Está disponible en GitHub y Hugging Face con todos los datos de entrenamiento.

En lugar de generar resultados arbitrarios, los modelos de decisión están diseñados para elegir entre conjuntos de opciones y asignar puntuaciones numéricas simples.
  1. real_faxenoff

    Como usuario habitual de un montón de micromodelos especializados, te digo esto: no vas a estar contento con un modelo así (y sus equivalentes JEV) ejecutándose permanentemente en segundo plano en la CPU de tu PC. Necesitas descargar su procesamiento a la NPU. Hay muchas trampas en el camino, pero el resultado vale la pena.

    El rendimiento de la NPU será el doble de alto, mientras que el consumo de energía será cuatro veces menor. Sin ruido adicional del ventilador (si sabes a lo que me refiero).

    Esperaré otro mes hasta que la primera fase del =battle royale= entre modelos de este tipo termine, armaré una solución para la NPU/iGPU y la publicaré en HF.

  2. girvo

    ¿Alguien sabe si vale la pena hacer fine-tuning de uno de estos modelos de decisión con la forma de las preguntas sobre las que quieres que trabaje, en comparación con las versiones más generales? Estoy usando Jev con bastante éxito en el trabajo en este momento, pero tengo curiosidad sobre qué es factible.

  3. adenta

    A estas alturas no puedo esperar a que un comediante lance un modelo de decisión respaldado por humanos.

    Conoce a Jerry: es literalmente un tipo llamado Jerry respondiendo tus preguntas.

  4. mattvr

    ¿Por qué todo el mundo llama a las opciones binarias `noul`? ¿Tiene algún significado o es solo copiar la API de Jev?

  5. mynti

    ¿Alguien puede explicar esta arquitectura con un poco más de profundidad? Dicen que el pointer head puntúa el estado oculto en cada opción contra el estado oculto de la respuesta. Pero el LLM produce estados ocultos por token, así que una opción puede abarcar múltiples tokens, ¿no?

Más de este día

2026-10-07