Gemini Decisions API responde hasta 1.000 preguntas de sí o no en una sola pasada
Google DeepMind lanza la Gemini Decisions API, basada en el nuevo modelo Gemini Decision 1, que evalúa hasta 1.000 preguntas cerradas —sí/no, opción múltiple y puntuación por rúbrica— sobre un mismo input multimodal de texto, imágenes, audio, video y PDFs. En lugar de generar texto token a token, puntúa las opciones en una sola pasada con latencia de 150-250 ms y un coste de 0,10 dólares por millón de tokens de entrada, sin cobrar tokens de salida.
Cada respuesta incluye una puntuación de confianza (de 0 a 1) para que tu código pueda derivar los casos ambiguos a un fallback o a un revisor humano.
- eminence32
Me sorprende un poco que le haya tomado a Jev que todos se dieran cuenta de "ah, sí, esto es algo útil que deberíamos tener en nuestro portafolio de productos".
Pero quizás esto sea una de esas cosas que solo son obvias en retrospectiva. Estoy seguro de que hace años la gente intentaba algo similar con salidas restringidas por gramática (por ejemplo, para generar solo una estructura json simple), pero de esa forma no puedes obtener probabilidades del modelo. Lo cual me hace preguntarme: ¿cómo calculan las probabilidades estos modelos?
- kodoman
Todavía no he usado un modelo de decisiones. ¿Cómo los está usando la gente en este momento? ¿Alguien los usa en un entorno de programación como Pi?
- 2001zhaozhao
Estamos casi en el punto en que la IA es ahora bastante increíblemente barata. Pasar 100K tokens de contexto y luego hacer cientos de preguntas de 100 tokens cada una costaría aproximadamente lo mismo que una sola llamada a la API de búsqueda de Google.
De las cientos de preguntas, la mayoría podrían ser incluso variaciones diferentes de la misma pregunta para capturar más matices de lo que normalmente es posible en una sola opción múltiple.
- waximabbax
Es un poco más caro que otros modelos de decisiones en la misma categoría.
Sin embargo, también puede aceptar audio y video como entrada, y para esos casos específicos puede ser extremadamente útil.
- theanonymousone
El mejor modelo de decisiones que he usado (además de Jev mismo) es respan/span-02, que está basado en (¿ajustado a partir de?) Gemma4 26A4. Eso me hace ser optimista sobre este lanzamiento, a pesar del alto costo.