Google bringt Gemini bei, in einem Durchgang 1.000 Ja/Nein-Fragen zu beantworten
Gemini Decisions API
Die Gemini Decisions API setzt auf das neue Modell Gemini Decision 1, das bis zu 1.000 Ja/Nein-, Auswahl- und Rubrik-Fragen in einem einzigen Vorwärtsdurchlauf über Text, Bilder, Audio, Video und PDFs bewertet. Statt Token für Token Text zu erzeugen, liefert es Wahrscheinlichkeiten und Konfidenzwerte in 150 bis 250 Millisekunden – für 0,10 Dollar pro 1M Input-Tokens und ohne Kosten für Output-Tokens. Google Search, Gemini Notebook und Stitch nutzen die API bereits als schnelle Steuerungsebene.
Mit null berechneten Output-Tokens ist Gemini Decision 1 mit der Decisions API über die gemeinsame Benchmark-Suite hinweg fast fünfmal günstiger als Gemini 3.5 Flash-Lite mit der Interactions API.
- eminence32
Ich bin irgendwie überrascht, dass es Jev gebraucht hat, bis allen klar wurde: „Ach ja, das ist eine nützliche Sache, die wir in unserem Produktportfolio haben sollten.“
Aber vielleicht ist das eine dieser Sachen, die nur im Rückblick offensichtlich sind? Ich bin sicher, Leute haben vor Jahren etwas Ähnliches mit grammatikbeschränkten Ausgaben versucht (zum Beispiel nur eine einfache JSON-Struktur auszugeben), aber so bekommt man keine Wahrscheinlichkeiten aus dem Modell. Was mich zu der Frage bringt: Wie berechnen diese Modelle Wahrscheinlichkeiten?
- kodoman
Ich habe noch kein Decision Model benutzt. Wie verwenden die Leute sie im Moment? Benutzt jemand sie in einem Coding-Harness wie Pi?
- 2001zhaozhao
Wir sind ungefähr an dem Punkt, an dem die KI jetzt ziemlich wahnsinnig billig ist. 100K Token Kontext durchzugeben und dann Hunderte Fragen von jeweils 100 Token zu stellen, würde etwa so viel kosten wie ein einzelner Google-Search-API-Aufruf.
Von den Hunderten Fragen könnten die meisten sogar verschiedene Variationen derselben Frage sein, um mehr Nuancen zu erfassen, als normalerweise in einer einzelnen Multiple-Choice-Frage möglich ist.
- waximabbax
Es ist etwas teurer als andere Decision Models in derselben Sparte.
Allerdings kann es auch Audio und Video als Eingabe akzeptieren, und für diese speziellen Fälle kann es extrem nützlich sein.
- theanonymousone
Das beste Decision Model, das ich benutzt habe (neben Jev selbst), ist respan/span-02, das auf Gemma4 26A4 basiert (darauf feingetunt?). Das macht mich trotz der hohen Kosten optimistisch für dieses Release.