Google、出力トークン課金ゼロの「Gemini Decisions API」を公開
Googleが新モデルGemini Decision 1を搭載したGemini Decisions APIを発表した。テキスト・画像・音声・動画・PDFを1回の入力にまとめ、最大1,000件のyes/no・選択・ルーブリック評価の質問を単一のフォワードパスで処理する。トークン単位の生成を行わないため、エンドツーエンドのレイテンシは150〜250ms、料金は入力100万トークンあたり0.10ドルで出力課金はゼロ。各回答には0〜1の信頼度スコアが付き、曖昧なケースを人間やフォールバックへ回せる。Google NotebookのモデルルーティングやStitchの即時ワイヤーフレーム生成など、社内でも低レイテンシの制御層として活用が進む。
トークンを1つずつ生成する代わりに、Gemini Decision 1は候補の選択肢を単一のフォワードパスでスコアリングし、150〜250msのエンドツーエンドレイテンシで確率と信頼度スコアを返します。
HNでの議論
90- eminence32
みんなが「ああ、そうだ、これは我々の製品ポートフォリオに必要な便利なものだ」と気づくのにJevが現れるまで時間がかかったのは少し驚きだ。
でも、これは振り返ってみて初めて明らかになる類のものかもしれない？ 何年も前に文法制約付き出力（例えば単純なjson構造だけを出力するなど）で似たようなことを試みていた人はきっといたはずだが、その方法ではモデルから確率を得ることはできない。
そこで疑問に思うのは、これらのモデルはどうやって確率を計算しているのか？
- kodoman
まだ決定モデルを使ったことがない。今人々はどうやって使っているのだろう？ Piのようなコーディングハーネスで使っている人はいる？
- 2001zhaozhao
AIが今やかなり狂ったように安くなっている地点にほぼ到達している。100Kトークンのコンテキストを渡してから、それぞれ100トークンの質問を数百個するのは、Google検索APIを1回呼ぶのとほぼ同じコストになるだろう。
数百の質問のうち、ほとんどは同じ質問の異なるバリエーションでさえあり得て、通常の単一の多肢選択では不可能なより微妙なニュアンスを捉えることができる。
- waximabbax
同じレーンの他の決定モデルより少し高価だ。
しかし、入力として音声や動画も受け付けられるので、そうした特定のケースでは非常に有用になり得る。
- theanonymousone
私が使った中で最高の決定モデルは（Jev自体を除けば）respan/span-02で、これはGemma4 26A4をベースにしている（ファインチューニングしたもの？）。そのため、コストが高いにもかかわらず、このリリースには楽観的だ。