ブラウザだけで動くJev、モデルを選んでGPU上で直接比較
OpenJev
OpenJevは、Jevに似た実験を完全にブラウザ内で実行する。MiniCPM5 2BなどのローカルモデルをWebGPUで読み込み、選択肢の確率をロジットから直接読む方法と、同じ分布をJSONとしてトークンごとに書き出させる方法を、同じGPU上で順番に走らせて実時間を計測できる。バックエンドや順番待ちはなく、入力はページ外に出ない。
直接のスコアは表示された選択肢トークンだけに対するsoftmaxであり、校正された信頼度ではなく、モデルが好む可能性のあるすべての答えを含んではいない。
HNでの議論
201- prodigycorp
こういう一発でバイブコーディングされたサイトはいつも視覚的に完全に頭痛の種だ。終わりのない雑然さ、そこら中に意味のない埋め草テキスト、そして実際の使いやすさには一切の配慮もない。
- mmastrac
（少なくとも自分の評価では）一致する_正統な_ Jev 実装を試したいなら、DiffusionGemma を Jev に変える vLLM パッチが公開されている。
自分の DGX Spark では非常によく似たレイテンシ値が出て、各テストで数ポイントの範囲で自分の評価と一致する（DG が勝つものもあれば Jev が勝つものもあり、どちらも間違っているときは低い確信度を示す）。
同じ評価を Qwen36 に対して実行したが、明らかに両方に負けていた。つまり、より小さなモデルでは知識と直感的推論の両方を捨てることになる、参考までに。
- wuhhh
これが oai の「structured output」（および当時 Sonnet ~3.7 にあった同様のパラダイム）とどう違うのか理解できない。みんなそこから離れていったのに。彼らの gh にはこう書いてある：
「Jev は TypeSafe のクローズドサービスで、実行時に定義される意味判断のためのものだ。このプロジェクトはそのインターフェースパターンをオープンモデルで再現するものであり、Jev の非公開モデルやトレーニングを再現するものではない」
他の誰かが指摘したように、これは実際には Jev ではない…誰か教えてくれないか
- wg0
重要 - Jev はあまりにも違う。最大の革新はその速度と、与えられたトークン集合からトークンを生成しないことが保証されている点だ。だから状態機械をインテリジェントに駆動できる。
- kul_
自分だけだろうか、それとも他の人も LLM が生成したウェブサイトをとても不快に感じるだろうか？
- lucfranken
Jev はとても異なるアプローチで、何が欲しいのか、どの選択肢が開かれているのかを具体的にしなければならない。そうしたものが人々にとって使える機能へと進化していくのは本当に興味深い。
また、この例ではローンチに基づく新規ローンチの速度がただただ信じられない。
- mohsen1
VLLM で DefussionGemma を介してこれを行うオープン PR がある
- mukundesh
これがどうして JEV なのかわからない。標準的な LLMS を使っているので、単に JEV API に従う LLM にすぎない。JEV の主な貢献は API ではなくモデル自体だ。誰か説明してくれないか？