話題のJev、実はPython 25行で書ける
Jev in 25 Lines of Python
JevをSystem One意思決定モデルとして大規模に宣伝する動きに対し、NobodyWhoはわずか25行のPythonコードでその核心を再現。Qwen3-0.6BのGGUFモデルをllama-cpp-pythonで読み込み、選択肢トークンのlogitsを確率に変換するだけで、メール分類（正当・スパム・フィッシング）をローカル実行する。APIも強化学習も合成データも不要。パロディ記事だが、本質は「選択肢付きプロンプトに確率を返す高速・ローカルな分類器」だと喝破する。
そこにある。これがJevだ。
HNでの議論
162- sigmoid10
チャットモデルをベースに使うとき、logprobsを直接見に行くのはいつも気持ち悪い。なぜなら、彼らは散文を出力として書くように訓練されているからだ。だから、君の「選択肢」トークンとその確率は、モデルが他に言いたかったことによって薄められてしまうかもしれない。この投稿と同じやり方でやらなければならないなら、少なくとも明確なシステム指示を加え、プロンプトのアシスタント出力セクションの冒頭を注意深く言葉遣いして、すぐに脱線する可能性を下げるべきだ。
構造化出力を使う方がこの問題をずっとうまく解決できるとわかった。モデルに「A」「B」「C」だけを生成させて確率を見るのではなく、複数トークンのシーケンスの集合から「Legitimate」「Spam」「Phishing」など、あらかじめ定義された選択肢を直接生成させるのだ。舞台裏ではかなり似たことになるが、モデルが実際には「フィッシングの試みのようだから、答えは(C)が正しい」と言いたかったのに、最初のトークンで「A」が最も高い確率になる、というリスクに陥ることはない。この方法なら、推論予算を使うこともできる。固有の推論を通じても、残りの出力構造の前に自由形式の部分を置いてもいい。さらに複雑な出力構造を使って確率を（言葉でも数字でも）割り当てさせることもできるが、トークンlogprobs以上にそれらを信用はしないだろう（それでもかなり良いことはある）。
- antirez
LLMのマスク付きアテンションのため、選択肢を本文（分析するメール）の前に置くと、トランスフォーマーはすでに何を探すべきかを知っており、その特定のタスクに対処するための状態を作るのにより多くのトークンを使える（BERTはアテンションにマスクがないので、トークンは次のトークンにもアテンションを向ける）。システムプロンプトにいくつか例を入れてキャリブレーションを改善することもできる。
もう一つうまくいくトリックは、質問を2回繰り返すことだ：「明確にするためにタスクとラベルを繰り返します：…」
- philipbk
> 「25行のPython」
> 「import Solution」
ok
- bruhhhhhh
Jevについてはここで初めて聞いたので、何が話題なのか全くわからない。
つまり彼ら（Jev）の売りは、フロンティアモデルよりも分類が速いということ？型安全の側面は構造化出力で完全に解決できるからね。
でも彼らの例は分類だけど、それは古典的なBERTモデルでも可能だし、もっと速いだろう。
つまり彼らの売りはタスク特化の小型モデルってこと？それとも私が全体を完全に誤解している？
- no-name-here
Heaneyというコメンテーターが言及したレイテンシと計算量の比較が欠けているだけでなく、Jevと比べたエラー率についても何もない（そもそもアプリがパースできる形式で常に出力するのか、それがどれだけ解決されているかもわからない）。
でも最後にそれがパロディだと書いてある。HNのタイトルにはジョークだと書くべきかもね。
- alun
Jevについて一つどうしても理解できないのは、なぜ彼らが「システム1」というナラティブを作ろうとしているのかということだ。
現実の人間は、システム1の脳の部分で分類タスクを行うことはない。システム2を使う。だから定義上、Jevがやっていることはシステム1の思考ではない。
どちらかと言えば、「思考」を必要とせず論理に基づいて自動実行される通常のプログラミングこそが「システム1」だろう。
- zeroq
Jevを25行のPythonで書く方法：
1. 円を描く
2. 残りのフクロウをインポートする
- jorisw
コンテンツマーケティングを強く疑う。
最後に製品に言及し、真面目な主張をしたふりをした後で「これはパロディ投稿です」と言っている。