Kev、Qwen3.5上に構築した小型意思決定モデルをオープンソースで公開
Kev: Tiny Jev-like family of decision models built on top of Qwen3.5
Kevは、Qwen3.5をベースにした0.8B、4B、9Bの小型意思決定モデルファミリーだ。Jevのアーキテクチャを参考に、yes/no、多肢選択、評価の質問を同一リクエストで処理できる。TypeSafeのSystem One APIと互換性があり、CUDAやApple Silicon上で動作する。学習コードと評価データも公開され、自分でトレーニングすることも可能だ。
Kev-9Bは新規ソースの開発セットでJevに約4.5ポイント及ばない。Jevがどのデータセットで学習されたかは不明なため、これは両アーキテクチャの制御された比較ではない。
HNでの議論
199- prodigycorp
ああ、もうこのjevの話題にはうんざりだよ。
jevの唯一の強みは、製品を良くしてメンテナンスし続けることに専念する会社があるってことだ。でも、jevっぽいプロジェクトに飛びつく気にはなれない。リリースがほとんど日和見主義で動いているように感じるからね。日和見連中が淘汰されて、誰が本当にオープンウェイトコミュニティに価値あるものを提供しようとしているのかが見えるまで、少し待つのは構わない。
jevは従来のML界が認めるよりずっと優れているけど、データポリシーに関しては熱意が壁にぶつかる。完全に厳格すぎる。システムに何を入力しても、彼らは保持する。
jevチームはZDR製品をリリースする必要がある。でなければ、彼らのプラットフォームは最初から失敗だ。オープンでjevっぽいモデルが、それだけの理由で勝つだろう。
- oscarfr
Jevクラスのモデルのベンチマークを見つけた：https://benchmarkheaven.com/jev-models
すでに多くのJevライクなモデルが載っている。
編集：無関係です。見つけて面白いと思ったので共有しただけ。
- hbarka
Jevが基本的にRLCDを使って訓練されている一方で、あなたがRLHFで訓練されたQwenモデルの上に構築しているなら、結果として得られるモデルがどうしてJevライクだと言えるのか？
- prometheus1992
どうやってQwenに構造化された方法で答えさせているの？こっちの方が好きだな - https://github.com/deepanwadhwa/OpenDecision
- monkeydust
ちょっとしたJev爆発が起きてるな。それは、もっとよく理解できるシンプルな時代に戻してくれるからか？分類モデルはずっと前からあるのに。
- nullbio
これらの大きなコンテキストウィンドウを持ち、フロントエンド開発のスタイリングルールやReactのコンポーネント作成ルールを強制できるようになると、素晴らしいユースケースになると思う。そうすればスタイルガイドやスタイリングスキルを捨てて、スタイリングを強制するための決定木を作れるので、ドリフト問題や重複問題に遭遇しない。今、一番時間を無駄にしているのはそこなんだ。すべての機能ごとに作成されるUX/UIの問題を常に修正している。
- aetherspawn
これらが小さくて十分良くなって、ゲーム用の「ペットのような」AIを作れるようになるといいな。ほら、NPCに「ついて来い」と叫んで、STTスタックがそれを翻訳してローカルのJevライクモデルに送り、NPCがやることをいくつか選ぶ、みたいな。
- merqurio
Jevライクなモデルは拡散モデルの上に構築されるべきではないのか？例えばGSAI-ML/iLLaDA-8B-Instructのように？
少なくともそれは最高の結果を示してくれた。