OpenAIはTypeSafeのJevを丸ごと飲み込むのか
OpenAI is about to eat Jev's lunch – Arcturus Labs
TypeSafeのJevはAI Gateway史上最速で普及したが、OpenAIが同じ分類能力を自社モデルに組み込めば一瞬で追いつく恐れがある。OpenAIは以前からツール呼び出しのトークンで暗黙の分類を行っており、Jevの技はその一般化にすぎない。TypeSafeの堀は学習データとキャリブレーション手法にあるが、精度が伴うかは未知数だ。
OpenAIは何年も前からLLMを暗黙の分類器として使ってきた。ただ、一般的な分類タスク用に訓練しておらず、汎用分類を独立した製品としてパッケージ化してもいなかっただけだ。
HNでの議論
188- orbital-decay
主要なAI企業はすでに大量の自社製分類器を持っている。大小さまざま、汎用も特化型も。推論パイプライン（例えばセーフガード）で使われるものもあれば、データ準備、訓練、分析・調査、研究、各種の単発・中間タスクなどで使われるものもある。それらを公開APIで提供することが常にビジネス的に理にかなうわけではない。この話題には大した中身があるとは思えない。これらすべてに新参の人々が、分類器が存在すること、分類においてより効率的であること、そして生成モデルでよく行われる多くのタスクが実は分類の偽装であることに気づいているだけのように見える。それは決して悪いことではなく、その用途を新たな目で見るのは素晴らしいことだ。
- prodigycorp
この記事は異常に読みにくい。OpenAIとツール呼び出しのような、LLMが相対的な選択をするように調整されている範囲でのみ関連する事柄にtummelvisionされているが、これはすべてのLLMに当てはまる。また、本当に時代遅れの参照もある。LLMが書いたのだろうか？
また、moatの議論は最低の部類の議論だ。jevにmoatがあるかどうかはどうでもいい。インターフェースを正しく作ったのか？jevがやったようにドアを蹴破ることができた、見落とされている過去のアイデアには他に何があるか？
本当に馬鹿げている。城もないのにmoatの話をしたがる人々。moatの話は、関与しているという幻想を投影するだけだが、実際にはほとんどの場合、中身のない関与だ。
- andy12_
ありそうにないと思う。OpenAIはRLを使った推論モデルの訓練に全力を注いでおり、Jevのようなモデルは正反対だ。速さのために全く推論しないように作られている。その上に推論を追加したいなら、従来のLLMを使ったほうがいい。自己回帰トークンを出力すると価格と速度の利点を失うからだ。OpenAIはこれにわざわざ手を出すとは思わない。
> 私の主な仮説は、Jevは従来の大規模言語モデルにかなり近いものを使っているというものだ。その証拠として、Latent Spaceは初期のクローンの多くが実際にLLMベースであると報じている。
しかし、これがJevにも当てはまる証拠ではない。状態に非因果的テキストエンコーダを使っている可能性があり、価格の割に非常に優れていることを考えると、それは理にかなっているかもしれない。
- rdevsrex
Jevには一つの利点がある。それはOpenAIではないということ、したがってあなた自身の作品を盗む可能性がおそらく低いということだ。
- prometheus1992
なぜOAIがJevに追随する必要があるのか？これは本当にJevが金を払っていると思う。Jev自体はすぐにランチ代もなくなるだろう。基本的な消費者向けハードウェアでローカルに実行できる無料の代替品が文字通り何十もあるからだ。ひどい実用性はさておき、Jevにはまともなビジネス提案がない。
- dmix
「Jev」とは何かの文脈：https://news.ycombinator.com/item?id=49717558
- abroszka33
もしOpenAIがJevがやっていることと似たものをリリースしたら、それは敗北を認めるようなものだ。彼らの売りはAGIと世界終末の危険性だ。家庭にAGIを持つ人が、AGIが結局置き換えるであろうソフトウェアの一部となることを意図したJevのようなものを作るだろうか。
- 60secs
彼らがユニコーンとして大手ラボの一つにacqui-hireされていなかったら驚きだ。
より大きなモデルのために内部的に分類器を使う能力は、コストとスループットを劇的に改善する可能性があり、非常に似たサービスでマージンを増やせる。