LLMを「次のトークン予測器」と呼ぶのはもうやめよう

正直に言うと、記事が伝えようとしている点は理解できるし、ある程度は同意するが、その点がうまく説明されていないとも思う。

私が理解した議論の核心は、LLMはトレーニングで既存のデータだけでなく、新しいデータも使っているということだ。それはそれで結構なことで、LLMが単にすべてのデータを混ぜ合わせて、入力されたものの平均を返していると単純に想定することはできない。しかし、少なくとも私はそれを「次のトークン予測器」と呼ぶだろう。

トレーニングデータだけを使っているわけではなく、やっていることは解決策に到達するために次のトークンを予測することだ。私の素人知識によれば、LLMは依然としておおよそトークンごとに進み、文脈に基づいてどれが最も適しているかを決定している。

トレーニングデータに基づいて予測しているのではなく、RLVRなどに基づいて予測し、最適な解決策（解決策が最適であり得る限り）に到達しようとしているのだ。

そして、これを常に心に留めておくことは、LLMを理解し、扱う上で役立つと正直思う。

「次のトークン予測器」は限られたメンタルモデルだが、実際には他のどのモデルよりもはるかに優れている。

「パターンマッチング」は「推論」よりも良い直感であり、その文脈で「推論」という用語を使うことは名目上はまったく問題ないと思うが、それは単に多くのことを持ち込む重い言葉だ。

「そのパターンを見たことがない」というのは、AIの限界をよりよく説明している。なぜなら、AIは実際にはまったくうまく一般化できないからだ。記事で説明されている適応はそれを変えない。

それらは突然変異であり、能力の拡張ではない。

誰かが自分の主張を絶えず弱体化させる記事を生成したからといって、私は正確に物事を説明するのをやめるつもりはない。LLMについての話し方や考え方を非常に狭い用語のセットに制限することは、私たちの助けにはならない。

編集：より穏やかな表現にしました。

LLMが私にとって典型的に犯すエラーは、「schmutz」をユダヤ系の言葉として探すことで、「schmuck」が画面に表示されたことだ。なぜこんな愚かな間違いを？と思った。次のトークン予測モデルはそれを完全に説明している。

または「はい」で始まること。そして、この早期の固定化は完全な嘘であり、「はい、そう見えるかもしれませんが、理由により完全にノーです」となった議論では。だから、それは一番上に「ノー」と書くべきだったが、自分自身を編集できなかった。

しかし、これがより微妙な見解を与えてくれるのは良いことで、自分の事前確率を更新する必要があるかもしれない。

> 第二のシステムを「次の手の予測器」と呼ぶのは奇妙だろう。それはデータセットで次に現れた手を予測しようとしているのではなく、勝つ手を選ぼうとしているのだ。

ここでの区別が理解できません。勝ちの状態のセットから逆算することが、現在の状態から順方向に進むことと比べて、それが予測であるかどうかをどうにか変えるのでしょうか？

それはクロード語で書かれている、あるいは最近クロード語を読みすぎた人間かもしれない。私はクロード語にアレルギーを感じ始めている。まだ完全にはなっていないが、それは本当に探求する価値があり、正確である価値がある転換点にある。

より良い言い方は次のようになるかもしれません：

現在のエージェントシステムは、概念的に単純な次のトークン予測器から*構築*されているかもしれませんが、エージェントフレームワーク、再帰的呼び出し、ツール使用、そしてこれらの文脈や特定のアプリケーションでの強化学習への*多大な*投資により、それらはもはや「単なる」次のトークン予測器とは考えられません。

現代のエージェントワークは、おそらく「単純なルールと複雑な相互作用からの創発的システム」というパラダイムであり、真に新しい技術というよりはそのようなものです。