Navier-Stokesの成果後もLLMに強気になれない理由
Why I'm still bearish on LLMs after Navier-Stokes
フロンティアラボは知識労働者の完全自動代替という物語で高く評価されているが、現在のモデルは単純作業にも監視とガードレールを要する。厳密な仕様策定にはドメイン専門家と仕様専門家の希少な交差点が必要で、そのコストは実装を大きく上回る。Navier-Stokesや純粋数学は最良のケースに過ぎず、報酬ハッキングや人間レビューの限界を踏まえると、完全自律AIを採用できる企業は失敗を安価に許容できるか、既に厳密な検証コストを負担している三類型に限られる。
総合すると、ほとんどの領域でLLMは「ひび割れたインターン」のように見え続けるだろう。大人の手にあれば素早く効果的だが、場所の主導権を任されることはない。
HNでの議論
175- carodgers
この2026年4月の論文は楽しくて関連性のある読み物です。
https://arxiv.org/html/2509.24239v4
研究者たちはフロンティアモデルにチェスをさせました。表3のMAR率を見てください。どの手が合法か明示的に教えられなかった場合、合法手を80%以上の割合で特定できたモデルはありませんでした。多くは合法手よりも違法手を多く要求しました。そして、どの手が合法か明示的に教えられてもなお、モデルは違法手を要求し続けました。違法な要求を捨てると、どのボットも1100 ELOに調整されたチェスモデルに勝てませんでした。
元の投稿の著者は「現在のフロンティアモデルは、最も単純なタスクでさえも面倒な監視とガードレールを必要とする」と言っており、まったくその通りです。
- keeda
最初の点の前提はずれているように思えます：
> フロンティアラボは、ほとんどのナレッジワーカーに対する完全自動化されたドロップイン代替品をすでに生産した、あるいは近い将来生産するというナラティブに基づいて価格設定されている...
AI企業がそう評価されていると仮定しても（実際はそうではない）、数字がずれています。
ほとんどのナレッジワーカーの「価値」は、企業が現在彼らに支払っている額に基づくと、年間50〜70兆ドルです。AIがそれらすべてのナレッジワーカーをドロップインで置き換えたなら、AI企業はその桁のどこかで信頼できる料金を請求できると仮定するのは妥当です。なぜなら、それが市場がすでに負担している額だからです。
したがって、彼らの仮想的な収益が二桁兆ドルで、評価額がその倍数なら、AI業界全体は少なくとも二桁兆ドルで評価されるでしょう。
しかし累積で、業界（フロンティアラボ＋他のすべてのプレイヤーのAI部分のSWAG推定）は、たとえば約6〜7兆ドルで評価されていますか？それは、彼らが現在自動化できるナレッジワークの量の公正な近似のように思えます。
- knuppar
短く的を射ている！オープンで安価なモデルは大手ラボを継続的に下回るだろう。支出コミットメントが扉を叩くとき、その爆風範囲は美しいものではないだろう。
- bluegatty
「ほとんどのナレッジワーカーに対する完全自動化されたドロップイン代替品をすでに生産した、あるいは近い将来生産するというナラティブに基づいて価格設定されている」
いや、実際はそうではない。
彼らは、AIが従来の決定論的システムと並ぶ普遍的なコンピュートの形態になることを示唆する方法で価格設定されている——実際そうなるだろう。
そして、彼らがそのほとんどを獲得するだろうと...それはない。
フロンティアラボは高い価格では非常に悪い買い物だが、それは一部には異常な価格設定によるもので、実際にはほとんどがバリューチェーンにおける彼らの比較的弱い立場によるものだ。
お金は最も強力な立場にあるNvidiaに行く。
小売業者がチャネルを所有していれば、ある革新的な製品のマージンをすべて取れるようなものだ。
AIは過剰に宣伝されており、フロンティアラボは過大評価されている——しかしAIは定着し、成長するだろう。Skynetのようにではなく、新しいコンピュートの形態として。そして時間がかかり、利益は力を持つ者によって収穫されるだろう。
- randomImmigrant
自動化に対するLLMには弱気で、特定分野におけるLLM＋人間の専門家には強気というのが、現在のアーキテクチャに対するおおよそ正しい期待だと思う。
タスクの一般化の問題とは別に、あるいはそれに関連して、LLMは時間管理が本当に苦手で、物事を行うのにかかる実世界の時間をうまく見積もれないという事実がある。これに記憶の問題が加わると、変化する仕様を扱えるであろう長期的なエージェントの夢は、現在のアーキテクチャではかなり非現実的だ。
しかし、より決定論的な出力を持つ狭い領域では、これはそれほど問題ではなく、複数のエージェントがずっとうまく成功するのを見る。
その能力と、そのようなエージェントをよりよく指示し、彼らの時間的な繋ぎ止めとして機能できる人間との融合が、少なくともしばらくの間、本当のアクションが起こる場所だと思う。
- ausbah
> 厳密な仕様の最良の代替は人間によるレビューだ。人間によるレビューは言語モデルが生成する出力の量にうまくスケールしない。さらに悪いことに
ビジネスモデルがより多くのトークンを売ることである場合、より多くの思考、エンゲージメントの餌、ふわふわしたナラティブ、そして真っ向からダークパターンにつながるようなサービス時間あたりの料金が得られる
- yunwal
> 既存の明確なガードレールを備えた、狭く定義された少数のタスクを完了する必要がある人々：制御された環境での反復的な肉体労働、コールセンターやカスタマーサービスチャット作業など。
コールセンターの仕事が「制御された環境」や「反復的」だと、どうして人々がそんなに自信を持って言えるのか全く分からない。それはほぼ定義上、反復的でも制御されてもいない。カスタマーサポートは、制御された環境が失敗したときに私が行くところだ。
- robinpie
現在の能力について文字通り否定するわけではない、抑制の効いた見解を見られて本当に感謝している。