Navier-Stokesの成果後もLLMに強気になれない理由
Why I'm still bearish on LLMs after Navier-Stokes
フロンティアラボは知識労働者の完全自動代替という物語で高く評価されているが、現在のモデルは単純作業にも監視とガードレールを要する。厳密な仕様策定にはドメイン専門家と仕様専門家の希少な交差点が必要で、そのコストは実装を大きく上回る。Navier-Stokesや純粋数学は最良のケースに過ぎず、報酬ハッキングや人間レビューの限界を踏まえると、完全自律AIを採用できる企業は失敗を安価に許容できるか、既に厳密な検証コストを負担している三類型に限られる。
総合すると、ほとんどの領域でLLMは「ひび割れたインターン」のように見え続けるだろう。大人の手にあれば素早く効果的だが、場所の主導権を任されることはない。
HNでの議論
595- carodgers
この2026年4月の論文は面白く、関連性のある読み物です。
https://arxiv.org/html/2509.24239v4
研究者たちはフロンティアモデルにチェスをプレイさせました。Table 3のMAR率を見てください。どの手が合法かを明示的に教えられていない場合、合法手を80%以上の精度で特定できたモデルは一つもありませんでした。多くは合法手よりも非法手を多く要求しました。そして、どの手が合法かを明示的に教えられていても、モデルは非法手を要求し続けました。非法な要求を捨てると、どのボットも1100 ELOに調整されたチェスモデルに勝てませんでした。
元の投稿の著者は「現在のフロンティアモデルは、最も単純なタスクでさえも面倒な監視とガードレールを必要とする」と言っており、まったくその通りです。
- yshklarov
素晴らしい記事ですが、文頭の大文字化がないため、不必要に読みにくくなっています。
このコメントが的外れでしたら申し訳ありませんが、本当に目に余るもので、記事は著者自身が投稿したものなので、フィードバックを受け入れてくれるだろうと推測しています。
- keeda
最初のポイントの前提がずれているように思えます：
> フロンティアラボは、ほとんどのナレッジワーカーに対する完全自動化されたドロップイン代替品を、すでに生産した、あるいはごく近い将来に生産するというナラティブに基づいて価格設定されている…
AI企業がそのように評価されていると仮定しても（実際はそうではない）、数字が合いません。
ほとんどのナレッジワーカーの「価値」は——企業が現在彼らに支払っている額に基づけば——年間50〜70兆ドルです。もしAIがそれらすべてのナレッジワーカーをドロップインで代替したなら、AI企業は市場がすでに負担している額と同程度の桁の料金を正当に請求できると考えるのは妥当です。
したがって、彼らの仮想的な収益が二桁兆ドルで、評価額がその何倍かであれば、AI業界全体は少なくとも二桁兆ドルで評価されることになります。
しかし累積では、業界（フロンティアラボ＋他のすべてのプレイヤーのAI部分のSWAG推定）は、たとえば約6〜7兆ドルで評価されています？ これは、彼らが現在自動化できるナレッジワークの量のかなり公正な近似のように思えます。
- killerstorm
「Language Models are Few-Shot Learners」 - 2020年、GPT-3の論文。
インコンテキスト学習が非常に強力なメカニズムであることは実証されています。GPT-6規模のモデルがインコンテキスト学習を苦手とする証拠はありません。実際、ARC-AGI-3のスコアは彼らがそれが得意であることを示しているかもしれません。
新しいスキルごとに特注のRL環境が必要であるという証拠はありません——おそらく良いデモンストレーションで十分です。
- bluegatty
「ほとんどのナレッジワーカーに対する完全自動化されたドロップイン代替品を、すでに生産した、あるいはごく近い将来に生産するというナラティブに基づいて価格設定されている」
いや、実際はそうではありません。
彼らは、AIが従来の決定論的システムと並ぶ普遍的なコンピュートの形態になる——実際そうなる——ことを示唆する形で価格設定されています。
そして、彼らがその大部分を獲得するだろうということも…それはないでしょう。
フロンティアラボは高い価格では非常に悪い買い物ですが、それは一部には突飛な価格設定のせいであり、実際には主にバリューチェーンにおける彼らの比較的弱い立場のせいです。
お金は最も強力な立場にあるNvidiaに流れています。
小売業者がチャネルを握っていれば、革新的な製品のマージンをすべて取れるのと少し似ています。
AIは過剰に宣伝されており、フロンティアラボは過大評価されています——しかしAIは定着し、成長するでしょう。Skynetのようにではなく、新しいコンピュートの形態として。そして時間はかかり、利益は力を持つ者たちによって収穫されるでしょう。
- randomImmigrant
自動化に対するLLMへの弱気と、特定分野におけるLLM＋人間専門家への強気が、現在のアーキテクチャに対するおおよそ正しい期待だと思います。
タスクの汎化に関する問題とは別に、あるいはそれに関連して、LLMは時間管理が本当に苦手で、物事を行うのにかかる実世界の時間をうまく見積もれないという事実があります。これに記憶の問題が加わると、変化する仕様を扱えるであろう長期的なエージェントの夢は、現在のアーキテクチャではかなり非現実的です。
しかし、より決定論的な出力を持つ狭い領域ではこれはあまり問題にならず、複数のエージェントがはるかにうまく成功するのを見ています。
その能力と、そのようなエージェントをよりよく指示し、彼らの時間的な繋ぎ止めとして機能できるループ内の人間との融合が、少なくともしばらくの間、本当の主戦場になると思います。
- knuppar
短く的を射ている！ オープンで安価なモデルは大手ラボを継続的に下回るだろう。支出コミットメントが扉を叩くとき、爆発半径は美しくないだろう。
- ausbah
> 厳密な仕様の最良の代替は人間によるレビューだ。人間によるレビューは言語モデルが生み出す出力量にうまくスケールしない。さらに悪いことに
ビジネスモデルがより多くのトークンを売ることである場合、提供時間あたりのコストが高くなり、「より多くの」思考、エンゲージメント誘導、ふわふわしたナラティブ、そして露骨なダークパターンにつながる
- angarg12
主要なテーゼの一つは
> モデルは、訓練された特定のタスクの小さな近傍内のタスクでのみうまく汎化する
フロンティアラボが私のチームが取り組む正確なタスクでモデルを驚くほど訓練していない限り、これは明らかに誤りです。私たちは自動化で非常に良い結果を得ており、年内にほとんどのインフラタスクでループ内の人間をほぼ排除できるだろうと強気です。
他のテーゼについては意見はありませんが、OPがこれらの主張をまったく裏付けていないことを考えると、この記事の結論には疑問を抱きます。
- yunwal
> 既存の明確なガードレールを備えた、狭く定義された少数のタスクを完了する必要がある人々：制御された環境での反復的な肉体労働、コールセンターやカスタマーサービスのチャット作業など。
コールセンターの仕事が「制御された環境」や「反復的」だと、どうして人々がそんなに自信を持って言えるのか全く分かりません。それはほぼ定義上、反復的でも制御されてもいません。カスタマーサポートは、制御された環境が失敗したときに私が頼るものです