AIコスト100分の1へ　知能の価格破壊が始まる

> すべてを読むことがデフォルトになる。1ドキュメント1セントで、モデルはすべての論文を読める。

私たちの時代に「すべてを読む」ことが「コンピューターが代わりに読んでくれる」ことを意味するのが、私は大好きだ。

近いうちにコンピューターが自転車に乗って、妻と時間を過ごしてくれるようになることを期待している。

コストよりも、速度の方が大きな要因になると思う。「金に糸目をつけない」プロジェクトでも、LLMの応答時間で壁にぶつかることがよくある。

サブエージェントによる並列処理で高速化はできるが、従来の計算タスクの並列化と同様に、利得は逓減する。

「長時間実行するエージェントを信頼して、もっとマルチタスクにするように働き方を変えろ」という話をよく聞く。なぜなら、多くのユースケースで対話的に使うには遅すぎるからだ。しかし、人間が日々の仕事でエージェントを強く導き、対話することを期待する世界では、それは苦しいことだと思う。

大きな分野の一つはロボット工学だと思う。今日、ロボットは洗濯物をたたむことができる。1枚あたり約10分かかる。本当だ。画像を処理して、角を見つけ、シャツの角にクローを移動し、折る前にまっすぐにしようとするのに、長い時間がかかる。

現在のロボットは一般的に非常に遅い速度で動く。半制御環境でバク転をするロボットを見たことがあるかもしれないが、ドアを開けるのがどれほど遅いかを見てほしい。処理時間が大きなボトルネックになっている。

私はスモールモデルが大好きだ。Gemma 4 26B/31Bモデルは、私が取り組んでいる奇妙な散文分析タスクで非常に印象的だった。Nova-microは本当に馬鹿だが、何かを実行できるほど賢いときは非常に速い。私は、これに基づく実システムのあらゆる場所で品質とコストを評価することを規律正しく行おうとしている。おそらくBedrockから離れるべきだ。なぜなら、良い競争相手になるかもしれない他の小さなモデルがたくさん欠けているからだ。

100倍は過小評価のように思える。モデルの改善がなくても、その程度の削減は見られるはずだ。TSMCのマージン、Nvidiaのマージン、そしてOAI/Anthropicの（推定される）推論マージンを見ると、100倍の削減の余地がある。

現在、これら3つはすべて異常に高い水準にある。競争がこれらすべてに訪れるだろう。

ジェヴォンズのパラドックスについて多くの人が見逃しているのは、基盤となる資源の需要の弾力性だと思う。

繊維にはジェヴォンズのパラドックスがあり、繊維機械が作られている間、世界の安価な衣料への需要が飽和するまで、より多くの繊維労働者が雇用されていた。その後、繊維労働者はおしまいになった（農業や馬も同様）。

ソフトウェアは現在ジェヴォンズのパラドックスを経験しているが、ソフトウェアの需要の上限がどれほど高いかは非常に不明だ。ウェブ開発は運命づけられているかもしれないが、ソフトウェア全般はおそらく無限だろう。

知能もおそらく無限だ（現時点ではソフトウェアと知能は非常に密接に結びついている）。トークン消費が永遠に曲線を上り続ける可能性は非常に高い。

個人的には、LLMはまだ知能を欠いた非常に高度な検索エンジンだと思っている。私には、LLMによってコストが下がるのはデータ取得のコストであり、知能のコストではないように思える。つまり、私たちはモデルに達成したいことを伝え、モデルは数秒でコードという形で正しいデータを返す。

だからこそ、「スタックオーバーフローのプログラマー」はLLMと競争するのが難しくなるだろうが、エンジニアはその知能のために依然として必要とされる。

まあ、これはただの私の個人的な意見だ。