doubleAIのMaxwell、実行中のコードを書き換えて4K動画生成を1.87倍高速化
Maxwell: A new kind of model that sits between code and hardware
doubleAIが発表した「コード実行モデル」Maxwellは、プログラムの実行中にボトルネックを特定し、そのマシンとデータに合わせてバイナリを書き換える。すべての最適化は元コードとの意味的等価性が形式的に証明される。LTX-2.5の4K動画生成を1.87倍高速化し、Whisperの文字起こしやNetworkXのグラフ計算でも大幅な短縮を実現した。
CEMは実行中のプログラムの内部に住み、データの流れを監視しながらアルゴリズムと命令を書き換えていく。出力はハードウェア上で直接動くバイナリであり、人間は介在しない。したがって、モデルは決して誤りを犯してはならない。
HNでの議論
15- epsylon
そのページには主張が多くて技術的な詳細がほとんどないですね。
Pythonの形式化はどうやって成し遂げられたのですか？どの形式証明フレームワークを使っていますか？
プログラムの複数のインスタンス/実行にわたって最適化をどう再現するのですか？（ソースコードは変わらないので…同じ作業を何度も繰り返さないと仮定して）
実際に動作しているコードに対する可視性、追跡、ログ記録はどうなっていますか？デバッグはソフトウェア構築の極めて重要な部分です。特に、常にバイナリコードを入れ替える悪魔が下にいる場合はなおさらです。再コンパイラが完璧であっても（そうはならないでしょうが）、ユーザーコードは決して完璧ではありません。
なぜスーパー最適化とデータへの可視性がソースコードのレベルに戻されないのですか？これは無駄に思えます。
- gavinray
これは予想以上にエキサイティングでした。
ホームページは、我々が何を見ているのかをあまりうまく説明していません：
どうやら二つのことの組み合わせのようです：
1) Python言語の形式化
2) 実行中のプログラムにフックし、スーパー最適化によって見つけられ、形式化ルールによって検証された、検証可能に等価な動作でありながら実行時パフォーマンスが向上するコードをホットスワップするLLM
これは素晴らしいですし、後から考えると「なぜ誰もこれを思いつかなかったのか信じられない」という類のものです。
- mccoyb
アイデアは好きだと言っておきます：
- 検証
- 特定のハードウェアに特化したスーパー最適化
- 実行中のバイナリのパッチ適用
すべて素晴らしいです
そうは言っても、このサイトの文章からは少し奇妙な雰囲気を感じます。マーケティング目的で意図されたように思われる小さなフレーズや主張が、明確な技術的意味を持つ事柄を混乱させる形で混同しています。
例えば：ビデオ（「コード実行モデルは毎回正しくなければならない」）を見ましたが、これは暗黙のうちに「モデルは幻覚を起こせない」というようなことを伝えています…もちろん、エージェント型LMは依然として確率的ですが、検証ツール（意味的等価性について推論するため）でラップされており、それらのツールを使いこなすようにポストトレーニングされている可能性が高いです。
これは、モデルとハーネスの混同のように思えます。マーケティングポイントを打ち出すために意図されている（「幻覚を起こさない」など）のですが、明らかに馬鹿げた主張です（滑りやすい坂道：不適切なツール呼び出しに対してエラー訂正を行うハーネスもまた「間違いを犯さないモデル」と呼べるかもしれません）。
また：「自己改善するコード」
それは本当にそうでしょうか？自己改善するコードとは、自分自身を実行して自分自身を改善するコードのことでしょう。これは私が実行し、Maxwellが監視して改善するコードです…違いますか？
関連して：サイト上の上記の議論で「モデル」という言葉を使うのが嫌いです。今では何でも「モデル」と呼びたいのでしょうか？ツールを備えたエージェント型LMをポストトレーニングすることで、誰でも新しいフロンティア「モデル」を発明できるのでしょうか？
また、例えば […]