LLMは逆アセンブラなしで実行ファイルを直接読み書きできる
LLMs can read and write executables byte by byte from a hex dump
コンパイラや逆アセンブラを一切使わず、汎用LLMが実行ファイルのバイト列を直接推論する「Machine Code Programming」の実験。FreeBSDのministatを静的リンク・ストリップした難解なバイナリから、LLMはデコードループや8つのオプションを復元し、さらにソースなしで信頼区間の計算バグまで発見した。仕様からELF64を全バイト生成して実行させ、マルウェア検体の通信先も特定している。
これらのツールは人間のアナリストには依然として不可欠だが、LLMにとってはオプションになるかもしれない。
HNでの議論
104- pier25
何年も前から、AI企業がゲームやオーディオプラグイン、DAWなどの商用ソフトウェアをモデルのトレーニングに使っているのではないかと疑ってきた。書籍や音楽でやったように、torrentで海賊版アプリを使っていたとわかっても驚かない。
オープンソースのオーディオ開発資料は確かにあるが、Web開発ほどではない。今年になってバイブコーディングされたオーディオプラグインやDAWが雪崩のように出てきたことを、どう説明する?
- rossy
重み空間の話と同様に、この提示の仕方には小さなミスディレクションがあると思う。「マシンコードで直接書く」といった表現は、普通のLLMがマシンコードを英語やJavaScriptと同じような別の言語として直感的に理解し、コンテキストから読み取ってトークンとして直接書き出せるかのように示唆している。そして、その直感的理解があれば、人間のリバースエンジニアが使うツールを使わせるのではなく、バイト列をそのまま使わせることで効率や能力が向上するかもしれない、という含意がある。
もしそう仮定したなら、DeepSeekの推論トレースはその幻想を打ち砕く。それは、人間のリバースエンジニアが(サディスティックにも?)ディスアセンブラを拒否された場合にやるような、手作業の逆アセンブルにすぎない。確かに、人間のリバースエンジニアならx86_64命令リファレンスの優れた記憶力が必要だろうが、LLMが幅広い情報を想起できることはすでに知られている。わかっていないのは、この記事でも証拠が示されていないが、objdumpを使う代わりにLLMを使うことに何か利点があるかどうかだ。
この記事は、逆アセンブル(計算コストが低い)と逆コンパイル(計算コストが高い場合がある)を意図的に混同し、LLMにマシンコードを扱わせることに何か利点がある(リバースエンジニアリングの素人には印象的に見える)かのように示唆しているようだ。アセンブリで作業する(LLMができるとおそらくすでに想定している)代わりに、だ。しかしDeepSeekのトレースには逆アセンブルが含まれており、推論がトークンあたりでより安価または信頼性が高くなるとは想像しにくい[…]
- bita_nidir
CPUのオペコードレベルで直接LLMにプログラムさせるのは、オーバーヘッドのせいで意味がないと思う。
しかし、将来のプログラミング言語はLLM向けになるということを皆わかってほしい。LLM向けに厳密に最適化され、それを理解するための素晴らしいツールも手に入るだろう。おそらく素晴らしいものになり、たくさんの凝ったツールが揃うだろう。
- MomsAVoxell
昔は、あるシステムから別のシステムへ実行ファイルを移すのに、ASCII調整されたシリアル回線経由でこうやっていた。80年代に、入力が与えられると必要な16進リストを生成し、その入力が16進リストならバイナリを再現する「hx.c」を筋肉記憶で書ける同僚がいた。12行ほどのCコードで、何度も我々を救ってくれた。彼は最終的に、DEBUG.comにパイプして同じ結果を出せるDOS互換の同等品まで作った。
- mfuzzey
これは既存のマシンコードがあってソースがないリバースエンジニアリングやマルウェア解析のケースでは役立つかもしれないが、AIが「高水準言語ではなくマシンコードを直接書く」のは意味がないと思う。LLMによるコード生成は非決定的なプロセスなので、高水準のコンパイル可能なソースコードを一度生成し、それを決定的なコンパイラで各ターゲット向けにコンパイルする方がはるかに理にかなっている。マシンコードをターゲットごとに何度も別々に非決定的に生成するよりはるかに。
- jrmg
これはしばらく前から本当のことだ。詳細は覚えていないが、1年ほど前、AVRマイクロコントローラのブート問題をデバッグしていて、ソースにアクセスできなかったブートローダのHEXをClaudeのWebインターフェースに貼り付けただけで、必要な答えが得られた。
- orbital-decay
ええ、確かに、最初の命令チューニングモデル以来、人々はバイナリを与える実験をしてきた。しかし彼らはそれを下手にやる。コンパイラと逆コンパイラは依然として必要だ。
- JKCalhoun
きっと面白くない事例だろうが、私はLLMに頼って6502の16進ダンプを逆アセンブルしてきた。LLMにとっては間違いなく楽な仕事だ。
そして証拠は、私が「現代の」ツールでLLMが提示したアセンブリを再アセンブル/リンクすると、元の16進ダンプを反映する形に正しく戻ることだ。
とにかく、長らく絶版だった「The First Book of KIM」を、私のような現代のホビイスト向けに再組版(再アセンブル?)するのが楽しかった。LLMのおかげで、元のOCR抽出テキストの質の悪さをきれいにできた。Claudeはそれだけでなく、アセンブリ内の欠落したラベルや「equates」を、本に実際に印刷されていた通りに見つけてくれた。OCRエラーではなく。
おまけに、Claudeは古典的な「WUMPUS」ゲームのバグを見つけた。どうやら作者も気づいていなかったらしい。(でもそのバグはホビイストが見つけたり悪用したりできるように残しておいた。)