MicrosoftのAIがRust標準ライブラリのメモリ安全バグを発見、安全なコードだけでも未定義動作が起きる
Memory Safety Bugs in Rust Standard Library

MicrosoftのFORGE Labが、AIを活用した脆弱性スキャンシステムHyenasを使い、Rustの標準ライブラリ(stdとcore)に複数のメモリ安全問題を発見した。安全なRustだけで書かれたコードでも未定義動作を引き起こせるケースが含まれる。原因は、panicしないこと、ユーザー提供の実装が正しいこと、基盤システムを信頼するという3つの誤った信頼パターンに分類できる。Rustの安全性保証が広く依存される中での重要な指摘だ。
unsafeなRustの難しいところは、何を信頼できるかを知ることにある。
HNでの議論
120- simonask
Rustが話題になると感情がいつも沸騰しているように見えるので、普段は軽く追っているだけの人向けに言っておきたいのは、今回の発見は何ら異常でもスキャンダラスでもないということだ。
Rustプロジェクト全体では現在、I-unsoundタグ[1]が付いた未解決の問題が178件ある。もちろん、その多くはnightlyコンパイラにしか存在しない問題を記述したものだが、リリース前にバグが見つからないことも実際にある。それがソフトウェアというものだ。
[1]: https://github.com/rust-lang/rust/issues?q=is%3Aissue+state%...
- hingler36
Rust標準ライブラリの一部は妙にRustらしくないとずっと思っていた。例えば、ベクタのインデックスが範囲外の場合にSome(T)を返すのではなくパニックする点だ。もちろん努力して避けるのは簡単だが、最初に学ぶデータ構造の一つが最初からこの挙動をするのはいつも奇妙に感じた。
- Panzerschrek
> しかしRustでは多くの操作がパニックする可能性があり、範囲外インデックスからユーザー提供コードへの呼び出しまで、デフォルトではパニックは巻き戻しを行う
だからRustに巻き戻しがあるのは間違いだと思う。それは安全であるという誤った感覚を与えるが、巻き戻しに対して正しいコードを書くのは非常に難しい。なので、パニックは即座のプロセス終了として扱う方が良いだろう。
- nektro
> パターン2: ユーザー提供の実装が正しいと信頼する
これは https://oxide.computer/blog/iddqd-unsafe の話を思い出させる。
- nektro
> Microsoft SecurityのFrontier Offensive Research & Generative Exploitation Labからのメモ。
- eptcyka
エフェクトシステムがあれば、パニック可能な関数への呼び出しをそのようにマークすることで、コードについて推論するのに役立つかもしれない。いくつかの型をパニック安全でないとマークできるかもしれない?
- ozgrakkurt
panic = abort 以外では絶対に使うな。
非常に信頼性の高い言語の中でも、これほど胡散臭い機能はない。
なぜ誰がパニック処理付きでRustを使うのか、私には理解できない。
そしてもちろん、言語はオペレーティングシステムを信頼している。他にどうやってプログラミングできるというのか?
こういうことが、すべてのプロジェクトがAIの問題をブロックした理由だ。何をしているか分からない人にはそれなりに筋が通って見える、ただのスロップだ。
- gspr
確かに非常に興味深い発見だ。しかし「ユーザー提供コードを信頼する」を例に取ると、これは単に悪意のあるコードが悪意を持って動作しているだけではないか?悪意のある行為がメモリ安全性の欠如を通じて行われること、そして安全なRust(つまり`unsafe`なしのRust)がメモリ安全でない動作を引き起こし得るという大きな落とし穴があることは理解する。しかし、それをしているコードは依然として悪意を持って動作している(異なる時点で異なるスライスを返す`AsRef`実装を持つことによって)。そして悪用されているコード(安全でないインデックスを行うもの)は確かに`unsafe`を持っている。つまりこれは、ユーザーが悪意のある安全なRustと相互作用する安全でないRustを書いているケースだ。
Rustの脅威モデルに悪意のあるコードを扱うことが含まれたことがあるかどうかは分からない。