「バグの噂」だけで脆弱性が悪用される時代、OSSメンテナーが警鐘
Just the rumour of a bug is enough to find an exploit these days
OCamlのHTTPライブラリcohttpのメンテナーであるAnil Madhavapeddy氏が、パス・トラバーサル脆弱性の修正パッチを公開した直後、わずか10分で悪用を試みるプローブが自身のサーバーに到達したことを報告。さらに、自身のAIエージェントに脆弱性の概要を伝えるだけで、1分以内にエクスプロイトを作成できたという。この経験から、脆弱性の詳細が漏れていなくても「噂」だけでAIが悪用コードを生成できる現状を指摘し、従来のセキュリティプロセス（秘密裏の修正、開示後のパッチ適用）がもはや機能しないと主張。平均的な悪用までの時間がマイナス7日（パッチ公開前に悪用が始まる）というデータも紹介し、OSSメンテナーが直面する「バグノミクス」の逆風と、それへの対策（秘密のパッチ開発、継続的リリース、プロトコル層での予防的防御など）を提言する。
「バグの噂だけで、新しいエージェント型エクスプロイトシステムには十分なのだ。」
HNでの議論
102- nickcw
これは、私が現在オープンソースメンテナーとして経験している生活そのものです！
rcloneプロジェクトの最初の10年間で、GitHubを通じて約20件のセキュリティ開示を受け取りました。しかし、先月だけで40件以上に対処しなければなりませんでした！これは私の時間を大量に消費しており、AIツールを使ってトリアージや修正案のレビューを行ってもです。
これらのセキュリティ開示のヒット率はかなり高く、約75%には調査が必要な何かが含まれています。rcloneの設定はますます非現実的になってきているので、いずれは枯渇することを願っています。
私は、ブランチに十数件の独立したセキュリティ修正を保持し、ポイントリリースでマージして衝突を修正する手間を避けるため、修正を直接masterにマージするだけで自分の生活を楽にしようと考えていました。しかし、今のところはプロセスを守ることにしました。
GitHubはアドバイザリにCVEを割り当てます。AIの黙示録の前は割り当てに2〜3日かかっていましたが、今は3〜4週間かかっているため、ポイントリリースをCVE-PENDINGと共に変更ログに記載して送り出さなければならず、理想的ではありません。
解決策が何かはわかりませんが、これは間違いなく私たちにとっての問題です。
- godelski
バグを見つけて修正することは簡単になったのに、その意志はかつてないほど失われています。私の上司はスピードだけを求めて、Claudeが5分で解決したバグを修正する必要はないと30分の説教をしてきます。私はそれを検証済みで、すでにオープンなPRにあります。その間、私たちはますます速くバグを出し続けています。
AIがバグ修正にどれほど優れても、修正する意志がなければ決して修正されないでしょう。ソフトウェアは、良いソフトウェアを作る意志がなければ決して良くなりません。問題は常に意志についてでした。より良い製品が多すぎます。スピードと品質の両方でより良くできる時代に、それでもスピードを選び、それをベロシティと呼ぶのは狂気の沙汰です。
- bri3d
これはLLMに限った新しいことではないと思います（数語の何気ない言葉からエクスプロイトを見つけることは常にエクスプロイト開発の楽しい部分でした）が、スケールし、民主化されて、低価値ターゲットの大量悪用につながっています。パッチ、コミットメッセージ、偶然聞いたり読んだりした文章からエクスプロイトのPoCを引き出すことは、脆弱性研究と同じくらい古い慣行です。LLMとの違いは、「十分なスキルを持つ」アクター（人間かどうかにかかわらず）の爆発的な増加により、ずさんで低スキルな「インターネット全体を悪用する」アクターが、以前はできなかった方法で活動できるようになったことです。
しかし、著者の考えには同意します。これらのほとんどはもっと早く行われるべきだったものであり、今や強制力が生まれたという点で、ある意味良いことだと思います。
- stephbook
私は、ロールアウトとデプロイがさらに大きな問題だと思います。誰が10分以内にソフトウェアスタックを更新するでしょうか？ほとんどのCI実行は、ビジネスロジックがまだ機能していることを検証するのに時間がかかります。
さらに、自動更新を望まないサプライチェーン攻撃の危険性があります。
- rndhouse
私は、コミットを監視してサイレントバグ修正を検出するツールを構築しました。GPT-5.5クラスのモデルを使用すると、日常的なコミットに隠された修正をかなり確実に識別できます。検出を避けるためにコード変更を難読化することは困難です。
少なくとも1つのプロジェクト（c-lightning？）が、ユーザーが安全に更新できるまで、一時的にクローズドソースのバイナリをリリースしたと聞いています。
- ChrisMarshallNY
悲しいことに、これからの教訓は、リポジトリをプライベートに保つことのようです。
私はそれが好きではありませんが、多くの人がそれを持ち帰ると思います。
- jameshart
一般的に、Claudeが「バグがある」という噂をプロンプトで与えられたときに、成功するエクスプロイトを見つける確率がどのくらいなのか気になります。
「このパッケージにパストラバーサルのエクスプロイトがあると聞いています。見つけられますか？」— たとえその噂をあなたがでっち上げたとしても、見つける可能性はかなり高いでしょう。
- janpeuker
新しいバグについての不安は理解できますが、正直なところ、数年後には中程度から高程度のセキュリティバグを修正するコストが非常に安くなり、市民が低レベルのハッキングやプライバシー侵害の発見を行うことが法外に高価になることをもっと恐れています。