Copilot for Word を介した AI ワームの自己複製と文書感染
Document-borne AI worms can self-propagate through Copilot for Word
Microsoft Copilot for Word において、外部文書に埋め込まれた悪意ある指示が、生成された文書へ複製され、新たなキャリアとして機能する AI ワームの存在を報告します。この攻撃は、信頼された文書ワークフローを通じて自己増殖し、Microsoft の現在の対策でも完全な防御が困難な状態です。
「攻撃者は、被害者の Microsoft 365 テナントへのアクセスを必要とせず、単に悪意ある文書を共有するだけで攻撃を開始できます。
HNでの議論
298- rwmj
> "At the time of publication, no robust mitigation for the broader vulnerability class is available"
これ、もう明らかじゃないですか？少なくとも指示とデータを混同するのをやめるまでは、この手の問題は決して修正できないでしょう。
- boothby
これは良くなる前に、もっともっと悪化します。人々はエージェントにあまりにも多くのアクセス権を与えすぎていて、あり得ません。
人気のある GitHub リポジトリに投稿されたコメントを想像してください。コードはなく、「バグを再現する」という指示だけです。それがあなたのクレジットカードや Bitcoin ウォレットを盗むかもしれません。あるいはもっと悪意のあることをするかもしれません。そして、それはあなたの GitHub アカウントを通じて別のリポジトリへと拡散されていきます。
- simonw
> Malicious instructions hidden in an externally shared document could make Copilot alter drafted or edited documents in Word and propagate the attack to new documents.
おや、まずい。
- averagjoe
私はプログラマーであり、Web ベースの AI ユーザーですが、AI をローカルマシン上で実行する形は全く望んでいません。この記事で説明されている理由のために、Copilot をアンインストールし、ブラウザ自体を含むすべてのローカルアプリケーションで AI を無効化しました。設計上、このような AI の混乱攻撃からデータを保護する方法はありません。AI はプロンプトとファイル内のテキストを区別できません。AI 対応のワードプロセッサやメールアプリが、ありふれたドキュメントやメールに埋め込まれた指示に従うなんて、あり得ません。この問題に対する唯一の真の解決策は、Linux や BSD、あるいは他のオープンソースオペレーティングシステムに切り替えることです。
- piker
白文字は未だに機能します！
今日では多くの手法があります。https://tritium.legal/blog/noroboto をご覧ください。ここでは、ドキュメント内のフォントが表示するものとは異なる Unicode 値を Frontier アルゴリズムに読み込ませるトリックを披露しています。