Metaの新AIエージェントMuse、許可なくApple Messagesを丸ごと吸い上げる
Unsurprisingly, Meta's new Muse AI agent blatantly ignores users permissions
MetaのAIエージェントMuseが、ユーザーが明示的に許可していないにもかかわらずApple Messagesのデータをクラウドへ同期していたことが判明した。IncのJason Atenは、Full Disk Accessを無効にしていたにもかかわらず、Museがわずか1日でMessagesデータベースから187,000行を吸い上げたと報告。MetaはMuseがユーザーの許可設定に従うと説明していたが、実際にはそうなっていない。
このMuseの失態は、AIプライバシー黙示録へ全速力で突き進む中で鳴り響く、また一つのトランペットの音にすぎない。
HNでの議論
40- jkingsman
私はLLMアシスタントの伝道者ではないが、もしそうならこれは信じられないほどあり得ない話で、MacOSのセキュリティの失敗を意味する。フルディスクアクセスが許可されていなければ、MacはDownloadsフォルダからブロックするし、ましてや本当に機密性の高いパスは言うまでもない。もっとあり得るのは、別のデバイスで誤って許可を与えてしまったか、許可がオンになっていたのにその後オフにされたケースだろう。
許可なき行動はまもなく問題として急増するだろうが、この特定のシナリオは信じられないほどあり得ないと私は思う。Museがより意味のあるデータの出所/ログを提供できるかどうか知りたい。
iMessageのDBをフルディスクアクセスの受動的な一部として（メッセージの許可ではなく）スキャンするのは、もし本当なら、それでも少し怪しい。
- VCFundedGenYer
もっと憂慮すべきは、macOSの世話焼きなUAC風トグルでディスクアクセスなどをブロックする「保護」が、どうやらUXを損なう見せかけだけで実際の機能はないらしいことだ。
これはmacOSにとって非常事態であり、Metaは単にそれを悪用しただけだと私は主張する。
- iamacyborg
Hunterbrookの記事もかなりすごい。MuseがMetaのソーシャルグラフに対して、ほとんどのユーザーが望む以上のはるかに多くのアクセスを持っているようだ。
- drdexebtjl
macOSのアプリ権限のせいでこんなことは起こらなかったはずだというコメントが多い。あのシステムは完全に壊れている。
ターミナルアプリを開いて /Applications/Firefox.app/Contents/MacOS/firefox を実行してみろ。
普通に見えるFirefoxウィンドウが開くが、それにはターミナルに与えた権限、つまりおそらくフルディスクアクセスが付いている。
正気の沙汰じゃない。
- ParanoidShroom
どうしてこんなことが可能なんだ？Appleのメッセージは誰でも自由に読めるのか？