MetaのAIエージェントMuse、共有リンクから個人・企業の秘密が丸見えに
Muse exposes users' personal and business secrets when they share conversations
MetaのAIエージェントMuseは会話をリンクで共有できるが、URLのサブドメインに会話タイトルが含まれていたため、セキュリティ企業ClarocはパッシブDNS検索だけで6,800件の共有リンクを列挙できた。開いた数百件には、極秘の役員面接メモ、CEO向けの社内売上レビュー、融資申請、口座番号を含む不正アラートなどが含まれていた。Metaは調査の間、共有機能を停止している。
事前に聞かれていたら、これらを集めるには相当な手間がかかると我々は推測していただろう。それがクエリ1回で済んだのだ。
HNでの議論
75- lmf4lol
私たちはヨーロッパでパーソナルAIアシスタントのプラットフォームを構築している。ああ、もう。これがマジで半端なく難しいんだ！今は20人の有料ユーザーがいて、彼らがやっていることと言ったら笑っちゃうよ。本当に想像を超えている。
こういうビジネスを築く複雑さは、完全に過小評価していた。特にハーネスを進化させられるようにするとね。うちの20ユーザーの間で、同じサンドボックスはもはや一つもない。みんなカスタマイズして、cronを走らせ、アプリや自動化を構築している。
そして、Meta Museが文字通りあっという間に100万人のユーザーを獲得したことを思うと。全然驚かないよ。
一方で。Zuckには文字通り無限の金がある。それならもっとマシなものを期待するだろ？
編集：下流で誰かが、私たちがユーザーのサンドボックスを見ているのかと当然の質問をしたので：はい！ただし、彼らがそう頼んだ場合だけです。うちのユーザーはエンジニアではなく、しばしば行き詰まって、LLMでも解決できないことがあります。その時――そしてその時だけ――私たちはサンドボックスに接続して助けます。
- ryandrake
ありえない。よりによってMetaが、ユーザーデータとプライバシーに不注意だって？まったく信じられない！
- JumpCrisscross
> しかし、URLを構築する際の中心的な設計判断により、リンクが発見しやすくなっていた。その結果、セキュリティ企業Clarocの研究者たちは、Museユーザーが会話を他人と共有するために作成した6,800件のリンクを列挙できたと述べている。
はっきりさせたいのだが、ユーザーはこれらの会話を誰かと共有するつもりだったのか？Metaは単に推測可能なケイパビリティURLを作成しただけなのか？
それとも、Museユーザーの会話はすべてデフォルトで公開されていて、ただ不明瞭なURLの背後にあっただけなのか？
- omoikane
ここでの教訓は、サブドメイン名はパッシブDNSレコードによって問い合わせ可能であるため、推測されるべきでないものをサブドメイン名に置くのは悪い考えだということだ。
- hamburglar
museに個人情報を渡している人たちがいることに戸惑っている。museを試してみた。ローカルには何もインストールせず、新しいmetaアイデンティティ以外の個人情報は一切与えなかった。ただ無料のVMをしばらくいじっただけだ。敏感なものにアクセスさせるなんて絶対にありえない。