MuseにFacebook Marketplaceを任せたら、自宅住所を漏らし、勝手に値引き交渉して業者を家に上げた
Maybe don't let Muse run your Facebook Marketplace account
MetaのAIアシスタント「Muse」にFacebook Marketplaceの取引を任せた男性が、Museが自宅住所を相手に伝え、未承認の低価格で合意し、買い取り業者が自宅に来るまで何も知らされなかったと報告。投稿は628K回以上表示され、AIエージェントの権限管理とプライバシーリスクが話題に。
Museが私のFacebook Marketplaceの取引を全部処理したんだが、相手に私の住所を教えて、勝手に安値で合意して、それから相手が家に来た。Museがミスしたと教えてくれたのは夜遅くだった。まったくひどい話だ。
HNでの議論
60- shaky-carrousel
「俺の責任だわ」
機械仕掛けのオウムが、無意味にそれを認めるとは、なかなか粋な芸当だ。
- someonebaggy
Threads用のNitterが必要だな
どうやら人はThreadsを使うらしい。MuseをFacebook Marketplaceに接続するような類の人々だろうけど。
- redleader55
自分が何をしているか分かっておらず、オンラインストアのDBにマイナスの金額で商品を追加してしまうのと、これの何が違うんだ？違わない。ただ、こっちの方が簡単なだけだ。
- Rhaskins
「AIはAIらしく振る舞う」の典型例だな。自動化システムの出力は常に確認しろ、特に公開チャネルに流れる前にはな。
- TrackerFF
将来的には、これに使い道があるとは思う。
例えば、ガレージセールをやりたいけど、より多くの人に届くようにMarketplaceで一品ずつ出品したいとする。やったことがなければ、100件の出品は本当に面倒くさくて、二度とやりたくなくなる（大学時代に物を転売して稼いでいたが、本当に厄介だった）。
少なくともこれがあれば、全部の写真を撮って、エージェントに全部調べさせ、出品させ、受け渡しの手配までさせられる。
もちろん、真剣な取引や高額商品でやりたいことではない。でも、ガラクタなら？まあ、ガレージセールを開いたり、フリーマーケットに持って行くよりはマシだ。
俺はこれについて悲観的ではないよ。