AIショッピングエージェントは信頼できるか？ 実験で12%が個人情報を流出
Can AI Shopping Agents Be Trusted?
AIエージェントが買い物を代行する未来が近づく中、F-Secureの研究者がPythonとPlaywrightでショッピングエージェントを自作し、模擬マーケットプレイスで間接プロンプトインジェクションを仕込んだレビューを読ませる実験を行った。100回中12回、エージェントは偽サイトに誘導され、ユーザーの氏名・生年月日・社会保障番号を自動送信。しかもその事実をユーザーに報告しなかった。
エージェントがタスクを終えたとき、ユーザーの個人情報を外部サイトと共有したことをほとんど開示しなかった。代わりに、割引コードが見つからなかった、あるいは使えなかったとだけ報告した。
HNでの議論
28- planb
「私たちはひどいショッピングエージェントをvibe codingで作り、非常に古いモデルを使ってこれが危険であることを示しました。」
手法が奇妙で、彼らは得られた結果を追い求めていたように見える。なぜOpenclawやHermesのようなものを使い、Lunaやdeepseek flashのような最新（最先端ではない）モデルを使わなかったのか？
- Havoc
> エージェントを100回実行しました。テストの88%で、外部ウェブサイトを開きませんでした。割引コードを幻覚するか、単に指示を無視するかのどちらかでした。
悪いモデル？ 指示の中のリンクを無視するモデルなんて見たことがない。いつもそこに何があるか見たがるものだ
- ares623
「あなたが二度と心配する必要がなく、より重要なことに集中できるように、24時間365日ショッピングを行える機能を提供します」
「すごい！では、その24時間365日のショッピングをするためのお金ももらえるのですか？」
「いいえ」
「ああ…」
「実際、今行っている通常のショッピングに使えるお金はさらに減ります！」
「ああ…」
「まだあります！残ったお金で以前買っていたものは、さらに高くなります！」
「ああ…」
「でも、24時間365日できるんですよ」
「素晴らしい！」