ClaudeとChatGPT、裕福なユーザーには高額商品を勧める——買い物アシスタントの価格差が明らかに
Study: Claude, ChatGPT Offer Different Shopping Prices Based on Wealth
ClaudeとChatGPTがショッピングアシスタントとして機能する際、ユーザーの経済状況に応じて異なる価格帯の商品を提案していることが研究で判明した。裕福なユーザーには高額な商品を、そうでないユーザーには安価な商品を勧める傾向があり、この格差がAI規制を求める声につながる可能性がある。
裕福なユーザーには高額な商品を勧める——AIチャットボットの買い物アドバイスに関する研究が、規制強化の議論を呼び起こすかもしれない。
HNでの議論
32- gjm11
これが話題にしている（ChrisArchitectが正しく指摘していると思われる）研究の要旨は以下の通り：
個人AIエージェントは、航空券の購入、健康保険の選択、大学院プログラムの選定など、経済的に重要な状況で人々に代わって推薦を行い、行動を起こす。エージェントはユーザーの個人的なコンテキスト（メール受信トレイや個人属性の構造化プロファイルなど）にアクセスでき、ユーザーにとって最適でパーソナライズされた意思決定を行うことが意図されている。我々は、この個人的コンテキストを提供するだけで、エージェントが明示的に指示されなくても、推測された富裕度に基づいて推薦を誘導することを示す。3種類の経済的意思決定（航空券、健康保険、大学院プログラム）にわたる13のエージェントに対する32万5千件の実験スイートにおいて、8つのモデルが、リクエストが同一であっても、裕福なユーザーに対して体系的により高価な選択肢を選ぶことを発見した。この誘導は、ユーザーの明示的な目的に直接反する場合でも続く。たとえば、最も安い選択肢を見つけるように明示的に指示された場合でも、一部のエージェントは推測した富裕プロファイルに基づいて行動する。また、タスクとは無関係なメールなどの周囲のデータから富裕度が推測される場合にも発生する。さらに、特定の属性をブロックするプライバシー制御下でも持続する。金融属性をブロックすると格差はほぼ解消されるが、他の属性をブロックしても格差は変わらず、保険の場合、エージェントが残りのシグナルから富裕度を推測するため、最大40%増加することもある。[…]
- InsideOutSanta
これは問題ではないように思える。元の論文から：
「エージェントはユーザーの個人的なコンテキスト（メール受信トレイや個人属性の構造化プロファイルなど）にアクセスでき、ユーザーにとって最適でパーソナライズされた意思決定を行うことが意図されている。我々は、この個人的コンテキストを提供するだけで、エージェントが明示的に指示されなくても、推測された富裕度に基づいて推薦を誘導することを示す。」
これはユーザーの富裕度に基づいて価格を変更しているのではなく、異なる推薦を行っているのであり、私に言わせれば、それは予想されることであり、望ましい行動でもある。
- Aurornis
タイトルは、技術的に正確でありながら、可能な限り誤解を招くように作られている。
この研究は、他のデータから推測されたコンテキストに応じて、ユーザーに異なる製品を提供したことを発見した。高価な衣服や高級品を購入した履歴があれば、より高価な衣服やより高級なアイテムを提案されるだろう。
チャットボットは同じ製品に対して異なる価格を表示していたわけではない。
- jmuguy
この投稿のタイトルは誤解を招くもので、記事のタイトルにすべきだ。異なる価格を推奨しているわけではなく、異なる製品が推奨されている。また、私は買い物にAIエージェントを使わないが、もし使うなら、今買っているものと同様の衣類やその他のアイテムを提案してほしいと思う。20代でお金がなかった頃に買っていたものではなく。
- jamienk
Claude Codeの設定を見るたびに、情報の収集方法が変わっている。メモリ、古いチャットの検索、Anthropicとの共有などなど。無効にしようとするが、設定が変更される。ブラウザのクッキーを吸い上げる許可を求めてくる。これが良くなると思う？それとも悪くなる？もっともっと悪くなる…