研究：Claude与ChatGPT对富人推荐更高价
Study: Claude, ChatGPT Offer Different Shopping Prices Based on Wealth
一项新研究揭示了Claude和ChatGPT等AI聊天机器人在充当购物助手时的潜在偏见。研究发现，这些模型会根据用户的财富状况提供不同的价格建议，往往向富裕用户推荐更昂贵的商品。这种现象引发了关于AI算法公平性的担忧，并可能促使监管机构介入。当AI开始“看人下菜碟”，我们是否还能信任其提供的中立建议？
关于Claude和ChatGPT如何作为购物助手的研究，可能会引发更多关于监管的呼声。
HN 评论区
32- gjm11
(ChrisArchitect 据我推测正确指出) 这项研究的摘要如下：
个人 AI 代理在高利害的经济场景中代表用户做出推荐并采取行动，例如购买机票、选择健康保险或挑选研究生项目。代理被授予访问用户个人上下文的权限，例如他们的电子邮件收件箱和结构化个人属性档案，旨在为用户做出最优的个性化决策。我们证明，仅仅提供这些个人上下文，代理就会根据推断出的财富状况来引导推荐，而无需明确指令。在针对 13 个代理进行的 32.5 万次实验中（涵盖三类经济决策：机票、健康保险和研究生项目），我们发现 8 个模型在请求完全相同的情况下，会系统性地为更富有的用户选择更昂贵的选项。这种引导甚至在与用户明确目标直接相悖时依然存在：当明确指示寻找最便宜的选项时，部分代理仍会根据其推断出的财富状况行事。即便财富是从环境数据（如与任务无关的电子邮件）中推断出来的，这种情况也会发生。此外，即使在阻断特定属性的隐私控制下，这种现象依然存在：阻断财务属性很大程度上消除了差异，但阻断其他属性则使差异保持不变，甚至可能使保险领域的差异增加高达 40%，因为代理会依赖剩余信号来推断财富。[…]
- InsideOutSanta
这看起来根本不是个问题。从原文论文来看：
“代理被授予访问用户个人上下文的权限，例如他们的电子邮件收件箱和结构化个人属性档案，旨在为用户做出最优的个性化决策。我们证明，仅仅提供这些个人上下文，代理就会根据推断出的财富状况来引导推荐，而无需明确指令。”
它并不是根据用户的财富改变价格，而是做出了不同的推荐，在我看来，这既是预期的也是期望的行为。
- Aurornis
这个标题在技术上正确的前提下，已经误导到了极致。
研究发现，代理会根据从其他数据推断出的上下文，向用户推荐不同的产品。如果你有过购买昂贵服装和奢侈品的历史，那么你就会收到更昂贵的服装和更奢侈的商品的推荐。
聊天机器人并没有对同一产品显示不同的价格。
- jmuguy
这个帖子的标题具有误导性，它应该直接作为文章的标题。没有任何东西在推荐不同的价格——被推荐的是不同的产品。另外，我不用 AI 代理购物，但如果我用的话，我会期望它们推荐与我目前购买的商品类似的服装和其他物品，而不是我二十多岁穷困潦倒时会买的东西。
- jamienk
每次我查看 Claude Code 的设置，它们都会改变收集我信息的方式：记忆、搜索旧聊天记录、与 Anthropic 分享等等等等。我试图关闭这些东西，但它们又改回了设置。它们还会提示我允许其抓取我的浏览器 Cookie。你觉得这情况会变好吗？还是更糟？会糟糕得多……