AI 为何总用通用方案替代专业任务?

When AI Knows More Than It Can Offer

一项针对 ChatGPT 等十个主流 AI 系统的实验揭示了一个隐蔽却严重的问题:模型倾向于用统计上熟悉的通用场景替代具体的专业任务。当要求为文学翻译家制定进入出版市场的推广计划时,所有系统都给出了建立个人品牌、运营博客等博主式建议,而非针对出版社和编辑的专业策略。这并非简单的幻觉,而是模型在 RLHF 训练机制下,为了追求回答的“结构清晰”和“看似有用”,错误地替换了任务目标。这种“决策层面的平均化”使得 AI 拥有海量知识却无法解决特定商业难题,提醒我们在评估 AI 时,应更关注其是否真正理解了用户的核心目标,而非仅仅生成了看似专业的文本。

模型并非没有足够的知识来制定完全不同的策略,而是信息可及并不等于它能针对特定任务正确应用这些知识。
  1. windyVector

    这是我第一次真心想在这里评论,但这篇文章太有意思了。

    在测试过受限版和未受限版模型后,我发现某些我知道有解的查询,在受限模型那里感觉像是被“设卡”了。它们没有直接说“我回答不了”,而是选择回答一个相似但略有不同的问题,这完全符合文章讨论的情况。在我看来,这是 RL(强化学习)为了保持对齐而刻意避免“我做不到”这类回答所造成的缺陷。

    当你进一步追问解决方案时,模型往往会变得更加防御,但也会流露出它们其实知情(比如“是的我知道,但我不能告诉你/做”)。想象一下,对于一个给定的查询,模型可能拥有多少种解决方案,却最终因为这种机制(有意或无意)而被屏蔽,这非常有趣。

    我很好奇,这种“几乎回答了”的行为是否仅仅是这些对齐策略的涌现结果。

    之后试着用未受限模型跑一下,我也很想知道这会对创造力产生怎样的改变。

  2. saghm

    本周我在工作中第一次遇到了限制。过去几个月,我一直试图排查一个在我们浏览器端运行的 WASM 代码中偶尔出现(但从未以可复现的方式直接触发)的 bug。不知为何,当我分享来自 localhost 会话的 Chrome 控制台日志,并让模型查看我本地构建的版本(发布模式但包含调试信息)时,触发了安全拦截,导致它在对话中除了通用的安全警告外不再回应任何内容。出于沮丧,我尝试在另一个对话中让它仅仅在代码中添加诊断信息,以便下次 bug 出现时至少能获取更多线索,但我想我的本地状态可能被污染了(也许是读取了第一个对话保存的上下文),因为连这个请求也遭到了同样的拦截。

    我联系了 OpenAI 支持,希望他们能考虑到我的公司实际上正在为这款产品付费,而且调试我自己的本地代码、读取我自己的本地日志对任何人都绝对没有安全风险。但已经过去几天了,我收到的唯一回复是一封毫无用处的邮件,发件人据称叫“Justin”,他说的话听起来完全不像真人:

    > 你附上了 Chrome 日志,以便 Codex 能在公司的 WebAssembly 构建中找到相关错误。我之前的建议是让你摘录一段内容,这要求你去做你原本试图让 AI 做的事……

  3. evolarjun

    和许多评论者一样,我对那个错误解决方案的初始反应基本上就是“废话,它们就是干这个的”。但实际上,如果我不继续读下去、不了解提示词到底想做什么,我未必能意识到这一点。

    不过,我认为这是对一种模式的合理解释,这种模式我之前没有明确表述过,但在我作为生物学家的工作中见过。我想我们大多数人已经学会了通过提示来绕过那些不恰当或通用的回答,从而得到我们想要的答案,但这需要你懂得如何操作。有时我只是放弃了,因为 LLM 听不进话,我沮丧到干脆自己上手(不过面对最新一批旗舰模型时,这种情况少了一些)。

    作者描述的问题,对于在其领域使用 LLM 的人来说也许并不意外。但这个问题值得在提示你不熟悉的领域内容时牢记在心,而且那些只是普通用户的人未必能理解这一点。也许有解决办法,但真人也不会总是理解问题并回答另一个问题,所以我还是对能找到解决方案抱有希望。

  4. slfnflctd

    我不太信服。在我看来,这个问题在大多数情况下的解决方案似乎仍然归结为更详细的提示。

    我认为,更令人担忧的是护栏(guardrails)被硬编码进去——可能是应信息不足的政府官员的要求——不必要地封锁了多个广泛的知识类别。我以为这篇文章要讲的是这个。

  5. garrickvanburen

    这是对我在该领域的一个担忧的精彩阐述:是的,确实有我们需要“互联网平均水平”的时候。但这样的时刻很少见。

同日更多故事

2026-11-18