AI建议让人准确率跌3倍，自信却翻倍
AI advice made people 3x less accurate but 2x confident, researchers found
一项由法国和意大利大学联合开展的研究揭示了一个令人不安的现象：当人们获得AI建议时，承认自己“不知道”的意愿从44%暴跌至3%，准确率从27%降至9%，但自信心却从30%飙升至76%。研究人员故意使用Step 3.5 Flash在电影细节等AI容易出错的问题上测试，发现即使有金钱激励，人们依然倾向于盲目信任错误的AI答案。这种现象被称为“认知投降”，即人类逐渐丧失了对自身知识边界的认知能力。Valerio Capraro警告称，这对正在成长中的儿童尤为危险，因为他们尚未发展出批判性思维，而像Google这样的公司推出的AI搜索功能也倾向于直接给出自信的答案，而非承认未知。
"对人类而言，说出“我不知道”的能力至关重要，因为它代表了我们对自己知识局限性的认知。"
HN 评论区
- 有评论者指出，实验设计存在缺陷，因为对比组未使用具备 RAG 或网络搜索能力的顶级模型，导致结论仅证明了人们倾向于信任聊天界面中措辞优美的文本，而非 AI 本身的特性。
- 一位从业者反驳称，将 LLM 比作有错误的教科书并不恰当，因为用户明知 LLM 会幻觉却依然选择信任，这反映了人类对技术工具的盲目依赖而非单纯的信息源问题。
- 有观点强调，在医疗等复杂领域，患者向 AI 提供的数据远少于医生掌握的背景信息，导致前沿模型在缺乏充分上下文时仍会自信地给出错误答案。
- 部分用户批评社区中充斥着直接粘贴 LLM 生成的未经验证回答的行为，认为这浪费了他人时间，呼吁在寻求建议时明确区分人类经验与 AI 输出。
- 有评论者通过实测发现，虽然 Kimi K2.6 等模型能承认未知，但 ChatGPT 和 Gemini 等主流模型在初始回答错误后，仅通过追问'你确定吗'就能自我纠正，而 GLM 5 Turbo 则无法做到。