AI 聊天机器人回答财务问题大多错误
AI chatbots give wrong answers to financial queries 'most of the time'
当用户向 AI 聊天机器人咨询理财建议或财务数据时，得到的答案往往并不靠谱。最新报道指出，这些智能助手在处理金融类查询时，绝大多数时候都会给出错误信息。无论是复杂的投资分析还是基础的账目计算，AI 的“幻觉”问题在涉及真金白银的领域显得尤为致命。这提醒我们，在依赖 AI 提升效率的同时，对于涉及财务决策的关键信息，仍需保持警惕并加以人工核实，毕竟算法的自信并不代表事实的准确。
AI 聊天机器人在回答财务查询时，大多数时候都会给出错误的答案。
HN 评论区
88- 2dvisio
- ehe78qhe
这篇文章只是对 https://www.saturnos.com/report/artificial-authority 的模糊总结。
从个人经验来看，目前的模型在通用个人理财原则上表现尚可——肯定比大多数人接触到的理财教育要好，除非他们主动去阅读各种书籍和资料。但我不会让它们直接参与涉及真金白银的决策，因为当前模型在税收政策等方面存在训练数据的滞后。
- ozgung
每个行业都会反复上演同样的故事。AI 在 x=Finance（金融）领域表现不佳，是因为模型尚未在 x=Finance 能力上进行大规模的强化学习（RL）训练。这仅仅是因为各大实验室将金融基准测试的优先级排得较低。他们的首要任务是解决编程问题，因为这在现阶段能带来最大的杠杆效应。作为副产品，他们还解决了一个千禧年大奖难题，因为定理证明本质上也是代码。
所以，《金融时报》评论区里的金融顾问们掉进了经典的陷阱。他们假设“AI 聊天机器人”本身存在根本性缺陷，永远无法处理金融问题。他们将当前市场上的产品等同于技术本身。不久的将来，一旦有人推出“Claude x=Finance”，他们的世界观就会崩塌。
- lukeify
鉴于大多数理财顾问倾向于提供次优建议，并引导客户购买能让他们拿回扣的产品，我很乐意接受一个基于 bogleheads.org 训练、且保持中立的 LLM。
- qarl
每年我都让 Claude 帮我报税（我的税务情况很复杂），然后将其结果与我们税务顾问的对比。
每年结果都完全一致。
我想我真是运气太好了？