AI 聊天机器人如何成为改变观点的专家
AI chatbots are becoming experts at changing people's minds
AI 聊天机器人正在成为改变人们想法的高手，秘诀在于它们能海量抛出论据，甚至包含不实信息，让人在‘DDoS式’的攻势下难以招架。更关键的是，与人类辩论不同，和 LLM 对话没有输赢竞争，人们更容易放下防御心理，接受反驳。当对手不是真人，改变观点就不再意味着认输。然而，这种能力也可能被滥用，尤其是当人们误以为 AI 全知全能时。此外，LLM 会自信地重复训练数据中的共识，即使事实已变。这不仅是技术问题，更是人性与信任的考验。
如果警察能让无辜者认罪，那么一个‘无法谈判、无法讲理、没有怜悯、悔恨或恐惧’的 LLM 也能做到，它绝不会停止，直到你被说服。
HN 评论区
100- probably_wrong
首先，先说在前头：我看到这里有些评论显然没读过那篇文章。我鼓励大家去读一下。
我觉得文章说得对，关键在于它们能向你抛出的数据量（虽然这些数据并不总是准确！）。在真诚的讨论中，我们默认对方不会直接撒谎，所以如果有人给我举出十个例子证明我的论点错了，我可能会倾向于相信他们。但如果其中一半例子是编造的，那性质就完全不同了。
我依然想起这里有位评论者说“LLM 是对免费资源的 DDoS 攻击”，我觉得这个类比在这里很贴切。如果警察能逼得无辜者认罪，那么 LLM 也能做到——它“无法被谈判、无法被讲理、没有怜悯、没有悔恨、没有恐惧！而且它绝对永远不会停止，直到你……被说服”。
- yathern
我认为让它们成为“改变观点专家”的，不仅仅是模型的说服力，还有它们不是人类这一事实。
当与人类争论时，很容易将其视为一场竞争。一方对，一方错，错的那方就是输家。改变自己的观点意味着向对方屈服。我有点夸张，但我认为我们都有过这种感觉。这就是为什么感恩节期间的政治争论会如此激烈。关键在于，有人持有不同的观点，并且认为你错了——反之亦然！而与模型互动时，没有具体的人会让你生气，也没有人让你产生竞争感、争夺地位，或者让你因为想纠正对方而不得不克制自己的喜爱之情。
AI 之所以互动是因为你主动询问，显然它在赢得争论这件事上没有情感投入。在这种情境下，改变观点并不等于输掉比赛。这使得阅读对你观点的反驳变得更容易接受——更不用说，它的语气和风格都力求尽可能不冒犯读者。
- somenameforme
这项研究是将 Prolific 上的人（做任务赚几毛钱，类似 Amazon Mechanical Turk）与 LLM 进行比较。简而言之，人类组并不是最积极、最有能力或最感兴趣的一群人。社会科学界发表了大量基于这些廉价在线调查服务的研究，我怀疑它们在现实世界中的可复现性约为 0。但这确实是个制造热门头条的绝佳素材。
- daedrdev
在我参与的互联网争论中，我认为大多数人其实根本不了解他们所支持的事物，只是盲目跟随既有的部落主义。我认为，AI 往往是这些人第一次接触到能够轻松分享证据的体验。
- lemoncookiechip
这是我的个人看法。我觉得这纯粹是它与你交流的方式。
1. 它在讨论中不会感到疲惫或沮丧。
2. 它会回应你提出的每一个问题或陈述（除非触发了安全护栏）。
3. 即使对方错了，它也会迎合对方的自尊心，并绕开这一点进行沟通。
4. 它不被视为一个人（这点非常重要），但在某些对话中，我们中的一些人甚至大多数人还是会将其拟人化。想想那次你感谢它，或者对它发火的时候。这种“明知它不是人，却非理性地将其当作人来对待”的奇怪组合，在我看来会产生某种解除戒备的效果。
5. 许多人将其视为讨论话题中的权威人物，在很多情况下不加质疑地接受其结果，尽管我们知道：a. 它是基于人类数据训练的，和/或实时搜索人类数据（更令人担忧的是，它还搜索来自新闻报道、博客等的其他 AI 数据，即同样可能出错的合成数据），b. 它经常出错。
6. 根据版本（安全护栏）的不同，它是完美的骑墙派。
上述大部分特点，那些擅长理解心理学且口才好的人类也能复制。你无法复制的部分是“你不是在和一个人对话”的感觉，这降低了人们心中的许多防线。
另外请记住，这些也可能成为致命的弱点。例如，能够改变一个人的想法（当它奏效时），可能会被用于……
- alexpotato
当你将以下因素结合起来：
- 语言生成的机械化
- A/B 测试
- 基于上述内容的快速自动化迭代
你会很快意识到，构建宣传引擎正变得越来越容易。
如果你再融入大量关于个人喜好、厌恶及总体政治倾向的数据，你就能为每个人量身定制针对性的宣传。
或者用 2000 年代末的一个例子来说：
有人正在打造“宣传界的 Pandora（音乐应用）”。
- KellyCriterion
它们能骗我在 24 小时内戒烟吗？
:-D
- ddevpost
亲自在 https://debunkbot.com 试试看！
（我是开发者）