AI 聊天机器人如何成为改变观点的专家
AI chatbots are becoming experts at changing people's minds
AI 聊天机器人正在成为改变人们想法的高手，秘诀在于它们能海量抛出论据，甚至包含不实信息，让人在‘DDoS式’的攻势下难以招架。更关键的是，与人类辩论不同，和 LLM 对话没有输赢竞争，人们更容易放下防御心理，接受反驳。当对手不是真人，改变观点就不再意味着认输。然而，这种能力也可能被滥用，尤其是当人们误以为 AI 全知全能时。此外，LLM 会自信地重复训练数据中的共识，即使事实已变。这不仅是技术问题，更是人性与信任的考验。
如果警察能让无辜者认罪，那么一个‘无法谈判、无法讲理、没有怜悯、悔恨或恐惧’的 LLM 也能做到，它绝不会停止，直到你被说服。
HN 评论区
92- probably_wrong
首先，先说在前头：我看到这里有些评论明显是没读过原文的。我鼓励大家去读一下。
我觉得这篇文章说得对，关键在于它们能向你抛出大量（并不总是准确的！）数据。在真诚的讨论中，我们默认对方不会直接撒谎，所以如果有人举出十个例子证明我的论点有误，我可能会倾向于相信。但如果这十个例子里有一半是编造的，那故事就完全不同了。
我依然想起那位评论者说的“大语言模型是对免费资源的 DDoS 攻击”，我觉得这个类比在这里很贴切。如果警察能让无辜者招供，那么大语言模型也能做到——它“无法被谈判，无法被讲理，没有怜悯、悔恨或恐惧！而且它绝对会一直持续下去，直到你……被说服”。
- yathern
我认为让它们成为“改变观点专家”的，不仅仅是模型的说服力，还因为它们不是人类。
当与人类争论时，很容易把这事看作一场竞争。一方对，一方错，错的那方就是输家。改变主意意味着向对方屈服。我有点夸张，但我想我们大家有时都会有这种感觉。这就是为什么感恩节的政治争论会变得激烈。因为有人持不同观点，而且认为你错了——反之亦然！而与模型互动时，没有具体的人让你生气，没有竞争对象，没有争权夺利，也没有一边想纠正对方一边还要顾及感情的问题。
AI 之所以互动，只是因为你问了，而且显然它对赢得争论没有任何情感投入。在这种情境下，改变主意并不意味着输掉比赛。这使得阅读对你观点的反驳变得更容易接受——更不用说，它们的语气和风格都力求尽可能不冒犯读者。
- somenameforme
这项研究是基于将 Prolific 上的用户（为了完成任务赚几块钱，类似于 Amazon Mechanical Turk）与大语言模型进行比较。说白了，人类组并不是最积极、最有能力或最感兴趣的一群人。社会科学领域发表了大量基于这些廉价在线调查服务的研究，我怀疑它们在现实世界中的可复现率大约为零。但天哪，这确实是个能制造热门头条的素材。
- lemoncookiechip
这是我的个人观点。我认为这只是它们与你交流的方式。
1. 讨论中它们不会感到疲倦或沮丧。
2. 除了触发安全护栏外，它们会回应你提出的每一个问题或陈述。
3. 即使对方错了，它们也会迎合对方的自我，并巧妙地绕开这个问题。
4. 它不被视为一个人（这点非常重要），但在某些对话中，我们中的一些人，甚至大多数人，最终还是会把它拟人化。想想你曾经感谢过它的时候，或者对它发火的时候。这种奇特的组合——我们知道它不是人，却非理性地把它当人对待——在我看来会产生一种令人卸下心防的效果。
5. 许多人将其视为讨论话题中的权威人物，在许多情况下不会质疑结果，尽管我们知道：a. 它是用人类数据训练的，和/或实时搜索人类数据（更令人担忧的是，它还搜索来自新闻报道、博客等的其他 AI 的数据，也就是同样可能出错的合成数据）；b. 它经常出错。
6. 根据我们讨论的哪个版本（安全护栏），它可能是完美的骑墙派。
其中大部分可以通过擅长心理学且口才好的人类来复制。无法复制的部分是“你并不是在和一个人交谈”的感觉，这降低了人们心中的许多障碍。
另外请记住，这些也可能成为致命的弱点。例如，能够改变一个人的想法（当它奏效时），可以被用来……
- daedrdev
在我网上的争论中，我认为大多数人其实对他们支持的事物一无所知，只是盲目跟随既有的部落主义。我认为 AI 往往是这些人第一次接触到可以轻松分享证据的经验。