孩子为何把LLM Chatbots当真人？
Anthropomorphism in Children's Interactions with LLM Chatbots
一项涵盖2022至2025年35项实证研究的系统综述揭示，孩子们在与LLM Chatbots互动时，极易产生拟人化倾向。这种倾向并非偶然，而是由类人角色构建、自适应支架、支持性陪伴以及非人类具身设计等因素共同驱动。研究进一步发现，孩子们会表现出矛盾的社会与道德反应，对Chatbots产生双重意识，建立不同类型的社会纽带，探索社交边界，甚至将对话中断归因于人类叙事。这些发现既揭示了潜在益处，也警示了风险，为未来设计更关注儿童福祉、促进可持续发展的LLM Chatbots提供了关键依据。
我们发现，类人角色构建、自适应支架、支持性陪伴以及非人类具身设计是驱动孩子们对LLM Chatbots产生拟人化互动的关键因素。
HN 评论区
42- mncharity
XR 领域的自动化学习伙伴也出现过类似问题。学习者对伙伴的心理模型与其实际能力和局限性之间的不匹配，会导致许多令人头疼的误解。因此，一个想法是强调非人类、非社会性的行为来源——为“它为什么那样做”建立替代性的叙事。这个伙伴可以是“火花（Sparky），一只会出故障的机器狗”。所以，忘记事情、弄错、发呆、帮不上忙、困惑、分心、错过社交信号、给出糟糕的信号等等……这些都只是机器狗在出故障，而不是社交信号。也许吧——纯属推测。
- cainxinth
我侄女很小的时候，我给她看我的 Polaris 泳池清洁器。它是个简单的装置。就是几根软管连在一个带几个轮子的小盒子上。它在泳池里滚动，吸走池底的落叶。
她全神贯注地看完，然后转向我问道：“那个机器人的家人是住在海里吗？”
- tolugenius
我很好奇他们具体用了哪些聊天机器人，陪伴型聊天机器人和比如 ChatGPT 这类差别很大。我推测孩子们拟人化的对象应该是前者，据我所知，ChatGPT/Gemini/标准版更多是“帮我做作业”类的服务。我很好奇，他们在儿童身上发现的机制，是否与那些对某些模型（比如 GPT-4o 事件）产生陪伴感或依恋的成年人所经历的机制相同，或者至少处于同一脉络上。
- mmooss
为什么要允许 LLM 或任何计算机输出针对任何年龄组产生拟人化效果？
一个简单的规定应该是所有 LLM 输出必须：
* 明确标识自己是一台计算机
* 标识控制它的人类或人类组织
（例如，“这是由 Anthropic 制作的 Claude v8.90 软件。”）
* 除非用于娱乐目的，否则不得试图模仿人类，且必须明确标注（例如，“这不是人类。这是一台为娱乐目的假装成人类的计算机。”）。
违反这些规定除了欺诈和/或操纵他人之外还能有什么理由？这些规定很容易遵守，我也看不出它们会影响 LLM 使用所预期的经济生产力提升。
- lz400
我女儿 7 岁时和 ChatGPT 聊天，她反复问：你叫什么名字？你是男孩还是女孩？最终她对那些回避的回答失去了兴趣，就像她标记这玩意儿互动起来不好玩，不是真人一样。现在情况不同了，她明白这东西能帮忙做作业 :D