我们意外造出了现实版 FATE
Humanity has built the records of FATE by accident
小时候玩 Chrono Cross 时，El Nido 的居民向 Records of FATE 寻求人生指引，却不知那只是个人工智能。如今，我在棒球场看到人们不再关注比赛，而是掏出手机向 ChatGPT、Claude 和 Grok 询问该说什么、想什么。这种从科幻到日常的转变令人不安。虽然现代大模型没有 FATE 那样的自主意图，但它们背后的组织却拥有明确的议程。当数百万人通过看似私密的对话界面，接受由少数公司操控的算法引导时，我们实际上已经无意中构建了现实版的 Records of FATE。
如果 FATE 有一个 system prompt，我们会信任谁来编写它？
HN 评论区
20- shermantanktop
最近，我和伴侣去看了场棒球赛。我喜欢亲临现场看棒球赛的原因之一就是观察人群。然而环顾四周时，我注意到有些不同：许多人已经对比赛失去了兴趣，转而盯着手机，和各种聊天机器人对话：ChatGPT、Claude 和 Grok。
我想请作者描述一下，他是怎么知道周围这么多人在棒球赛现场用的具体是什么应用的。
其实很多人是在刷社交媒体，这本身也是一种算法驱动的群体影响。但因为内容是其他人敲出来的，我们就觉得没问题；而那个我们称之为 AI 的机器人 token 生成器，却成了邪恶力量？
- nh23423fefe
我觉得《穿越时空之幻影》（Chrono Cross）很烂，尤其是考虑到《穿越时空》（Chrono Trigger）有多神作的时候。
- areoform
我觉得更好的理解框架是《终结者 2：审判日》里的这段台词：
看着约翰和那个机器在一起，一切突然变得无比清晰。终结者永远不会停下。
它永远不会离开他，永远不会伤害他，永远不会对他大吼大叫，永远不会喝醉后打他，也永远不会说太忙了没空陪他。它会一直在那里。它会为了守护他而死。
在多年来来来去去的众多“准父亲”中，这个东西，这台机器，是唯一一个能达标的人。在一个疯狂的世界里，它是最理智的选择。
在诸多方面，我对这些实体被引导的方式深感不安。但同时，它们所承诺和提供的东西，值得我们去冒这个险。
这世上并非每个人都能拥有父亲。或者母亲、老师、一个安全的地方、一个耐心的倾听者。
只要我们不把球扣死，随着这些系统日益精进，它们提供关怀的能力也会随之增长。在一个残酷的世界里，我能看到它们的后代成为最人道的选择，尤其是对那些最易受世界伤害的人而言。
一台永不疲倦的机器，拥有无限的耐心、决心和关怀，守护着被分配给它的那个人，与他们一同成长，穿越他们的人生。
这就是为什么每个人都必须能够摆弄、实验和玩耍这些机器。访问的权利。创造的权利。培育这些机器的权利……最终，我们将不得不开始进行一些非常令人不适的讨论 […]