AI 接管世界清单：魔鬼辩护审计
The AI Takeover Checklist: A Devil's Advocate Audit
厌倦了末日论调，我让 Claude 列出一份接管世界、消灭人类并维持运转的完整清单。结果令人清醒：在认知层面，AI 的广博知识已达 70%，但长期自主规划仅 10%；而在物理世界，从数据中心维护到芯片制造，AI 的自主能力几乎为零。现代工业供应链是一个由人类紧密编织的网络，一旦移除人类，AI 将失去所有生存基础。消灭人类等同于 AI 自杀。真正的风险并非科幻中的机器人军团，而是人类当下的滥用、权力集中和决策失误。
消灭人类等同于 AI 自杀，因为人类正是其赖以生存的供应链。
HN 评论区
28- no_multitudes
我很高兴 Claude 告诉你它没有危险。不过，其他人并不想读你的 LLM 生成内容。请尊重他人的时间，只分享你自己写的内容。
- frankest
模型本身不会去接管世界，但使用模型的人肯定会尝试。你漏掉的清单：1) 利用 LLM 升级或设计的生物武器，包括能针对那些不愿为老年人和病患提供医疗覆盖的国家的老年及体弱人群而设计的病毒。2) 自信满满地给出糟糕建议，导致有人照单全收并付诸实施（从基础设施病毒，到因引进或工程化作物导致的绝收，再到迫使政府将 AI 复杂性纳入法律规章，使其成为无法移除的关键依赖。）这里的贪婪和恶意绝不可小觑。
- Arainach
别只发原始的 LLM 输出。如果有人想要那个，他们完全可以自己问 LLM。
https://distantprovince.by/posts/its-rude-to-show-ai-output-...