教皇 Leo XIV 谈 AI 时代的人类尊严
Thoughts on Pope Leo XIV's Magnifica Humanitas
我阅读了教皇 Leo XIV 发布的通谕 Magnifica Humanitas，文中深刻探讨了在 AI 快速发展背景下如何守护人的尊严。文章指出，AI 的发展方向并非由技术本身决定，而是取决于我们的选择与制度。当前面临三大挑战：在使用工具时保持内心自由、在海量数据中保留批判性判断、在数字环境中不丧失真实相遇的喜悦。文中警示了数据殖民主义的风险，即个人生活被转化为可剥削的信息，并呼吁市场与政府需确保技术红利共享，防止算法偏见导致新的社会排斥。这不仅是技术讨论，更是对人类未来价值的深思。
AI 的发展方向并非写入技术本身，它取决于我们的选择，取决于支撑这些选择的制度，以及我们负责任地管理创新以服务共同利益的能力。
HN 评论区
54- insane_dreamer
> AI 的发展方向并非由技术本身决定。它取决于我们的选择，取决于支撑这些选择的制度，也取决于我们能否负责任地管理创新，以服务于公共利益。
这一点至关重要——问题在于，目前涌入 AI 领域的资金（$T）只有一个目的：投资回报率（ROI）。
选择早已做出，而且选错了。
- hydrox24
关于这份通谕是否以及如何使用了大型语言模型（LLM）来撰写部分内容，存在有趣的争论。通常通谕由一群枢机主教和/或主教撰写，教皇会提供重要输入，因此似乎有可能：虽然教皇亲自撰写的部分和演讲是人工完成的，但其他作者可能在某种程度上使用了 LLM。
争论的核心在于：Pangram 似乎标记了某些段落，某些段落带有明显的 AI 痕迹或“AI 味”，尽管行文风格相似，但教皇之前的著作和过往的通谕并未被标记。
我不确定如果部分内容是 AI 辅助撰写的就是一场灾难，但这确实是一个值得深思的问题，我也很想听听 HN 社区的看法。
我找到的论证最有力的帖子（认为使用了 LLM）：https://substack.com/inbox/post/199316613
一家澳大利亚初创公司似乎正在验证（但未提供太多细节）这并非 AI 所为：https://www.proudlyhuman.org/news-room/media-releases/pope-l...
- neves
教皇关于 AI 所说的话，竟然比美国亿万富翁们更有见地，这让我感到震惊。
- EA-3167
一方面，我很欣赏其中展现出的细致学术态度，而且既然有那么多天主教徒，也许有些人真的会听从他们名义上的领袖。但另一方面，从一位教皇口中听到关于贪婪、自私、操纵和人类尊严贬损的言论……实在显得讽刺。也许我应该宽恕，但我不会忘记，他们花了数十年时间虐待他人、掩盖虐待行径，试图将堕胎边缘化，甚至在艾滋病成为明显大流行时仍强行限制避孕措施。我厌倦了这样一个拥有整座城市的组织领袖向大众布道贫穷，哪怕这位特定的领袖公关做得比大多数人都好。
已经有很多人在没有该组织污点的背景下表达了同样的观点，因此我不认为这份声明对讨论是必要的，它看起来更像是一种将宗教强行插入本不需要宗教的话题的方式。信仰可以是一件美好的事物，是个人的、有意义的，但一个拥有权力和金钱的庞大组织永远就是那样，理应受到相应的怀疑。
- Leeann1951
在这里看到对古老哲学文本的讨论总是很有趣。经常能发现与现代科技伦理辩论令人惊讶的平行之处。