Demis Hassabis：AGI 安全计划曝光
Demis Hassabis has a plan to harness AI safely
Demis Hassabis 在 X 平台上发布了一篇重磅长文，宣布人类历史正站在一个关键转折点上。他认为，具备大脑所有认知能力的通用人工智能（AGI）可能仅需短短几年就会到来。面对这一即将到来的技术奇点，Demis Hassabis 提出了一个全新的框架，旨在确保 Frontier AI 的安全发展。这不仅是对技术未来的预测，更是一份关于如何驾驭超级智能、开启新时代的行动指南。文章深入探讨了在 AGI 黎明前夕，我们该如何构建安全护栏，避免潜在风险，让这项颠覆性技术真正造福人类。
通用人工智能（AGI），即一种展现出大脑所有认知能力的系统，可能仅仅在短短几年内就会到来。
- 有评论者指出，将 AGI 定义为具备 qualia（感质）的系统存在危险漏洞，若因无法证明其内在生命而否认其权利，可能重演人类历史上为奴役辩护的伪科学黑暗篇章。
- 部分观点认为，Demis Hassabis 的安全计划本质上是利用安全议题作为借口，旨在通过限制自托管模型来保护前沿实验室的市场垄断地位。
- 针对资源分配问题，有评论强调当前社会已实现食物供应的后稀缺状态，饥饿源于人为制造的分配壁垒而非资源匮乏，AI 经济可能重蹈此覆辙。
- 关于慈善与政府职能的争论中，一方认为依赖个人美德无法应对大规模灾难，必须依靠政府解决资源分配，另一方则指出部分福利金被用于非生存需求，政策需增加转化摩擦。
- 有声音反驳将 AGI 拟人化的倾向，认为如果 AGI 仅是高度智能的文本生成工具且无自主行动欲望或痛觉，那么‘奴役’这一基于生物本能的概念对其并不适用。