Dario Amodei：谁在监管AI对齐者？
Who Aligns the Aligners?
Anthropic CEO Dario Amodei 提出通过监管来放缓 AI 发展速度，以确保安全并应对地缘政治挑战。这一计划包括嵌入第三方评估员、民主国家间的协调以及全球合作。然而，作者指出，强制性的监管可能引发反垄断问题，并触及美国宪法第一修正案保护的言论自由。历史上，政府对技术的管控往往适得其反，而所谓的“安全”标准可能演变为审查工具。文章质疑，将 AI 开发置于政府或 NGO 的严密监控之下，是否真能带来预期的安全，还是仅仅重演了 Web 2.0 时代的审查工业复合体？
历史告诉我们，国家政府实际上可能是最强大的出版和数据分析技术最糟糕的保管者。
HN 评论区
97- biophysboy
> 像我那些老读者所知道的，过去 18 个月里，我一直代表我的客户，与全球各地的互联网审查机构进行法律斗争。这些机构自认为拥有资格、能力以及权利，去告诉美国公司可以编写和运行什么软件。
这能让我信任他们对科技监管的看法吗？
- fwlr
> 没人知道答案，历史也提供不了指引，除非我们承认，迄今为止关于新技术的末日预言全都错了。
如果过去任何一条末日预言成真，你就不可能在这里写下这句话，我们也不可能在这里读到它。当我们原则上无法观测到反事实情况时，这根本不是一个有说服力的论点。
- BirAdam
这并不是一个新问题：谁来监管监管者？（quis custodiet ipsos custodes?）
一般来说，在美国的运作方式是，巨头企业为其所在行业制定监管框架。这些法规通常繁重到只有巨头企业能承担，却足以压垮市场中较小的玩家。现在的 AI 公司正在倡导这种安排。他们很可能会如愿以偿，从而获得像 Dupont、Monsanto 以及许多其他公司那样的法律保护伞，为不良行为开脱。
- lacunary
我以为这个问题早就解决了 https://alignmentalignment.ai/
- petcat
我认为在这场辩论中，除了利润动机之外，还应该采取一种更细微的视角。如果他们相信这种版本的“AI”确实变得如此危险，以至于有真正落入坏人之手的风险，那么美国实验室试图说服美国政府与中国达成一项联合“AI 不扩散”协议，就合乎逻辑了，这就像核武器技术最终被那些已经拥有该能力的国家所限制一样。
这将实现他们垄断市场的监管目标，同时也符合美国和中国的地缘政治目标，即两者联手对世界其他地区进行“技术殖民”。
所以我认为，确实存在利润动机，实际实验室也面临收益严重递减的风险，但同时也存在国家层面的动机，想要把梯子抽走。