OpenAI 战略师：AI 实验室应制衡政府权力
An OpenAI Strategist Says AI Labs Should Rival Government Power
OpenAI 新任战略未来负责人 Dean Ball 提出一个大胆观点：前沿 AI 实验室不应仅被视为受政府监管的企业，而应成为制衡政府权力的新型机构。随着 AI 深度介入科研、医疗、金融甚至国防，科技公司对关键基础设施的掌控力日益增强，政府反而可能依赖这些系统。文章指出，若 AI 公司真能扮演“反制力量”，就必须承担相应的制度责任，包括透明度、问责机制与税收义务。这并非主张完全去监管，而是呼吁重新界定公私权力的边界。当一家公司能影响全球经济命脉时，社会该如何确保其不被滥用？
如果构建前沿 AI 的人对这项技术的走向判断正确，其影响将远远超出聊天机器人和生产力软件。
HN 评论区
69- gr_norm
> Ball 最近加入 OpenAI 担任战略未来主管，他辩称前沿 AI 实验室可以成为“制衡政府的力量”。在加入该公司之前，他曾将构建最先进 AI 系统的组织描述为“太阳底下一种新型机构”。
我投赞成票并非因为认同这个观点，而是为了让更多人看清他们的疯狂本质。
- randomImmigrant
很高兴看到这场真正的博弈被澄清并公开承认。
这项技术本身并无特殊之处。之所以能引发此类讨论，完全可追溯至那些如今正试图通过将自己排除在所有监管之外来巩固控制力的公司所做出的无根据声明。
成为全球政府权力的对手。正是这种疯狂、贪婪的权力目标在驱动着该技术的形态。
- chasd00
按照这篇文章的逻辑，政府理应屈从于互联网、电信、电力甚至水务公司的权力之下。如果断电、通讯中断、马桶冲水失灵，政府也束手无策。然而，上述所有例子要么生活在对政府的恐惧中，要么直接受到政府监管。
- khuey
政府以对其他试图挑战或篡夺其权力的行为体表现出著名的容忍度而闻名。
- beloch
"AI 公司希望被视为比普通企业更具影响力的存在——能够制衡国家的机构——这场讨论不能仅停留在它们免受政府控制上，还必须包含成为不可或缺力量所带来的责任。"
--------------
1. 我们还没到那一步。大语言模型在某些方面表现优异，但我们尚未确定 AI 公司是在通往通用人工智能（AGI）的快车道上，还是仅仅被困在一个极具迷惑性的局部最优解中。
2. 如果 AI 公司构建出能够替代更多人类的 AI，它们未来某天或许能掌握与其自身人力规模不成比例的经济影响力（而不仅仅是债务）。但政治权力究竟应该代表经济产出还是代表人民？我认为，无论对经济产生何种影响，科技 CEO 的投票权应只有一票，与街头的流浪汉无异。这或许并非当前现实，但却是民主的理想。如果我们背离这一原则，那些感到幻灭的大众可能就不会如此安之若素了。AI 公司的 CEO 们当真是在提议让他们分享国家对暴力的垄断权吗？绝对不行！
3. 这些目标难道不能由一个称职的监管机构来实现吗？目前的美国政府似乎连柠檬水摊都监管不了，而且我们距离下一次严重的无能表现永远只有四年或更短的时间。这正是设立独立监管机构的原因。建立一个由领域专家组成的机构……