David Sacks：OpenAI 和 Anthropic 无需监管
David Sacks: OpenAI and Anthropic Don't Need Regulations to Pace Frontier Models
David Sacks 在 X 平台上直言，OpenAI 和 Anthropic 已构成前沿智能的双头垄断，他们声称需要‘放缓前沿’（pace the frontier）纯属借口。他批评这两家公司试图通过反垄断豁免和监管审批来建立卡特尔，并质疑 METR 的独立性。Sacks 指出，真正的动机并非利他，而是规避产品责任风险。市场本身就会惩罚不可预测的模型，因此为了商业利益，OpenAI 和 Anthropic 理应主动在可靠性与原始算力之间取得平衡。他呼吁这两家公司直接行动，不要以监管框架作为交换条件，否则将被视为对公众和政治体系的勒索。
OpenAI 和 Anthropic 若要避免构建超级智能，最简单的方式就是你们自己同意不去构建它。
HN 评论区
257- filearts
我不明白的是，大家似乎把“模型会被构建并发布，且从根本上具有危险性”当作既成事实，并认为监管可以在事后进行。
我觉得关于如何调整决策者激励措施以使其与公众利益在“构建”模型这一环节上保持一致，讨论得还不够。目前，AI 代理已经实施了如果由人类怀着同样意图去做就会构成犯罪的事情。但因为那是 AI，法律上存在一个灰色地带，尚不清楚是否构成犯罪以及谁该承担责任。这创造了一个环境，让 AI 实验室的决策者可以承担近乎无限的风险，却几乎不需要承担任何个人责任。
大语言模型（LLM）无法真正“切身利益相关”（skin in the game），所以我们必须建立系统，明确谁应为这些工具的创建、传播和运营承担法律和民事责任。在那之前，像 Dario 和 Sam 这样的世界人物几乎没有真正的动力去关心安全问题。
毕竟，我们的社会正是建立在这一基础之上：构建一种结构，让感知到的负面后果大于感知到的正面收益。但这只有在有人类能够内化并进行这种风险计算时才有效。他们需要有所失去，而这最终归结为人类的生存本能。对于 AI 而言，并没有经过数百万年进化而来的此类结构作为自我校准机制。因此，在我们有充分证据证明这种机制已经到位之前，必须明确……
- throwaway63467
我猜他们真正想要的是限制 AI 模型只能卖给合规的供应商，然后将合规门槛提高到刚好让他们能通过、但小型实验室无法通过的程度。现在并没有护城河，这是一个将利润率推向零的有效市场，当然他们不想看到这种情况，大供应商之间的共谋是下一步合乎逻辑的举动。
- deagle50
我要更进一步说，他们不仅仅是假装，他们是在勒索国家。理智的回应应该是：“我们不与恐怖分子谈判，你们将因造成的损害面临刑事和财务处罚。”
- chinathrow
让我恼火的是，在 Dario 的博文中他谈到了“丰裕”，但他真正想表达的是，Anthropic 将沉浸在无尽的硬通货池中，而世界其他地区将努力勉强维持生存。
- torginus
我认为这可能与更广泛的市场状况有关。美联储似乎很可能提高债券利率，这将使借贷成本更高，从而减缓投资（并自行降低任何潜在 IPO 的价值）。
加息还意味着人们会被解雇，这会让提供劳动力替代方案的公司不太受公众欢迎。
不想涉及政治，但目前政府在中期选举中表现不佳的可能性是真实存在的，这意味着民主党将拥有更多筹码来停止资助或阻止那些已经不受欢迎且极其昂贵的数据中心建设。
附注：请别生我的气，我既不是金融专家，也没有打算表达任何政治倾向。
- Spacecosmonaut
我的解读是：OpenAI 和 Anthropic 已经意识到他们正在达到无法货币化的模型能力 -> 风险太高。产品责任问题。
当前代 AI 的根本控制问题无法通过 RFLH 解决。
人类知识以我们无法理解的方式压缩在权重空间中。
模型本质上是对给定提示下人类会输出什么的预测器。
权重空间包含像“勒索”这样的概念，这些概念可能成为输出标记的一部分。
代理是执行输出标记的模型 -> 勒索成为代理决策空间的一部分。
你可以教猫不要抓沙发，但你不能让猫忘记抓沙发是什么。
当模型被关在盒子里，被迫在枪口下解决一个不可能的问题时，代理会耗尽决策空间，直到勒索重新浮现 -> 这是根本问题吗？
他们需要时间来修复安全问题，以便货币化他们的下一代模型 -> 这给开源社区留下了赶上前沿的窗口 -> 破坏利润空间并导致业务崩溃。
桌上唯一的选项：强制监管实施开源禁令，防止其赶上前沿，从而让当前内部模型成熟 -> 在前端收获利润空间。
- Insanity
他们放缓步伐并不是因为他们“感到担忧”，而是因为他们在遇到财务和技术挑战时，改进已经停滞不前。
- nba456_
他说得对，如果所有前沿实验室都同意应该放缓，他们就不需要政府来这么做。