致Dario：若真心想放缓，请开源权重
An open letter to Dario: if you mean it, open the weights
Dario Amodei 近日呼吁行业放缓 AI 发展并引入第三方评估，但作者认为这类监管最终只会导致监管俘获，反而巩固了 Anthropic 和 OpenAI 等巨头的地位。作者建议 Dario 利用其 PBC（Public Benefit Corporation）身份，推动一项更彻底的法案：要求所有面向公众发布的 AI 模型必须开源权重。这一举措将直接打破模型估值依赖私有权重的逻辑，从资金源头减少训练资源，从而真正减缓前沿 AI 的迭代速度。这不仅是技术选择，更是对 Dario 个人原则与使命感的终极考验。
任何公司提供给公众的 AI 模型，都必须以开源权重的形式发布。
HN 评论区
98- Aurornis
这逻辑完全不通。这个论点的核心似乎是：开源权重会让前沿实验室难以融资，导致资金减少，进而拖慢 AI 进展。这假设了全球所有实验室都同意以这种方式自我毁灭，且不会有新实验室成立来接手这项工作。
不，真的：
> 正如你所知，前沿模型开发的资金取决于估值，而估值的前提是权重保持专有。改变这一假设，我们就能减少未来训练可用的资金，从而一次性拖慢所有实验室的进展，无需监管机构介入。
这根本推不出来。这需要全球每个实验室都同意自我毁灭其估值并停止竞争。这比 Dario 要求的任何事都要不可能得多。
这也忽略了新实验室成立的可能性：它们可以使用开源权重，并直接从旧实验室停下的地方继续工作。
我感觉自己刚读了一个人因为太兴奋于标题，以至于没时间思考自己论点是否站得住脚的胡言乱语。
- tristanj
作者对此完全没有进行理性思考。如果 Anthropic 被法律要求公开任何可公开访问模型的权重，他们合乎逻辑的回应就是停止提供公开模型。Anthropic 的大部分收入本来自企业协议。提供公开模型或提供模型公开访问权只是他们的次要业务。他们随时可以切断这部分业务。公开访问其模型（以补贴价格）已经给他们造成了如此多的间接伤害和财务成本，他们完全有理由停止提供访问。
Anthropic 已经表明他们非常乐意对公众封锁模型。Mythos 已经存在了多久？六个月了吧，却从未公开发布过。只有少数被 Anthropic 选中的人才有访问权限。
强制公开模型透明化只会加速这些模型的私有化访问。你不想生活在那个世界里。
- jsnell
> 任何公司向公众提供的 AI 模型都必须以开源权重的形式发布。
这个计划显而易见的后果就是前沿模型根本不会向公众发布。这将是一个极其糟糕的结果。公众可访问的模型将停滞不前（没有资金，无法获取前沿模型的 token 进行蒸馏），而内部模型将继续以原有速度改进，在公司内部使用，并最终吞噬整个经济。
- throwaw12
我对美国 AI 实验室的这三张面孔——Dario、Sam 和 Elon——非常怀疑。
他们是在试图阻止其他人追上他们，还是说他们在进一步提升模型时遇到了某种障碍？
但在我看来，他们并不是在帮助人类。
- sschueller
不如先读读 AGENTS.md……