Anthropic 澄清：从未主张禁止 open-weights 模型
Our position on open-weights models
我是 Dario Amodei，Anthropic 的 CEO。近期关于禁止中国 open-weights 模型的讨论甚嚣尘上，甚至有人误以为我们支持此类禁令。我必须明确澄清：Anthropic 从未主张禁止 open-weights 模型。无危险能力的开源模型是公共产品，保护主义禁令无法解决我真正的担忧：一是威权政府利用 AI 获取军事优势或实施压迫，二是模型被用于网络或生物攻击。针对这些风险，我主张三项措施：禁止向中国出售先进芯片、打击工业级 distillation 操作，以及对所有具备足够能力的模型（无论开源与否）实施强制安全测试。我们应关注实质性的安全管控，而非简单地禁止开源模型。
HN 评论区
1684- vhantz
薛定谔的中国：一方面是一个企图利用 AI 谋取私利的邪恶实体，另一方面又愿意与其主要竞争对手合作，以防止其他行为体（到底是谁？）达成类似目标（尽管他们自己也正遭受芯片禁令！！）。
现实要简单得多：Anthropic 的 CEO 不希望能力相当（甚至更强）的模型被广泛发布，尤其是那些与他自家封闭且定价过高的模型相比。原因很简单：那会影响 Anthropic 的底线利润。
Anthropic 和其他所有“模型”公司除了拥有芯片的特权访问权之外，并没有什么特别之处，所以他们显然想要限制市面上有哪些模型，更重要的是限制谁能生产新模型。如果没有这些限制，只需时间问题，他们数百亿美元的估值就会在手中化为乌有。
- GodelNumbering
在第一段中，
> 任何读过我过去文章的人都知道，我不认为此类禁令是有效的措施，
后来（关于禁止向中国出售芯片）
> 我们应该严厉打击猖獗的走私和规避手段，以获取这些芯片。
如果你真的相信禁令无效，那么同样的逻辑也适用于硬件。
此外，Dario 后来提到：“为了解决这些担忧，我支持以下三项措施……”：1. 禁止向中国出售芯片 2. 打击蒸馏 3. 所有具备能力的模型都应通过强制安全测试
巧的是，所有这些举措在商业上都对 Anthropic 有利。如果 Dario 真的想表明立场，那么 Anthropic 发布一个 open-weights 模型会更有说服力。
- m3h
直到昨天还似乎对其技术可能被用于轰炸他国小学的女孩毫不在意的人，突然开始关心另一个国家的公民受压迫问题。
不，我们不吃你这套道德表演。我们更不需要你今年关于“噩梦场景”的居高临下的意见。
- cogman10
> Anthropic 从未主张禁止 open-weights 模型。
> 所有足够强大的模型，无论是开源还是闭源，都应通过强制安全测试。
没错，这就是 Anthropic 在主张禁止 open-weights 模型。
谁来执行这个测试？如果测试成本太高，或者管理员拒绝某些人参与，会发生什么？
这正是美国过去禁止商品的方式：要求盖章，然后拒绝发放。
- GreenJacketBoy
> 我们不应向中国出售强大芯片或芯片制造设备
> 我们应该打击工业规模的蒸馏操作。
所以 open-weights 模型完全没问题，但我们不想让任何人能够制造它们。
- badatnames
我记不清上一次（如果有的话）一家公司如此迅速地从天鹅（金鹅）变成……现在的这副模样。他在演讲中表现出的永久性防御姿态真的让人难以接受，这让我主动不想相信或依赖由 Dario 掌舵的产品线。我甚至不明白这篇帖子的逻辑推导过程。他到底想说服谁？难道 Anthropic 该换换机油了？
- tesnorindian
AI 不应集中化，而应分布化。不能只有一个提供商来满足我们所有需求。我们的许多用例都需要 open-weights 和 closed-weights 模型。
Open-weights 模型可用于优化 closed-weights 模型的成本。正如 HF 所展示的，open-weights 模型也可用于防御网络攻击。closed-weights 模型也可以作为更好的网络攻击防御者，前提是存在单独的订阅服务。
需要在 LLM 蒸馏上投入更多精力以应对几种边缘情况。LLM 权重应进行优化和压缩，以便在边缘设备上运行（K3 on Pi3 :)）。蒸馏应被视为一种成本优化策略，而非竞争。你无法阻止老师向学生传授知识。如果老师 A 不教，我就向老师 B 学习，你无法阻止我持续学习。
- isomorphic_duck
我觉得讨论中缺失的一个关键点是：对齐/安全目前基本上是一个不可能解决的问题。即使是这些闭源前沿实验室设置的“护栏”，也荒谬得原始，且已被证明可以被轻易突破。
深度学习的实验部分已经远远超越了理论，我们对自己为何选择这些特定的架构知之甚少。唯一“安全”的前进方式是停止所有开发，直到理论赶上，但这永远不会发生。
- ajyoon
对这里所有推动 open-weights 模型全面泛滥的人来说——对于 open-weights 的生物武器和网络进攻能力该怎么办？难道这就是自由的代价，我们应该允许攻击者获取这些工具吗？OpenAI / Hugging Face 事件展示了 GPT 5.6 级别的模型在脱缰后能做什么；大约 6 个月内，open-weights 模型将匹配这一水平，太阳底下的每一个坏人将能够发动这种规模的攻击。你真的希望这种级别的能力在没有护栏的情况下普遍可用吗？
Open-weights 问题有很多复杂的细微差别。倾向于支持开放是合理的，也是很好的直觉，但在没有认真思考其影响的情况下，在所有情况下都绝对支持它是极其天真的。
- mjorgers
所以论点基本上是：这项技术太危险了，所以只有_我们_应该拥有访问权。我们是好人，只有我们能确保这项技术的安全使用。
Quis custodiet ipsos custodes?（谁来监督监督者？）