谁有权定义 AI 规则？硅谷巨头想垄断
Who Gets to Define the Rules for AI?
我是 Cohere 的创始人 Aidan Gomez。AI 正在重塑世界，但少数硅谷巨头正试图以安全为名，要求反垄断豁免，从而垄断规则制定权。这就像当年的信用评级机构和欧洲汽车业，打着公共利益的旗号建立卡特尔。真正的安全不应由几家商业公司闭门决定，而应基于科学证据、强制透明度和独立测试。我们需要一个由全球多方参与、公开透明的监管框架，而不是让市场主导者将自身优势转化为行业壁垒。
如果这是人类历史上最重要的技术，那么其规则绝不能由一小群在反垄断豁免下串通的商业公司来制定。
HN 评论区
40- jeffreygoesto
这篇文章大谈特谈“如何”和“为什么”，却根本没有回答它自己的标题。我们以为答案就在那里：在民主国家，人民将制定规则的权力委托给一群民选代表，然后由另一群独立的人来执行这些规则。目前看来，这种情况在（不仅仅是）美国已经失效了。
- Stitch4223
针对互联网和人工智能等新技术，大多数甚至所有法律其实早已存在。
例如：盗窃、勒索、谋杀等，都是早已确立的罪行。
在它们前面加上“网络”或“AI”前缀，罪名依然相同。
我真的很想知道，这些规则里到底有什么真正的新东西。
- Moon_Y
允许几家领先的实验室在反垄断豁免的保护下自行制定规则，本质上等同于将公共政策的制定外包给了利益相关方。独立审查的方向是正确的，但审查标准、执法权力和参与资格必须经过公开辩论，而不是由少数几家公司关起门来决定。
- throwworhtthrow
我认为这是对 Dario Amodei 昨天发表的文章《我们必须控制前沿发展》的回应：https://news.ycombinator.com/item?id=49672510
Cohere 的反对意见似乎主要集中在谁有权制定规则。从这篇文章来看（遗憾的是，这篇文章似乎很大程度上是由 AI 撰写的）：
> 无论如何，关于 AI 的规则正在被制定。目前尚不确定的是，这些规则是由一个任何人都可以加入、证据任何人都可以核查的群体来制定，还是由少数几家公司在关着门的房间里制定。
当然，没有任何一家 AI 公司会建议它们应该为所托管的代理（agents）采取的非法行为负责，但我感觉这可能是一个非常有效的“减速机制”，也能解决这篇文章提出的关于公平和透明度的担忧。
- moktonar
这难道不应该是一个民主过程吗？