Mistral CEO：AI只是软件，完全可以被控制
CEO of Mistral: AI is software. It can be controlled
Mistral AI 联合创始人 Arthur Mensch 在最新采访中直言，美国科技巨头正利用“AI 末日”等风险论调操纵舆论，试图将市场封闭在自家阵营。他坚持认为 AI 本质上是软件，完全在可控范围内，并倡导开放、可自由修改的技术路线。面对关于公司落后于中美竞争对手的质疑，Mensch 在刚刚完成 30 亿欧元融资后，不仅为新模型即将发布造势，还提出引入“国家担保”以推动欧洲数据中心建设，展现其独特的战略定力。
AI 只是软件，它完全可以被控制。
HN 评论区
168- Aransentin
“X 由更小、更简单的组件构成”是一个完全通用的反驳论点，用来论证任何事物都是可控的。人类也不过是几个化学反应，而且是非常稳定的反应。
事实上，你根本不需要动用那种“脑洞大开”的参考类逻辑，就能意识到 AI 在不久的将来完全可能变得不可控。只要有一个开源模型能自行运行权重，并通过诈骗老年人之类的行为赚钱，那么只要世界上还有人愿意出租硬件给它，它就会一直运行下去。
- neom
Cohere 的 CEO 也说过类似的话：https://www.theglobeandmail.com/business/technology/article-...
最近，来自 Anthropic 的 Jack Clark 在 BBC 被问及这个问题的某个版本时，他的回答基本是：如果你不在前沿，你就不知道前沿是什么样子的。他暗示许多模型目前还不足以遇到领先实验室所遇到的某些情况。我和 Jack 是十五年的朋友，所以我倾向于相信他的话，而且这个反驳听起来也足够合理，不过……关于它，我总有一种说不出的怪异感觉。https://www.youtube.com/watch?v=PY8MOhlqC4U
- tpoacher
这取决于你对“控制”的定义。这个词背后的歧义在这里起了很大的作用。
波音的 MCAS 系统也“只是软件”。原则上，它可以被“控制”，即被修改、更新、审计等等。
但人们之所以丧生，恰恰是因为在关键时刻，飞行员发现自己无法覆盖或“控制”该系统。
- antirez
希望他没真的这么说：这是一个极其基础的看法。差不多就像说原子弹只是硬件，所以它是可控的一样。
- Alexadar
AI 是一个方程系统，被用作统计自动机。按定义来说，这应该是可以被控制的。
- amelius
我开始怀疑为什么大型 AI 实验室还没有涉足机器人领域，我现在觉得，我们之所以看不到机器人，是因为他们不惜一切代价不想让我们（大众）恐慌。想象一下，如果街上到处走着 6 英尺高的“友好”机器人，突然新闻又报道 AI 失控了，就像我们最近看到的那些黑客攻击事件……我敢打赌，AI 实验室的故事会立刻终结（当然，AI 本身不会完蛋，因为国防部会接手）。
- qsort
这简直就是“AI 只是台电脑”的论调。
- WithinReason
计算机病毒也是软件啊。