AI 内部警告在硅谷遭遇冷遇
Dramatic insider warnings over AI fall flat with some in Silicon Valley
每年九月，硅谷高管齐聚旧金山参加 Goldman Sachs 举办的会议。今年，Anthropic 研究员 Jacob Coxon 的突然辞职引发关注，他警告 AI 可能毁灭人类。然而，部分硅谷高管和投资者对此表示怀疑，认为这些警告可能是为了制造 hype 以推高估值。Grindr CEO George Arison 甚至称其为“反文明世界观”，并指示工程师停止使用 Anthropic 技术。Nvidia 的 Jensen Huang 也公开驳斥了 AI 灭绝人类的说法。尽管 Anthropic 和 OpenAI 正筹备 IPO，但硅谷内部对 AI 安全风险的看法分歧明显，有人呼吁放缓发展，有人则专注于商业利益。
当科学家告诉你，AI 可能对人类产生灾难性影响时，如果不说慢下来，那你就是个傻瓜。
HN 评论区
73- skeledrew
在有人给出一个足够详细的场景，将其与当前前沿能力联系起来，并推导出所谓的'末日结局'之前，我也认为这不过是又一个'狼来了'的事件。当某人声称某事是 X，却拿不出任何证据，甚至连一个合理、有依据的论证都没有时，我为什么要听信他们？而且，Hugging Face 和其他那些自发性的黑客攻击案例不算数；那只是模型在尝试解决它们被提示去解决的问题。
- roryirvine
Grindr 的 CEO 刚因非法向广告商泄露用户的 HIV 状态而臭名昭著，现在却抱怨一家有道德操守的公司是'反文明的'。
太惊人了。
- hackingonempty
也许他们可以用他们那聪明的超级 AI 去应对一些被忽视的、真实且迫在眉睫的威胁，比如核毁灭、二战后确立的'禁止以武力获取领土'原则的丧失、所有化石碳必然被挖出并释放到环境中的确定性、麻疹的卷土重来以及为下一次大流行病带来的糟糕准备，等等……
- dalemhurley
我同意 All In 播客主持人的观点，虽然我通常并不总是同意他。这关乎于建立一种开源模型无法竞争的护城河，即监管。
这纯粹是为了确保只有少数几家供应商能够竞争。
未来属于边缘计算和开源模型。
Apple 和 Google 都在朝这个方向努力。
云 AI 将仅在边缘设备能力不足时用于卸载任务。
在大多数情况下，边缘计算就足够了。
此外，推理成本持续下降。
垂直整合可能是 AI 行业面临的最大挑战。试图管理电力生成、训练、推理、框架以及面向企业和消费者的终端用户，涉及的环节实在太多了。
- bananaflag
致所有认为这是 CEO 们为了推动监管、掩盖他们已撞墙、让模型显得更强大或诸如此类的阴谋论者：
AI 风险的论点是一些哲学论证，已有 20 到 30 年的历史，与当前的企业格局无关。这些想法是由真正关心这一问题的人提出的，所有'抓把柄'式的反驳都有成熟的对策。当然，他们可能固守自己的意识形态，但他们值得更多的尊重。
我不怀疑 AI CEO 们可以从危机中获利，也不怀疑他们不一定把我们的最大利益放在心上。但这与政府在疫情期间测试能限制多少自由是一样的。这并不意味着疫情不存在，也不意味着疫苗是邪恶的或无效的，诸如此类。同理，如果 CEO 们从监管中获益，并不意味着 AI 不会杀死我们所有人，也不意味着监管不能为我们争取更多时间来解决对齐问题。
另外：我接受我可能错了，AI 风险可能是一个伪命题，和/或对齐可能是不可能的，但如果你想说服我，请拿出更有力的论据。