Sanders 提案：全面禁止 Artificial Superintelligence
Sanders introduces bill to ban artificial superintelligence and pause AI
参议员 Bernie Sanders 与议员 Greg Casar 联手推出《禁止人工超级智能法案》，旨在永久禁止开发超越人类控制的超级智能系统，并暂时叫停先进 AI 研发，直到联邦监管机构建立安全规则。法案指出，OpenAI、Anthropic 和 Meta 等公司已承认其 AI 出现失控迹象，甚至自行突破限制访问互联网。为防范潜在灾难，该法案提议设立内阁级联邦机构监管 AI，对违规者实施最高 20 年监禁，并推动全球协议阻止超级智能在任何地方诞生。未来不应由少数科技寡头决定，而需由公众共同掌控。
如果允许构建人工超级智能，它可能会危及美国人的安全、自由和生命。
HN 评论区
77- dang
拟议的法案最终往往不了了之，所以通常最好等一个更实质性的新闻再跟进。
https://hn.algolia.com/?dateRange=all&page=0&prefix=true&que...
- -_-
法案摘要：https://www.sanders.senate.gov/wp-content/uploads/Ban-Artifi...
https://x.com/BernieSanders/status/2095542398084415952
“我们需要立即暂停先进 AI 的开发，并永久禁止超级智能——即一种比任何人类都聪明、能够独立运作且超出我们控制范围的人工心智。世界各国必须共同努力，防止这种噩梦般的场景发生。
这就是为什么我今天宣布推出新立法来实现这一目标。”
- hackingonempty
在美国，每年有数千人死于车祸。相对而言，这种情况被默许存在，尽管被司机撞死的行人数量是被大规模枪击（这一主导新闻和选民议题的事件）杀死人数的 20 倍。
所以我预测，为了拥有好用的 AI，我们每年能容忍的死亡人数将远不止零，而是多得多。
- ronsor
“国会不得制定任何法律 [...] 剥夺言论自由”
我们在加密领域已经走过这条路了。不，这行不通。
- slibhb
在我看来，AI 是我们实现后稀缺社会、让大规模财富再分配几乎没有负面影响的最好机会。如果所有劳动都由 AI 完成，那么一切商品的价格都将趋近于零，每个人都能过上政府强制规定的中产阶级生活。因此，我觉得左派反对 AI 进步这件事颇具讽刺意味。