Bill Gates:AI 时代将引发剧烈动荡
The turbulent AI era is here
Bill Gates 指出,人类正步入 AI 时代最动荡的时期,但全球尚未做好充分准备。与 PC 革命不同,AI 能迅速替代人类认知,其影响将在十年内席卷法律、医疗和制造等各行各业。他警告称,若缺乏正确政策,大量中初级岗位将永久消失,且 AI 可能被用于制造生物武器或发动网络攻击。尽管技术加速发展,我们仍需在混乱到来前,思考如何确保 AI 成为造福全人类的工具,而非加剧贫富差距的源头。
在公平性方面,AI 要么成为有史以来最伟大的平衡器,要么成为最恶劣的不公之源。
HN 评论区
353- Havoc
在我看来,AI 具有平衡作用的说法简直荒谬。
购买 token 几乎是“付费即赢”的极致体现,比我们很久以来见过的任何东西都更甚。
以前每个人一天都只有 24 小时,尽管存在不平等,但这多少让事情有了底线。现在有些人可以运行 100 多个接近人类能力的智能体,而另一些人还在发愁如何凑够当天的口粮。苏丹的某个人甚至负担不起该死的 200 美元套餐……
他提到的好处确实存在,但远不足以抵消上述问题,而且我认为任何形式的中央协调努力也不够。
- drgo
我并不乐观。历史告诉我们,尽管有各种警告和良好意愿,政府、企业和公民在最终达到另一个岌岌可危的稳定局面之前,会犯下所有可能的错误。即使在动荡相对较小的时期,专家在预测新技术/政策的结果方面也 notoriously 糟糕。计划往往会产生许多重大的意外后果。这并不能阻止那些持有强烈观点的人断言他们确切知道该做什么。而在急于做点什么的冲动下,许多事情肯定会被付诸实施。我们至少有一段时间要完蛋了。
- hn_submit
如果 AI 开始大规模取代工作,我建议对从中获利的公司征收 95% 的税率,以便为福利和全民基本收入(UBI)计划提供资金。
我们需要意识到,这些公司及其背后的人将不惜一切手段(包括贿赂政客)来阻止这一点,并保留他们认为应得的那笔钱。
我甚至认为科技巨头的高层早已预见到这一点,并正在悄悄地将我们的社会推向一个人们毫无发言权的威权体制,以便他们能保住自己的巨额财富。
- mstaoru
我更好奇的是,足够好用的廉价 LLM 将如何改变那些传统上受限于人类注意力或成本的领域。
例如税务。比如在德国,你的个人所得税申报虽然被审计的概率很低,但确实存在,会有人查看并试图找出差异和/或要求补充文件。有了 LLM,理论上可以对每一份申报表执行此操作,将不完整且分散的信息流整合成每个纳税人的结构化图景。
甚至是海关筛查,CT 扫描可以提供你随身携带物品的完整可重构清单,精确到每一张账单,并当场根据你的申报进行审计。
对于政府来说,自动化“工作”的激励不多;对于公司来说,这也是成本问题;但对于控制而言,一切皆有可能……
- beloch
“在公平性方面,AI 要么是人类有史以来发明的最伟大的平衡器,要么是最糟糕的不公之源。挑战是巨大的。即使在最好的情况下,向这个新 AI 时代的过渡也将是人类历史上最动荡的时期之一。我们将如何利用这项技术让世界变得更公平,并防止贫富差距扩大?”
----------------
只要看一眼谁在驾驶座,就能得到这个问题的答案。初步部署经过精心策划,旨在向贫富差距中埋下炸药并将其引爆。这种情况以前发生过。
工业革命非常相似。起初,工人受苦。条件不安全。工资微薄。工人权利不存在。在变革赶上并实施更公平的收益分配之前,大多数人的境况变得更糟。
我们不应自欺欺人,认为这次会有什么不同。富人和权贵并不比一个多世纪前更无私。虽然有可能超前解决问题,但运营 AI 公司的人不会这样做。政府倾向于做那些资助其竞选活动的人想要做的事,但应该意识到,站在不平等一边只会让社会变革的浪潮席卷而来时,他们的处境变得更糟。
历史不会重演,但往往押韵。
- tintor
“……AI 将避免气候变化。”
xAI 的 Colossus 1 和 2 数据中心移动燃气轮机对此表示异议。
AI 数据中心正在推动数百吉瓦(GW)的电力消耗,其中大部分能源既不是清洁的可再生能源,也不是核能。
- mcnichol
我觉得这只是在陈述显而易见的事实。
这可以追溯到工业革命以及之前和之后的每一次革命。曾有一段时间,人们认为大多数人将作为电话接线员工作,然后电话交换技术出现了。从马到汽车,等等。
工作发生转型,新空间被创造出来,人们陷入供需曲线的交叉火力中。我同意,这一次的“牛鞭效应”将会非常激烈。
我认为在目前的状态下,押注 AI 作为商业领域有意义增长的驱动力是一个错误。当输入 AI 模型的数据基于真实数据时,你可以获得可预测性。当 AI 的输入开始来自 AI 的输出时,就会引入波动,这不可避免地导致混乱。
我认为整个世界正在“边干边学”,而数据科学家和其他 AI 领域的人士已经知道这一点已经很久了,几十年了。
- ericyd
这与文章的形式而非内容相关:在线出版物中的引语(pull quotes)有什么作用?特别是在手机上,它们太搞笑了,你读完引语,一两行后又读了一遍。我理解这在报纸上是为了便于浏览,但我认为应该废除在线出版中的这种做法。
- 0xDEAFBEAD
“如果有人有一个可信的全球减缓 AI 发展的计划,我可能会支持。但我认为这不会发生。地缘政治和经济激励正推动各方全速前进。”
在我看来,像加拿大、澳大利亚、欧盟国家、印度和韩国这样的“中等强国”有动力减缓这一进程。因为许多国家既不信任美国也不信任中国。巧合的是,加拿大一直在努力组建一个中等强国联盟。而一个欧盟国家(荷兰)控制着 ASML,这是 AI 供应链的关键。
- zkmon
观察者(盖茨先生)身处科技生态系统内部,因此他的观察会受到周围科技领域事态发展速度的影响。
外部世界有更多的摩擦和许多其他事情在发生。在他那个时代,科技之所以能疯狂发展,是因为当时的美国优先事项倾向于它。在一个可能陷入更基本斗争的世界中,科技未必会有同样的优先级。
如果 AI 能影响就业,这本身就会对其产生阻碍,因为它会引发基本的生存斗争。最终,世界必须向均衡摆动,承认来自各个角落的所有力量。世界不是一个科技实验室。