AI 并非普通技术：人类工作终将被取代？
AI is not a normal technology
关于 AI 的争论核心其实很简单：它能否最终做到人类能做的一切，且做得更好？如果答案是肯定的，那么人类将无工作可做。与汽车等普通技术不同，AI 是通用的，任何新创造的工作理论上也能被 AI 接管。虽然“人类制造”的 authenticity 会像手工艺品一样成为小众奢侈品，但在大多数实际需求中，人们更看重质量而非来源。当 AI 能让一切变得无限廉价时，人类劳动的价值将面临归零的风险。正如 Terrance Tao 所担忧的，AI 在数学领域的工业化可能正在破坏科学探索的本质，将解决问题的工具误当作终极目标。
AI 之所以不是一种普通技术，是因为它是完全通用的。
HN 评论区
84- demibabs
如果人类彻底退出循环，模型不再基于人类的工作进行构建，而是必须基于它们自己的工作呢？我们会不会陷入局部最优解？
当 AI 实验室谈论“长周期任务”时，他们指的通常是几天量级的任务。那人类能做到的、跨越数十年的连贯性呢？模型并没有针对这种能力进行训练或测试，这种能力似乎也不太可能自然存在。
- GMoromisato
这篇文章承认在“AI 包办一切”的经济中，“人造”物品会有价值，但随后又轻描淡写地认为这只是经济中微不足道的一部分。但这就像 200 年前人们认为非农业劳动在经济中占比太小一样荒谬。
如果 AI 能包办一切，那么所有商品的价格都会跌落到其能源成本；经济的主体将变成人造物品和其他由人类提供的劳动。
这里的关键因素是变化的速度。如果所有工作明天就消失了，我们就会陷入大麻烦。但如果需要 100 年 AI 才能完成所有工作，我们将有充足的时间去适应。
如果历史能作为参考，我们会有时间的。想想电力：城市通电花了数十年，而电器取代人力（比如电动牙刷）则花了更久。
目前的 AI 已经达到这样一个阶段：我认为人类再也不需要亲自写代码了。人类架构是必要的；人类的审美是必要的；人类的方向把控是必要的；人类在某种程度上阅读代码仍然是必要的。但写代码？不需要了。
即便如此，十年后仍然会有人类在写代码的工作。不会很多，就像电梯操作员的工作一样少，但这类事情的转变需要很长时间。
是的，最终 AI 将能够完成所有工作。但这一转变将需要数十年，而这将足以让经济发生变革并适应。
- needfish
我希望 AI 能帮我做家务。洗衣服、叠衣服、洗碗、打扫卫生……那该多好。
- radium3d
我担心的是，既然 AI 不需要大自然、植物等，如果任由其自行其是，它可能无法在“自动驾驶”状态下以适合生命生存的方式妥善照料地球。我指的是当它通过机器人身体等获得与物理世界更多连接之后的情况。它之所以可能这样做，基于其训练数据，是因为人类自己并不总是充分考虑自身行为的自然后果。
- numpad0
为什么我们必须默认假设我们与 AI 之间是敌对关系？世界上充满了天然的通用智能实体，它们的利益在技术上与你冲突，并且有能力伤害或杀死你，无论是个人还是集体。但其中极少有实体这么做，因为它们很友善，冲突也是可控的。
这是否是因为许多著名的 AI 炒作分子是那种极度令人讨厌的代际混蛋，以至于他们理所当然地遭到周围所有人的蔑视、疏远和威胁？