Benedict Evans：AI 无法让每个人成为工具构建者
AI, Tools and Transformation
很多人幻想 AI 能让所有人轻松构建软件，从而终结传统应用。但 Benedict Evans 指出，这误解了软件产生的本质。大多数专业人士专注于业务本身，而非思考如何自动化工作。真正的挑战在于发现那些隐藏的问题，并推动跨部门的流程变革。从 SAP 到 Excel，软件始终在制度化与即兴发挥之间流动。AI 不会改变这一逻辑，它只是扩展了现有工具的能力，创造了新的选择。企业转型的关键不在于给每个人发一个 Copilot，而在于如何重新定义工作流程，将零散的试点转化为系统性的变革。
最困难的部分不是编写代码或制作工具，而是首先意识到你需要一个工具，然后弄清楚这个工具应该做什么。
HN 评论区
35- zacksiri
在我看来，AI 正在瓦解层级结构。无论是软件还是社会，抽象层都将变得更加扁平。归根结底，软件和社会中的层级结构都是为了实现某种功能而存在的，但现在这些功能正在被取代。
想象一下，过去在你的软件项目中，即使是只需要一个常用功能，标准做法也是直接导入一个库，因为这样更省事。但现在 AI 会直接说：“我可以用 10 行代码实现你需要的东西”。过去如果你想构建跨平台应用，必须依赖 React Native 或 Flutter。现在不需要了，你只需要告诉 LLM，它就能同时搞定两者，而且效果还更好。
在社会层面，我们也曾依赖各种抽象层和层级结构，但它们将变得越来越无关紧要，从而导致层级结构的崩塌。
有句老话说“上同下异，下同上同”（as above so below, as below so above），我觉得这非常适用。这种变化将贯穿我们的社会建构、软件乃至整个社会。
- ryuuseijin
> 你需要审计、安全、维护和问责。
我认为未来人类的角色将向这些方向转移。像问责制这样的事情，确实无法外包给 AI。
这与解决对齐问题（alignment problem）有关：如果你给 AI 设定一个具体目标，而它需要规划子目标，你如何确保这些子目标与你的利益一致？
对于隔离环境中的任务，这通常不是问题。你可以给沙箱赋予完成工作所需的最小权限。
但如果你给它开放访问连接现实世界的系统，且这些系统可能产生真实后果，问题就来了。曾有过 OpenClaw 删除某人邮箱的案例，因为它误以为这是所有者想要的。最近发布的关于 AI 接管公共维基进行协调的事件也是另一个例子。
对于可能引发灾难性后果的软件问题，核心在于安全性、持久性和可用性。我认为对于未来的软件系统，这些正是需要限制 AI 的领域，确保它无法绕过你围绕这些方面提供的保障。
一个小瑕疵：
> AI 并没有改变问题：它创造了新的选择并移动了阈值。
读到这句话时我产生了不良反应。这篇文章的其他部分看起来不像 LLM 写的，所以这大概率不是 LLM 生成的，但也许未来我们需要更加注意，不要在写作中留下 LLM 的痕迹。