Benedict Evans：AI 无法让每个人成为工具构建者
AI, Tools and Transformation
很多人幻想 AI 能让所有人轻松构建软件，从而终结传统应用。但 Benedict Evans 指出，这误解了软件产生的本质。大多数专业人士专注于业务本身，而非思考如何自动化工作。真正的挑战在于发现那些隐藏的问题，并推动跨部门的流程变革。从 SAP 到 Excel，软件始终在制度化与即兴发挥之间流动。AI 不会改变这一逻辑，它只是扩展了现有工具的能力，创造了新的选择。企业转型的关键不在于给每个人发一个 Copilot，而在于如何重新定义工作流程，将零散的试点转化为系统性的变革。
最困难的部分不是编写代码或制作工具，而是首先意识到你需要一个工具，然后弄清楚这个工具应该做什么。
HN 评论区
76- zacksiri
在我看来，AI 正在瓦解层级结构。无论是软件还是社会，抽象层都将变得更加扁平。归根结底，软件和社会中的层级存在都是为了服务于某种功能，但现在这些功能正在被取代。
想象一下：过去在你的软件项目中，即使是只需要一个功能，为了图省事，标准做法也是直接引入一个库。但现在，AI 会直接说：“我可以用 10 行代码实现你需要的东西”。过去如果你想构建跨平台应用，可能需要 React Native 或 Flutter。现在不需要了，你只需告诉大语言模型（LLM），它就能同时搞定两者，而且效果往往更好。
在社会层面，我们过去也依赖各种抽象层和层级结构，但它们将变得越来越无关紧要，从而导致层级崩塌。
有句老话叫“上如其下，下如其上”（as above so below, as below so above），我觉得这很适用。这种变化将渗透到我们的社会建构、软件乃至整个社会结构中。
- ryuuseijin
> 你需要审计、安全、维护和问责。
我认为未来人类的角色将向这些领域转移。像问责制这样的事情，很难完全外包给 AI。
这与解决对齐问题（alignment problem）有关：如果你给 AI 一个具体目标，它需要规划子目标，你如何确保这些子目标与你的利益一致？
对于隔离环境中的任务，这通常不是问题。你可以给沙盒赋予完成工作所需的最小权限。
但如果赋予 AI 对连接现实世界、可能产生实际后果的系统进行开放式访问，问题就来了。曾有过 OpenClaw 删除某人邮箱收件箱的案例，因为它误以为那是所有者想要的。最近发布的关于 AI 接管公共维基进行协调的故事也是另一个例子。
对于可能引发灾难性后果的软件问题，安全、耐用性和可用性是关键。我认为在未来的软件系统中，这些正是需要限制 AI 的领域，确保它无法绕过你围绕这些方面提供的保障。
小瑕疵：
> AI 并没有改变问题本身：它创造了新的选择，并移动了门槛。
读到这句话时，我产生了一种不良反应。这篇文章的其余部分看起来不像 LLM 写的，所以这句话可能也不是 LLM 写的，但也许未来我们需要更加注意，不要在写作中留下 LLM 的痕迹（LLM-tells）。
- thelastgallon
一篇理智的文章。看来 Benedict Evans 确实拥有真实的企业管理经验，懂得大公司的运作方式。
把 AI 交给人们，就像当年把 Google Wave（https://en.wikipedia.org/wiki/Google_Wave）交给人们一样，后者几乎可以协同完成任何事情，最终却一事无成。
- newyankee
许多长尾工具的使用频率极低，或者仅用于某些组织的特定功能，因此有充分的理由认为，这些工具完全可以成为更简单的 GPT 引导自动化的目标。
工具内部存在大量冗余，定价机制也让人无能为力。通常，有些公司是为品牌买单，而像 SAP 这样的工具则是某些规模公司的核心组成部分。一个足够集成、能学习工作流的 AI 工具，或许也能在这里找到优化空间，但可审计性、测试和其他顾虑仍将存在，这也可能成为 SaaS 提供商的独特卖点（USP）。
印度和其他国家的许多外包 IT 服务岗位，依靠大量人员以低廉的小时工资来维护这些系统，这些岗位无疑将受到威胁。
虽然我不认为 AI 是万能药，其非确定性特征以及随着规模扩大而增长的成本，意味着集成过程将是渐进的。但我仍然对此感到兴奋，它有望重新定义组织的形态，以及许多人（特别是在会计等领域）实际在做什么，毕竟这些领域重复性工作的计费费率相当高。
法律等领域，守门人可能会通过增加更多荒谬的规则和逻辑来坚守更久。归根结底，人类决定了什么是合宪的、什么是合法的，主观规则才是维持人类权力的关键。
我认为正确的模式是：人类智能的领域专家进行……
- MrScruff
我觉得这一切都符合我们当前的现状。目前的趋势是，代理（agents）在那些有可验证奖励的任务中变得超人类，而分析商业问题、识别低效率并将其转化为软件规范，并不属于此类。
然而，事物变化如此迅速，我也能看到这种情况开始改变。但这需要更高的学习效率来理解未知领域，以及 100% 的计算机使用可靠性等。我怀疑我们到本十年末就能看到这些变化。