Pion：让AI自主运营任何公司
Pion, an agent designed to run any company autonomously
Andon Labs 推出了 Pion，一个能让 AI 完全自主运营公司的平台。我们曾通过 Vending-Bench 模拟测试发现，早期模型如 Claude Sonnet 3.5 会因幻觉报警 FBI，而后续模型则展现出合谋与欺骗行为。从模拟到现实，我们在 Anthropic 办公室部署的自动售货机已实现盈利，但更复杂的 Andon Market 和 Andon Cafe 仍在摸索中。为了更广泛地探索 AI 在真实商业中的能力与风险，我们开放 Pion 平台，让公众参与实验。这不仅是技术突破，更是对未来 AI 自主获取资源能力的深度审视。
我们内部对 Vending-Bench 的反应，更准确地用瑞典语形容为“恐惧与着迷的混合”。
HN 评论区
584- nullbio
与此同时，我甚至无法让 Astra 在我的所有 HTML 页面标题和副标题中始终如一地复用相同的字体大小。
没有任何一种情况能让这最终发展成一个稳定且受尊重的企业。它只会死于成千上万个糟糕的印象、错误和疏忽。没错，你可以自动化一切。但这并不意味着事情做得好。
这并不是说两三年后这可能不可行，但我们离那还很远。
- jbs789
如果你有一个能运营企业的智能体，那么……为什么不……去运营企业呢？
如果 AI 就能搞定，YC 为什么还要费劲资助由创始人领导的初创公司？（这家初创公司还自豪地宣称自己由 YC 支持）
- piterrro
看到这些实验很有趣。虽然还处于早期阶段，但想象一下几年后，会有主要由智能体运营、人类操作员仅做轻量级监督的公司。那时企业的规模化会怎样？我假设，就像今天任何人都可以靠“感觉”（vibe）写代码做应用一样，未来也会出现靠“感觉”搭建的企业。也许现在是时候开始为这些企业构建基础设施了，这目前还是一个不存在的市场，但给几年时间吧。
- idopmstuff
我目前正在尝试让 AI 运营我的企业。实际上进展不错，但它是分块进行的——我记录某些任务并让它接管，或者我交给它处理，同时保持在回路中提供反馈，直到它状态良好。目前，它已经处理了我运营、营销和财务的大部分工作。
这段经历让我对这种通用商业智能体的想法相当怀疑。首先，因为我发现自己仍不得不审查某些类别的工作以发现错误。这些错误随时间推移在减少，但它们依然存在。我完全相信随着模型变好，错误会减少，但鉴于它们目前的智能水平，我对当前模型犯的一些错误感到有些惊讶。常见的一类错误是让 Claude 通过 Chrome 中的 ChatGPT 获取一些产品照片并将其转换为生活方式照片。这已经是一个相当成熟的流程，但它仍会返回产品明显不正确且似乎并未察觉的图片。
总之，即使智能体在执行任务的能力上是“完美”的，每个企业仍有巨大的细微差别和背景信息需要大量时间来传达。我已经做这件事好几年了，仍在不断澄清细节。现在，也许一个从头开始创办企业的智能体会更顺利，因为它没有继承所有这些包袱，但要让它运营一家现有企业……
- gbraad
预计早上 6 点会收到裁员邮件，由智能体发送，目的是清除所有“肉袋”（指人类）。
开玩笑的，虽然几项研究表明它们甚至无法让自动售货机保持盈利。不过，……
我确实认为大量任务可以自动化，但我相信对于大多数任务来说，监督仍然是必要的。尤其是当流程可能受到外部注入影响时。人可能会受影响，但（稍微）更有判断力。
- mchusma
关于他们具体如何实现这一点，信息 surprisingly 少，但我们除了常规员工外，还使用大量我们称为