如果 AI 每秒生成百万 Token，世界会怎样？
What if AI worked at 1.000.000 tokens per seconds?
当 AI 的生成速度达到每秒百万 Token，写故事、写代码只需几秒，但这并不意味着工作能瞬间完成。文章通过四个思想实验揭示：生成速度的提升会让写作变得廉价，但判断、测试、物理验证等串行步骤依然是瓶颈。无论速度多快，品味、清晰的规格说明和现实世界的反馈始终稀缺。真正的挑战不在于让 AI 写得更快，而在于我们如何定义“完成”，以及如何做出关键决策。
当生成变得廉价，判断就变得珍贵。
HN 评论区
11- gchamonlive
我不想批评这篇文章，但如果 LLM 能达到每秒 100 万 Token 的吞吐量，更有趣的观点其实是你能用它构建无数实时应用。
我喜欢电子音乐，经常跟着跳舞。如果有一个 LLM 具备足够的吞吐量和低延迟，能反过来做这件事——捕捉我的舞蹈动作并生成音乐，那会怎样？
我们仍然停留在仰望原始人工认知智能的阶段，但真正的进步在于，当我们不再将这些视为外部智能，而是将其视为自身的延伸时。
- sixtyj
“如果”只是暂时的。更高的 TPS 只是时间问题。在这样的用例中，“人在回路”将被淘汰，因为没有人——哪怕是最快的人——能跟上节奏，人类反而成了最慢的环节。
有多少行业会受影响？有多少可能的用例？
如果你解决了一切，人们该做什么？坐在海滩上喝饮料吗？
人脑大规模退化，神经退行性疾病激增，因为未使用的设备开始出错？
100 万 TPS 对某些用例来说很好，但不会公开可用……
- ed
在 100 万 TPS 下，LLM 可以实时生成 UI（一个 5k 的网页只需 5 毫秒）。当这种情况发生时，应用将与当今的架构毫无共同之处。（首先，渲染、事件处理和数据存储都可以移到上下文里。）