1GB Qwen权重竟能运行Nintendo游戏

A Working Nintendo in ~1GB of Qwen Weights

dbreunig 在 GitHub 上开源了 nesformer 项目,将 NES 主机的 6502 CPU 直接编译进了 Qwen3.5 模型的权重中。无需训练,编译器计算了每一个权重参数,让模型在预测下一个 token 时模拟 CPU 的执行日志。配合一个小型宿主程序处理画面和输入,这个仅约 1GB 的模型就能完美运行《超级马里奥》等经典游戏。尽管运行速度比真机慢几百倍,但每一帧都与传统模拟器完全一致,展示了将硬件电路编译为神经网络权重的惊人可能性。

没有人训练过这些权重,编译器计算了其中的每一个参数。
  1. dbreunig

    关于这个过程,我有几点想法……

    首先,Opus 5.5 仅用两个提示词就生成了可用的权重和代码:

    1. 阅读这篇文章及相关源代码:https://divagr.com/blog/qwenputer。然后探索是否可以用这种技术模拟 Nintendo Entertainment System(NES)的芯片和内存(就像人们今天用 FPGA 在 MISTRs 上做的那样)。如果可以,你需要构建多大的模型?如果你能用更小更快的模型,能否达到标准时钟频率?

    它返回的图表清楚地表明,任何模型都会很慢。但这依然很有趣,所以第二个提示词是:

    2. 我觉得我们应该把它造出来!纯粹为了好玩。慢一点也没关系。我们想要拥有权重,以及一个可以指向 ROM 并运行的命令行界面(CLI)。

    虽然这是 Opus 的一次史诗级运行(5.5 是一个能力惊人的模型),但这确实是一个结构非常清晰的挑战。

    互联网上有一个长期存在且令人惊叹的经典游戏模拟社区可供参考。而且该社区创建了……一致性测试!Opus 找到了这些测试,并基于其中一个构建了系统,该测试包含超过 3000 条黄金指令:https://github.com/christopherpow/nes-test-roms/blob/master/...

    此外,还有 Opus 用来驱动权重生成的原始 Qwenputer 仓库,那至关重要。

    但这很好地展示了:在拥有恰当的参考资料、优秀的规范、一致性测试以及清晰的方向时,这些模型能做出什么。

  2. armcat

    这开启了太多有趣的机会。原则上,人们可以在 LLM 的权重内部编译一个小型虚拟机(VM)。该 VM 可以托管例如 Python 解释器、shell 以及 sed、cat、grep 等工具。LLM 不再需要进行缓慢的自回归 token 生成并调用当前的“外部”工具,而是可以直接在 LLM 内部执行除网络搜索以外的所有操作,仅需矩阵乘法(matmul)运算。你甚至可以优化它以批处理模式运行。你还可以拥有一个类似 gdb 的应用程序,能够逐步调试 LLM 的前向传播过程。总之,只是一个疯狂的念头。祝大家周末愉快!

  3. jacquesm

    我喜欢这些黑客技术,尽管从效率的角度来看,这让我这个热衷于汇编代码高尔夫(assembly-code-golfing)的大脑感到毛骨悚然。这也让我更加欣赏确定性程序相比 AI 是多么高效。

  4. pbohun

    > 总体而言,nesformer 的运行速度比真实主机慢 150–290 倍。

    我喜欢这类项目,因为它们有助于展示 LLM 与普通程序之间巨大的算力需求差异。

    前段时间我看到有人声称我们只需让 LMM(多模态大模型)在每一帧都幻觉出一个完整的操作系统。我想,从技术上讲,这现在已被证明是可行的,但它会比普通操作系统慢数千倍,同时需要数千倍的算力(与普通操作系统相比是数百万倍的差距!)。

  5. cafebeen

    我原本以为这只会模拟 CPU 本身,但惊讶地发现它们实际上也模拟了 RAM(通过 Gated DeltaNet 架构包含在模型内部)。所以据我理解,CPU、ROM 和 RAM 都由模型内部处理,初始化后唯一的输入就是控制器事件,太疯狂了。

  6. dormento

    不——不过“根本不存在任天堂(Nintendo)这种东西”。

    https://www.reddit.com/media?url=https%3A%2F%2Fi.redd.it%2F5...

    “马里奥谢谢你”。

  7. nico

    > nesformer 基于 Divyansh Agrawal 的 Qwenputer,后者将 CHIP-8 随后是 RISC-V CPU 编译到了 Qwen3.5-4B 中。它复用了 Qwenputer 的编译器及其核心技巧:模型的 Gated DeltaNet 状态即为机器的内存。

    这太棒了,太爱了!Qwenputer 本身也非常酷。

  8. WoodenChair

    我想我不明白这有什么意义。当然,一组数字逻辑电路可以简化为一组权重。我是不是漏掉了什么?

同日更多故事

2026-10-30