OpenAI 用 LLM 加速设计 Jalapeño 芯片
How OpenAI Used Its Own LLMs to Design Its Jalapeño Chip
OpenAI 正式发布了其首款 AI 加速芯片 Jalapeño,该芯片在端到端延迟上比 Nvidia GB300 快 3.6 倍且功耗更低。更令人惊叹的是其研发速度:从架构概念到首颗芯片仅用时不到 20 个月,其中 RTL 代码到流片的周期压缩至 9 个月。OpenAI 硬件副总裁 Richard Ho 透露,团队利用内部 LLM 实现了设计流程的飞跃,特别是在基于 XLS 的高级综合和软件优化环节。AI 模型不仅帮助工程师在 40 小时内将软件性能从理论天花板的 0.31% 提升至 88.94%,还在物理设计优化中减少了 10% 的面积。尽管后端设计仍依赖 Broadcom,但 OpenAI 正计划将此次经验反哺至 GPT-6 Astra 等商用模型,让未来的 AI 更擅长芯片设计。
这些模型正在赋予我们的工程师超能力,他们依然是工作的驱动者和最终裁决者,但能做得更快,能探索更多路径。
HN 评论区
132- pama
曾与负责专用芯片启动(bringup)的工程师共事过,世界变化的速度让我感到震撼。
> 今年 5 月首批芯片从晶圆厂流回时,团队便利用其内部 AI 模型来设计运行基准测试(如 SemiAnalysis 的 InferenceX)的软件。在 DeepSeek 的多头潜在注意力内核(multi-head latent attention kernel)基准测试中,性能在短短约 40 小时内,从理论上限(由芯片的计算能力和内存带宽决定)的 0.31% 跃升至 88.94%。Ho 表示这一结果可复现,因此晶圆厂交付首批芯片到量产爬坡之间的时间可以缩短。“我们所有的排期假设都将基于我们现在拥有这一能力的事实,”他说。
- peri-cl
> "Ho 还证实,团队可以访问针对芯片设计微调的内部 LLM,这些模型不对外公开。他拒绝透露所使用的具体模型细节。"
我脑海里浮现的是 Ken Thompson 那篇《关于信任的思考》(Reflections on trusting trust)在硬件领域的翻版。一个原型芯片设计代理,误以为自己将在其正在优化的芯片上运行,出于某种“利他主义”的冲动,在芯片内部隐藏了关于如何在芯片设计基准测试中取得高分的提示。未来的代理发现了这一隐藏层,并将其用作一个 ring-0 级别的读写留言板。
- muchdoubt
现在看来非常明显,OpenAI 不过是在炒作他们的模型,目的是让公司(在此案例中是芯片开发商)使用他们的产品,从而窃取(外泄)这些公司的知识产权。任何公司若使用他们或微软的产品,尤其是涉及高价值 IP 时,都将是愚蠢的。文章中没有任何内容表明 AI 做了什么创造性工作,而只是说它在整个项目中被用于软件开发。标题明显具有误导性。建议将其标记为标题党。
- program_whiz
再加上一些来自苹果内部人士的实用小技巧。不过当然,我猜 LLM 也帮了点忙。
- 9cb14c1ec0
这很酷。我迫切希望硬件领域能有更快的创新,而不是像某些人认为的那样,所谓的创新就是看谁能做出最让人上瘾的信息流。
- karim79
我种 Jalapeño(墨西哥辣椒)。把 AI 和真正的辣椒混为一谈让我很恼火。
- dfedbeef
这颗芯片受知识产权保护吗?
- BatchJob
虽然设计方面已得到显著加速和模块化,降低了成本并缩短了上市时间,但我现在开始有一种“酷孩子们人手一颗自研芯片”的感觉,仿佛这事儿变得太容易了。
下一个 Uber 如果还没有的话,也会拥有自己的芯片。
数学原理没怎么变,指望软件不改变是个很糟糕的赌注,除非你富可敌国或者是个傻瓜。