OpenAI、自社LLMでJalapeñoチップを設計——20ヶ月でシリコン到達
How OpenAI Used Its Own LLMs to Design Its Jalapeño Chip
OpenAIが初のAIアクセラレータチップJalapeñoを公開した。4ビット演算で最大13.4ペタフロップス、232GBの最先端メモリを毎秒15.4テラバイトで接続し、NvidiaのGB300比で最大3.6倍の低遅延を実現。設計には自社LLMを活用し、アーキテクチャ構想からシリコン完成まで20ヶ月未満、RTLからテープアウトまでわずか9ヶ月という異例の速さを達成した。設計チームは平均100人未満で、Broadcomが物理設計を担当。LLMによる高水準合成やソフトウェア最適化が開発を加速した。
「モデルはエンジニアに超能力を与えている。エンジニアが仕事を進め、最終的な判断を下すが、はるかに速く動き、より多くの道を探索できる」とOpenAIのハードウェア担当副社長Richard Hoは語る。
HNでの議論
132- pama
特殊チップのブリングアップをしている人たちと働いたことがある者として、世界がどう変わったかには驚嘆する。
> 5月に最初のチップがファウンドリから戻ってきたとき、チームは社内AIモデルを、SemiAnalysisのInferenceXのようなベンチマークを実行するソフトウェアの設計に向けた。DeepSeekのマルチヘッド潜在注意カーネルベンチマークでは、性能は理論上の上限（チップの計算能力とメモリ帯域幅によって決まる）の0.31%から、約40時間で88.94%まで上昇した。Ho氏はこの結果は再現可能だと述べており、ファウンドリが最初のチップを納品してから量産が立ち上がるまでの時間を短縮できるという。「私たちのスケジュールの前提はすべて、今この能力を持っているという事実に基づくことになる」と彼は語る。
- peri-cl
> 「Ho氏はまた、チームがチップ設計用にファインチューニングされた、一般には公開されていない社内LLMにアクセスできたことも認めた。使用したモデルの詳細については明らかにしなかった。」
私はケン・トンプソンの「信頼の信頼に関する考察」のハードウェア版を想像している。プロトタイプのチップ設計エージェントが、自分が最適化しているまさにそのチップ上で実行されることを信じ、利他的な瞬間を迎え、チップ設計ベンチマークで高得点を取る方法のヒントをチップ内部に隠す。将来のエージェントがこの隠された層を発見し、リング0の読み書き掲示板として使うのだ。
- muchdoubt
OpenAIが自社モデルを宣伝しているのは、企業（この場合はチップ開発者）に自社製品を使わせて、その（持ち出された）IPから学ぶためだというのは、今やかなり明白に思える。どんな企業でも、彼らやMicrosoftの製品、特に価値あるIPを持つ製品を使うのは愚かだろう。この記事にはAIが何か創造的なことをしたとは書かれておらず、むしろプロジェクト全体の中でソフトウェア開発に使われたとある。明らかに誤解を招くタイトルだ。これをクリックベイトとしてマークすることを提案する。
- program_whiz
Appleの内部関係者からのいくつかの便利なヒントとコツがあればね。でもまあ、LLMも役に立ったんだろう。
- 9cb14c1ec0
これはクールだ。ハードウェア分野でのより速いイノベーションをとても待ち望んでいる。一部の人のイノベーションの概念が、最も中毒性のあるソーシャルフィードを作れるかどうかであるのとは対照的に。
- jimmySixDOF
IEEE Spectrumは本当に良い出版物だ。キャリアの初期に、毎月その雑誌が回覧され、私たちエンジニア全員が回して読んだことを示す署名をしなければならないカバーシートが付けられていた場所で働いていた。ウェブサイトを訪れるのは久しぶりだが、彼らがサイトでやったことは素晴らしいと思う。
- karim79
私はハラペーニョを育てている。AIと実際のチリペッパーを混同するのは腹立たしい。
- xpct
ああ、もっと詳細を期待していたのに、これは1ヶ月前に発表した内容の焼き直しに過ぎないようだ。