OpenAI、自社LLMでJalapeñoチップを設計——20ヶ月でシリコン到達

How OpenAI Used Its Own LLMs to Design Its Jalapeño Chip

OpenAIが初のAIアクセラレータチップJalapeñoを公開した。4ビット演算で最大13.4ペタフロップス、232GBの最先端メモリを毎秒15.4テラバイトで接続し、NvidiaのGB300比で最大3.6倍の低遅延を実現。設計には自社LLMを活用し、アーキテクチャ構想からシリコン完成まで20ヶ月未満、RTLからテープアウトまでわずか9ヶ月という異例の速さを達成した。設計チームは平均100人未満で、Broadcomが物理設計を担当。LLMによる高水準合成やソフトウェア最適化が開発を加速した。