OpenAIの「Jalapeño」チップ、Nvidia Blackwellを圧倒—性能と電力効率で

OpenAI Jalapeño: Better than Nvidia Blackwell

▲ 575bmulholland369 HNでの議論
OpenAIの「Jalapeño」チップ、Nvidia Blackwellを圧倒—性能と電力効率で

OpenAIがHot Chipsで発表した推論専用チップ「Jalapeño」は、Broadcomと共同開発され、設計開始から約16ヶ月という異例の速さでテープアウトに成功。SemiAnalysisのベンチマーク「InferenceX」によると、DeepSeek R1やKimi K2.5、GPT-OSSなどのモデルで、NvidiaやAMD、Googleのチップを性能・電力効率（perf/W）で上回りました。特に、単一トークン予測（STP）でBlackwellを凌駕し、HBM4を採用。OpenAIは特定モデル向けの特化ではなく、汎用推論チップとして設計したとしています。

「Jalapeñoは、他のどのチップも圧倒する。」
原文を読む →HNでの議論RSS

HNでの議論

369
  1. Traster

    この半分析記事は、実際の分析というよりはOpenAIのプレスリリースのように読める。正直なところ、いくつかの記述は完全に嘘のように思える。最初はベンチマークに招待されたと主張しているのに、途中からOpenAIがすべての数値を提供したと主張に切り替わっている。これは本当に残念だ。なぜなら、業界で起きていることの詳細でニュアンスがあり、信頼できる分析を読みたいからだ。そして、この記事はまったく信頼できないように思える。

  2. mchusma

    彼らがこれを汎用チップだと言っていたと思うが、Anthropic/OpenAIは今やLLMの重みをチップ自体に焼き込める規模になっていると思う。例えば、GPT Solをカスタムチップに焼き込んで1億ドルで稼働させ、10倍速く10倍安く動くなら、チップが十分長く使える限り、元が取れるはずだ。2年前は1年以上使えるものは何もなかったが、今では多くの古いモデルが使われている（例：Haiku 4.5、GPT-OSS 120b）。この傾向は続くと思う。これがTaalas（AMDに買収された）がやっていたことだと知っている。彼らのデモはhttps://chatjimmy.ai/で、Llama 3.1 8Bに基づいている。これがすぐに始まるべきだと感じる。

  3. iFire

    では、推論専用チップの中でどれを買えるのか？唯一の報告は、AlibabaのスマートNIC FPGAで、ONNXデザインを取って自分たちで書くものだ。https://essenceia.github.io/projects/alibaba_cloud_fpga/ 私のM2 Pro Mac Miniでは、ANEは2ギガバイトしか許可していないが、Metal GPUはシステムRAMを使える。現在、https://www.asus.com/motherboards-components/ai-accelerator/... を試している。これは4ビット、8ビット、16ビットのAI推論チップで、8ギガバイトのRAMを搭載している。UGen300はHailo-10Hチップセットを搭載している。ASUSストアでのugen300-usb-8gの価格は365カナダドルだ。

  4. g00afthrowaway

    ここで半分析が信頼性を持つのは面白い。創業者はハードウェア界隈で闇市場の情報トレーダーとしてよく知られている。仕組みはこうだ：1. 創業者は学部生インターンや大学院生インターンと仲良くなり、贈り物を買い、ディナーやヨット、家、VCパーティーなどに招待するか、記事を書くためにお金を払う。2. 創業者はこれらのインターンから内部情報を引き出す。3. 創業者はこの情報を「コンサルティング」料金を払う企業に売る。

  5. epistasis

    FP4を見るのはとても面白い。20年前にゲノミクスでどんなHPCが必要か尋ねられたのを覚えているが、答えは基本的に「低精度、高速」だった。しかしFP4は、まあ、ほとんど滑稽だ。比較表に載っていないことの一つ：ダイサイズ。私の理解が正しければ、Rubinとほぼ同じだが、NVFP4 PFLOPsは3分の1だ。（テキストは表と矛盾している。私は表を真実として受け取っている。それは間違っているかもしれないが...）

  6. corford

    これらの初期の推論チップの取り組みは、初期の3dfx / riva / mach / powervrの時代を思い出させる。推論チップが定着するかどうか、そしてもし定着するなら、最終的な支配者が誰になるのかを見るのは興味深いだろう。

  7. Alien1Being

    警告：AIベンダーの誇大広告

  8. fraboniface

    人間の音声とのトークン/ジュール比較を見たことがなかった。人間はまだ22倍効率的だ。この分野の進歩の速さを考えると、それほど遠くない。

  9. jimmySixDOF

    今や、元Redditや4Chanに近いモデレーターたちの集団が世界クラスのレベルで行っている数兆ドル産業の分析の背後に、下品な動機がある可能性を考慮しなければならないのが大好きだ。SemiAnalysisがGartnerやMcKinseyなどと同じ布でできていないことは、AIにおける最高のストーリーの一つだ。

  10. anthonypasq

    ハードウェアの継続的な改善により、トークン価格が下がり続けないとは信じがたい。

この日のほかの記事

2026-08-25