Etched Sohu vs NVIDIA: Transformer専用ASICの真価と限界
Etched Sohu vs. Nvidia: Transformer ASIC vs. GPU (2026)
Etched AIのTransformer専用ASIC「Sohu」は、Llama 70Bで1チップあたり約62,500トークン/秒と主張するが、これはバッチサイズ1での未検証の数字。本記事では、Sohuの固定関数アーキテクチャの詳細、H100/B200/Groq LPUとの比較、そしてMoEやビジョンモデルなど実行できないワークロードの制約を解説。コストパフォーマンスの計算フレームワークも提供し、ASIC投資が実を結ぶ条件を判断する材料を示す。
Sohuは、トランスフォーマー・アテンションが今後数年間の支配的なAIアーキテクチャであり、ワークロードが十分に安定しているという賭けであり、すべてのプログラム可能性を放棄することを正当化するものである。
- tonis2
たとえSohu ASICチップがアテンション部分を超高速で処理できたとしても、そのデータが次のステージに渡るときにボトルネックが発生しないだろうか？
AI推論の特定の部分にASICチップを実際に使い始める可能性はどのくらいあるのか、ただ考えているところだ。
- pyrolistical
シングルチップASICのQwen3.8 27Bが待ちきれない。
サイズが小さいからチップあたりのコストは安いはずだ。そして、そのサイズの割にはずっと賢い。
問題は、ASICは製造に時間がかかり、常に最新のオープンウェイトSOTAから数ヶ月遅れていることだ。
- rvz
2時間経ってもコメントがないということは、Etchedのチップが実在するのか疑問に思えてくる。
> Sohuの数値はチップあたりのもので、Etchedが公表した8チップサーバーでのLlama 70B 500,000トークン/秒という主張に基づいている。独立して検証されたものではない。（Etchedの主張）
つまり、これらは検証されたベンチマークではなく、すべて主張に過ぎない。繰り返すが、このチップは本当に存在するのか？