AIチップアーキテクチャの最前線：NVIDIA GPUからGroq LPUまで、データ移動を制する設計思想を徹底解説

AI Chip Architectures

2018年のチューリング賞講演でHennessyとPattersonが予言した「コンピュータアーキテクチャのカンブリア爆発」は現実のものとなった。現在、GPU、TPU、LPU、NPU、DPU、ASIC、ウェハスケールエンジン、再構成可能データフロー、ニューロモルフィック、フォトニック、アナログなど、数十ものアーキテクチャが開発されている。本稿は、AIコンピューティングの中心である行列乗算に焦点を当て、主要なアーキテクチャ（NVIDIA GPU、AMD、Google TPU、Cerebras、Groq LPUなど）の哲学、アーキテクチャ、スケーリング方法、ソフトウェアスタックを比較する。特に、データがどこに存在し、どのように計算ユニットに移動するかという「メモリウォール」問題への各社の戦略を解説する。