AI 芯片架构：从 GPU 到 LPUs 的爆发

AI Chip Architectures

John Hennessy 和 David Patterson 曾预言计算机架构将迎来“寒武纪大爆发”，如今这一预言已成现实。随着 Moore's Law 和 Dennard Scaling 的终结，通用 CPU 性能增长停滞，专为 AI 设计的领域专用架构（DSAs）应运而生。从 NVIDIA 的 GPU 到 Google 的 TPU，再到 Groq 的 LPU 和 Cerebras 的 Wafer-Scale Engine，数十种架构正在激烈竞争。本文深入剖析了这些芯片背后的设计哲学、架构差异及扩展策略，探讨了在“内存墙”挑战下，不同架构如何通过优化数据流动和计算单元来解决 AI 计算中核心的矩阵乘法难题。