AI 칩 아키텍처의 진화: GPU부터 웨이퍼 스케일 엔진까지

AI Chip Architectures

2018년 Turing 강연에서 John Hennessy와 David Patterson은 '컴퓨터 아키텍처의 새로운 황금기'를 예고하며 도메인 특화 아키텍처(DSA)의 필요성을 역설했습니다. 실제로 그 후 AI 칩 시장은 GPU, TPU, LPU, NPU, DPU, 웨이퍼 스케일 엔진, 뉴로모픽, 광집적, 아날로그 등 수십 가지 아키텍처가 등장하는 캄브리아기 폭발을 맞았습니다. 이 글은 NVIDIA GPU, Google TPU, Cerebras, Groq 등 주요 아키텍처의 철학, 구조, 확장 방식, 소프트웨어 스택을 비교 분석하며, AI 컴퓨팅의 핵심인 행렬 곱셈과 메모리 대역폭 문제를 해결하는 각기 다른 전략을 설명합니다.