Etched Sohu vs NVIDIA: 트랜스포머 ASIC이 GPU를 이길 수 있을까?

Etched Sohu vs. Nvidia: Transformer ASIC vs. GPU (2026)

Etched AI의 Sohu 칩은 트랜스포머 어텐션만을 고정 회로로 구현한 ASIC로, 8칩 서버 기준 Llama 70B에서 초당 50만 토큰을 처리한다고 주장한다. 하지만 이 수치는 배치 크기 1에서 측정된 것으로, 실제 서빙 환경의 배치 크기에서는 GPU와의 격차가 줄어든다. 또한 Sohu는 비전 모델, MoE, SSM 등 트랜스포머 외 아키텍처를 지원하지 않아 현재 프로덕션 워크로드의 상당 부분을 실행할 수 없다. 이 글은 Sohu의 아키텍처, H100·B200·Groq 3 LPU와의 비교, 비용 대비 토큰 수 프레임워크를 제공하며, ASIC 투자가 유효한 조건을 분석한다.