Etched Sohu vs NVIDIA: 트랜스포머 ASIC이 GPU를 이길 수 있을까?
Etched Sohu vs. Nvidia: Transformer ASIC vs. GPU (2026)
Etched AI의 Sohu 칩은 트랜스포머 어텐션만을 고정 회로로 구현한 ASIC로, 8칩 서버 기준 Llama 70B에서 초당 50만 토큰을 처리한다고 주장한다. 하지만 이 수치는 배치 크기 1에서 측정된 것으로, 실제 서빙 환경의 배치 크기에서는 GPU와의 격차가 줄어든다. 또한 Sohu는 비전 모델, MoE, SSM 등 트랜스포머 외 아키텍처를 지원하지 않아 현재 프로덕션 워크로드의 상당 부분을 실행할 수 없다. 이 글은 Sohu의 아키텍처, H100·B200·Groq 3 LPU와의 비교, 비용 대비 토큰 수 프레임워크를 제공하며, ASIC 투자가 유효한 조건을 분석한다.
Sohu는 트랜스포머 어텐션이 향후 수년간 지배적인 AI 아키텍처이고, 워크로드가 충분히 안정적이어서 모든 프로그래밍 가능성을 포기할 가치가 있다는 베팅이다.
- tonis2
Sohu ASIC 칩이 어텐션 부분을 엄청 빠르게 처리한다 해도, 이 데이터가 다음 단계로 넘어갈 때 병목이 생기지 않을까?
우리가 AI 추론의 특정 부분에 실제로 ASIC 칩을 사용하게 될 가능성이 얼마나 될지 그냥 궁금해서요.
- pyrolistical
단일 칩 ASIC qwen3.8 27b가 빨리 나왔으면 좋겠네요.
크기가 작아서 칩당 가격이 저렴할 거예요. 그리고 크기에 비해 훨씬 똑똑하죠.
문제는 ASIC은 만드는 데 오래 걸리고 항상 최신 오픈 가중치 SOTA보다 몇 달 뒤처진다는 거예요.
- rvz
2시간이 지나도 댓글이 없네요. Etched 칩이 실제로 존재하는지 궁금해지네요.
> Sohu 수치는 칩당 수치로, Etched가 발표한 Llama 70B에서 8칩 서버가 500,000 tok/s를 처리한다는 주장에서 파생된 것입니다. 독립적으로 검증되지 않았습니다. (Etched가 주장)
그러니까 이건 검증된 벤치마크가 아니라 모두 주장일 뿐이네요. 다시 말하지만, 이 칩이 실제로 존재하는 건가요?