Etched Sohu vs NVIDIA: ASIC de transformadores contra GPU
Etched Sohu vs. Nvidia: Transformer ASIC vs. GPU (2026)
Etched AI ha presentado Sohu, un ASIC de solo transformadores que afirma alcanzar 500.000 tokens por segundo en un servidor de 8 chips para Llama 70B. Este análisis detalla la arquitectura de Sohu, su memoria HBM3E y su falta de programabilidad, comparándolo con GPUs como H100 y B200, y con el Groq 3 LPU. Se discuten las limitaciones, como la incompatibilidad con modelos MoE y de visión, y se ofrece un marco para evaluar si la apuesta por ASIC es rentable. Con $800M recaudados y contratos por $1B, Sohu aún no está disponible públicamente y carece de benchmarks independientes.
Sohu es una apuesta a que la atención de transformadores es la arquitectura dominante de IA durante los próximos años, y que la carga de trabajo es lo suficientemente estable como para justificar renunciar a toda programabilidad.
- tonis2
Incluso si el chip ASIC Sohu hace la parte de atención súper rápido, ¿no vendrán los cuellos de botella cuando estos datos pasen a alguna siguiente etapa?
Solo estoy pensando cuál es la probabilidad de que realmente empecemos a usar chips ASIC para ciertas partes de la inferencia de IA.
- pyrolistical
No puedo esperar a un ASIC de un solo chip para qwen3.8 27b.
Es pequeño, así que debería ser barato por chip. Y es mucho más inteligente de lo que debería ser para su tamaño.
El problema es que los ASIC tardan una eternidad en fabricarse y siempre van meses por detrás del último SOTA de pesos abiertos.
- rvz
2 horas y sin comentarios me hace preguntarme si el chip Etched existe o no.
> Las cifras de Sohu son por chip, derivadas de la afirmación publicada por Etched de 500,000 tok/s en un servidor de 8 chips para Llama 70B; no verificadas de forma independiente. (afirmado por Etched)
Así que estos no son benchmarks verificados y son todas afirmaciones. ¿De nuevo, este chip es real?