La explosión cámbrica de las arquitecturas de chips para IA
AI Chip Architectures
Desde la conferencia Turing de Hennessy y Patterson en 2018, que predijo una explosión cámbrica de arquitecturas de computadores, el panorama de los chips para IA ha florecido. Este artículo analiza las filosofías, arquitecturas, métodos de escalado y stacks de software de los principales actores: NVIDIA GPU, TPU de Google, Trainium de AWS, Cerebras Wafer-Scale Engine y Groq LPU. Explica el problema de la multiplicación de matrices, el muro de memoria y las estrategias de cada diseño para mover datos eficientemente, desde el escalado de memoria hasta el empaquetado multi-die.
La predicción de cierre: "la próxima década verá una explosión cámbrica de nuevas arquitecturas de computadores". Esta predicción se hizo realidad.
- hliyan
¿Alguien está trabajando en ejecutar redes neuronales en arquitecturas de CPU que no estén limitadas por señales de reloj síncronas? Las redes neuronales orgánicas son inherentemente asíncronas y las señales se propagan a través de diferentes partes de la red a su propio ritmo.
- ilaksh
Esos son logros asombrosos, pero a mí me interesan más los avances de investigación en cosas como la computación en memoria (analógica) u otros enfoques diferentes. Empresas como EnCharge, Mythic, etc. Y dispositivos mucho más eficientes como RRAM, MRAM y FET. Como los FE-FET con AlScN. Lo que está saliendo de la investigación o todavía está en investigación es más emocionante en cuanto al potencial de mejoras verdaderamente enormes en eficiencia y rendimiento. Taalas también es interesante por su eficiencia y velocidad. Supongo que acaba de ser comprada por AMD.
- hadlock
Quizás sea solo yo, pero entre la fuente extremadamente delgada y el diseño, me resulta muy difícil de leer. El uso excesivo e incorrecto de las cursivas también confunde.
- pure_magic
Este texto probablemente fue generado por IA. Casi ilegible.
- paaloeye
No está mal, pero no deberían haber sido como 3 publicaciones.