Кремниевая лихорадка: как устроены чипы для ИИ и кто выигрывает гонку
AI Chip Architectures
Обзор архитектур чипов для ИИ: от GPU и TPU до LPU, NPU, DPU, ASIC, wafer-scale и нейроморфных. Разбираются философия, архитектура, методы масштабирования и программный стек каждого подхода. Рассматриваются победители: NVIDIA, AMD, Google TPU, Trainium, Cerebras и Groq, а также ключевые проблемы — память и пропускная способность.
Архитектурная проблема здесь — перемещение чисел туда, где матмулы выполняются достаточно быстро.
- hliyan
Кто-нибудь работает над запуском нейросетей на CPU-архитектурах, не ограниченных синхронными тактовыми сигналами? Органические нейросети по своей природе асинхронны, и сигналы распространяются по разным частям сети в своём собственном темпе.
- ilaksh
Это выдающиеся достижения, но мне больше интересны исследовательские разработки в таких областях, как аналоговые вычисления в памяти (In-Memory) или другие альтернативные подходы. Такие компании, как EnCharge, Mythic и другие. А также гораздо более эффективные устройства, такие как RRAM, MRAM и транзисторы. Например, FE-FET с AlScN. То, что только выходит из исследований или ещё находится в стадии исследований, более захватывающе с точки зрения потенциала для действительно огромного повышения эффективности и производительности. Taalas тоже интересна из-за своей эффективности и скорости. Похоже, её только что купила AMD.
- hadlock
Может, это только мне так кажется, но из-за очень тонкого шрифта и дизайна макета мне это крайне трудно воспринимать. Чрезмерное и неправильное использование курсива тоже сбивает с толку.
- pure_magic
Этот текст, скорее всего, сгенерирован ИИ. На грани нечитаемости.
- paaloeye
Неплохо, но не стоило разбивать на три поста.