Что если перестать использовать GPU?
What if we stopped using GPUs? [video]
Видео и обсуждение на Hacker News о том, что будет, если отказаться от GPU. Автор поднимает вопрос зависимости современных вычислений — от AI и ML до рендеринга — от графических ускорителей и предлагает представить альтернативный путь развития технологий.
Что если мы перестанем использовать GPU?
- librasteve
Как отмечается в видео, здесь имеет место петля обратной связи между аппаратным и программным обеспечением. Поскольку аппаратное обеспечение представляет собой глубоко конвейеризованный SIMD FPU тракт данных, программное обеспечение — это вручную настроенные машинно-кодированные преобразования. Помимо ограничения гибкости (каждая вариация должна быть вымучена в CUDA), это препятствует оптимизациям типа разреженных матриц. Я предсказываю, что набор процессоров общего назначения — без общей памяти в таком масштабе — был бы гораздо лучшим использованием транзисторов и энергии. И вы можете программировать это на высоком уровне, используя подход в стиле CSP, например https://bil-lang.org
- tolugenius
Интересно, что означало бы «вычисления», если бы процессоры были более эффективны в умножении матриц, скажем, 15 лет назад. И с другой стороны, что потребовалось бы, чтобы обучить фронтирную модель полностью на процессорах в будущем.