如果停止使用 GPU 会怎样?
What if we stopped using GPUs? [video]
这篇视频探讨了一个发人深省的问题:如果我们不再依赖 GPU,计算世界会变成什么样?内容深入分析了当前 AI 训练和图形处理对 GPU 的极度依赖,并设想在没有 GPU 的情况下,硬件架构、算法效率以及整个科技产业可能发生的变革。讨论不仅涉及技术层面的替代方案,还触及了能源消耗、成本结构以及未来计算范式的转变。对于关注 AI 发展、硬件趋势以及技术伦理的读者来说,这是一个值得深思的视角。
如果我们停止使用 GPU,整个计算生态将不得不重新思考其基础架构与效率的平衡。
HN 评论区
18- librasteve
正如视频所指出的,这里存在一个硬件/软件的反馈循环。由于硬件是深度流水线的 SIMD FPU 数据通路,软件则是手工调优的机器码变换。除了限制灵活性(每种变体都必须在 CUDA 中从头开发)之外,这也阻碍了稀疏矩阵类型的优化。我预测,一组通用 CPU(在此规模下不共享内存)会是更高效的晶体管/功耗利用方式。而且你可以用高级语言编写代码,采用类似 CSP 风格的方案,例如 https://bil-lang.org
- tolugenius
我不禁好奇,如果 CPU 在 15 年前对矩阵乘法更高效,那么“计算”一词的含义会是什么。反之,未来要完全在 CPU 上训练前沿模型,又需要付出怎样的代价?