GPU 读取内存时究竟发生了什么

What happens when a GPU reads memory

本文深入剖析了 RTX 4090 硬件内部，追踪一条 CUDA 内核中的全局加载指令（LDG.E）从 Warp 发起请求到最终从 DRAM 获取数据的完整旅程。我们详细拆解了数据如何经过寄存器文件、L1 缓存、地址翻译单元（TLB）、L2 缓存切片，最终抵达 GDDR6X 显存芯片的物理过程。文章通过时序实验揭示了 L1 命中、L2 命中以及 DRAM 激活与读取的具体延迟成本，解释了虚拟地址到物理地址的转换机制，以及 DRAM 内部行激活（activate）和列读取（read）的底层运作原理。这些细节对于理解 GPU 性能瓶颈和优化 SASS 指令至关重要。