AMD-Matrix-Cores: Bit-genaue Modelle decken undokumentierte Numerik auf
Accurate Models of AMD Matrix Cores
Matrix-Multiplizierer in aktuellen GPUs weichen vom IEEE-754-Standard ab, und ihre Implementierungsdetails sind nicht dokumentiert. Forscher charakterisieren die numerischen Eigenheiten der AMD-Architekturen CDNA 1, CDNA 2 und CDNA 3 anhand der GPUs MI100, MI210/250 und MI300A/300X. Mit gezielten Testvektoren und MATLAB-Modellen erreichen sie bit-genaue Reproduzierbarkeit, validiert über 10 Millionen Zufallstests. Als Anwendung quantifizieren sie Genauigkeitsunterschiede zwischen AMD-Matrix-Cores und NVIDIA-Tensor-Cores.
Matrix multipliers available on recent GPUs do not conform with the IEEE 754 floating point standard.