AMD против NVIDIA: почему производительность на доллар становится дешевле

Performance per dollar is getting faster and cheaper

358latchkey💬 136
AMD против NVIDIA: почему производительность на доллар становится дешевле

Спрос на инференс растет быстрее предложения, делая NVIDIA Blackwell недоступными. Мы доказали, что AMD MI355X в 2.75 раза дешевле и при правильной настройке sglang и MXFP4 обеспечивает превосходную производительность на доллар. Хотя CUDA-экосистема NVIDIA все еще лидирует, разрыв сокращается, и оптимизация под AMD становится реальным решением для экономии.

"SOTA на AMD становится вопросом поддержки, а не софта. CUDA-моат исчезает в реальном времени."