Samsung LPDDR5X-PIM: 614 GB/s interner Speicherbandbreite für KI
Samsung's Processing-in-Memory (PIM)
Auf dem Hot Chips 2026 präsentiert Samsung sein Processing-in-Memory-Konzept LPDDR5X-PIM. Durch die Integration von MAC-Einheiten in jedem der 16 DRAM-Bänke erreicht der Chip eine interne Bandbreite von 614 GB/s – ein Vielfaches der 76,8 GB/s herkömmlicher Zugriffe. Die PIM-Blöcke unterstützen INT8/FP8 und erreichen bis zu 2,4 TOPS pro Chip. Trotz der Kompatibilität mit Standard-Controllern bleiben Software-Herausforderungen: PIM-Modi erfordern uncacheable, nicht-spekulative Zugriffe und erschweren Multitasking erheblich.
Die Umgehung von Caches ist nicht das einzige Problem: PIM-Lesezugriffe wirken wie MMIO-Zugriffe, da sie Berechnungen auslösen, die die PIM-VRF-Werte verändern, statt nur Daten abzurufen.