OpenLake - Modern Storage for KV Offload and LLM Training
Show HN: We Beat MLPerf: Modern Storage for KV Offload and LLM Training
OpenLake ist ein Hochleistungs-Storage-System, das mit io_uring und GPUDirect Storage arbeitet. In den MLPerf Storage v3.0-Ergebnissen erreichte OpenLake die höchste Schreib- und Lesebandbreite beim Llama 3.1 8B-Checkpointing unter vergleichbaren Closed-Division-S3-Einreichungen. Die asynchrone Infinity Core I/O Engine minimiert Latenz und CPU-Overhead, beschleunigt Checkpoints und verkürzt Ausfallzeiten bei großen KI-Trainingsjobs. OpenLake ist Open Source und auf GitHub verfügbar.
„Da KI-Systeme immer weiter skalieren, wird die Speicherleistung zunehmend entscheidend für Produktivität und Effizienz. Wir freuen uns über OpenLakes Teilnahme an MLPerf Storage v3.0, einschließlich des neuen Checkpointing-Workloads, um der Community zu helfen, KI-Training voranzutreiben. Robuste und vertrauenswürdige Ergebnisse helfen Kunden, die richtigen Lösungen auszuwählen und ihre Infrastruktur zu optimieren.“