Cloudflare spart 100 Terabyte Arbeitsspeicher durch Optimierung des 1.1.1.1-DNS-Caches
Saving 100 terabytes of memory by optimizing 1.1.1.1's DNS cache

Cloudflares DNS-Plattform Big Pineapple verwaltet über 250 Milliarden Cache-Einträge. Durch fünf aufeinanderfolgende Optimierungen der Speicherstruktur konnte der Speicherbedarf pro Eintrag um über 50 % gesenkt werden – insgesamt wurden rund 100 Terabyte RAM freigesetzt. Gleichzeitig stieg die Einfüge-Durchsatzrate um 43 % und die Lookup-Latenz sank um 19 %. Die Änderungen umfassen den Ersatz von Vec durch Box<[T]>, das Entfernen redundanter Owner-Namen, das Boxing großer Enum-Varianten und die Speicherung von Records im Wire-Format.
Bei dieser Größenordnung kostet jedes verschwendete Byte pro Eintrag mehr als 250 Gigabyte Speicher in unserer gesamten Flotte.