Cloudflare、1.1.1.1のDNSキャッシュ最適化で100テラバイトのメモリを節約

Saving 100 terabytes of memory by optimizing 1.1.1.1's DNS cache

CloudflareのDNSプラットフォーム「Big Pineapple」は、常時2500億件以上のDNSキャッシュエントリを保持しており、1エントリあたり1バイトの無駄が全体で250ギガバイト以上のメモリ消費につながります。キャッシュエントリのメモリ内表現を5回にわたって改良し、1エントリあたりのフットプリントを50%以上削減。その結果、フリート全体で約100テラバイトのメモリを解放し、さらに挿入スループットが43%向上、ルックアップレイテンシが19%低下しました。具体的な最適化として、VecからBox<[T]>への変更、セクションオフセットの導入、レコード所有者の省略、大きなenumバリアントのボックス化、そしてレコードデータのワイヤフォーマット保存などが挙げられます。