Cloudflare сэкономила 100 ТБ RAM с помощью математики и Rust

Saving another 100TB of RAM with math (and Rust)

Cloudflare сократила потребление памяти в сервисе Pingora Backend Router более чем на 100 ТБ по всему миру. Проблема заключалась в избыточном использовании памяти библиотекой pingora-ketama для согласованного хеширования. Инженеры применили математический анализ распределения и оптимизировали структуру данных на Rust, уменьшив размер индекса с 32 до 16 бит. Это позволило значительно снизить накладные расходы без потери функциональности.