Cloudflare recupera 100TB de RAM con matemáticas y Rust
Saving another 100TB of RAM with math (and Rust)
Cloudflare redujo el uso excesivo de memoria en su servicio Pingora Backend Router, que llegaba a consumir 6GB por nodo. El problema radicaba en la gran cantidad de anillos de hashing consistente necesarios para manejar combinaciones de funcionalidades. Con ajustes matemáticos y de estructuras en Rust, el equipo logró recuperar más de 100TB de RAM a nivel global, sumándose a los 100TB que el equipo de DNS ya había liberado el mes anterior.
En este post, veremos cómo pequeños cambios en un solo algoritmo redujeron significativamente el consumo de memoria de uno de nuestros servicios basados en Pingora.