p99 0 ms* Autocomplete für 240 Millionen Domainnamen
P99 0 ms* autocomplete for 240M domain names
Der Entwickler von Wirewiki.com zeigt, wie er eine Autovervollständigung für 240 Millionen Domainnamen mit einer p99-Latenz von 0 ms erreicht. Durch Prefetching bei Tastendruck und eine Kombination aus In-Memory-Trie und SSD-gestütztem Blockindex werden Vorschläge praktisch sofort angezeigt. Der Artikel erklärt die Architektur, die Latenzbudgets und die Ergebnisse von Belastungstests, die zeigen, dass die API selbst bei hoher Last schnell bleibt. Die Herausforderung liegt in der geografischen Verteilung, da ein einzelner Server in Europa für Nutzer in den USA nicht schnell genug ist.
Das gibt uns ein Zeitbudget von `keyPress1Duration + gap between key presses + keyPress2Duration`.