HRT отследила загадочный сетевой трафик с помощью eBPF
Tracing Mystery Network Traffic with eBPF Across HRT's Global Compute Cluster
HRT использует огромные вычислительные ресурсы для трейдинга, и когда межсайтовый трафик перегрузил сеть, компания не могла определить, какие пользователи и программы его создают. Инженеры объединили телеметрию сервисов, eBPF-трассировку и счётчики байтов сетевого оборудования. Оказалось, что причиной стал не DupeDog или Cashy, а NFS-клиент, работающий в ядре под пользователем root. Трассировка помогла выявить ошибку конфигурации: тысячи заданий в Чикаго напрямую читали файл из Нью-Йорка, вместо того чтобы использовать распределённый кэш.
В ретроспективе это была простая ошибка с лёгким исправлением. Наша трассировка помогла с трудной частью: выяснить, в чём вообще заключалась ошибка.