HEIR: 4000-кратное замедление — и почему это всё ещё прогресс
Updates on HEIR, the Homomorphic Encryption Compiler Project
Джереми Кун, инженер Google, рассказывает о HEIR — компиляторе гомоморфного шифрования, который позволяет выполнять ML-модели на зашифрованных данных. На примере детектора мошенничества с кредитными картами он показывает замедление в 4000 раз по сравнению с обычным исполнением (2 секунды против 0,5 мс на CPU), но отмечает, что на GPU разрыв сокращается до 50 раз. Кун также описывает текущие ограничения (необходимость ручной аннотации моделей, поддержку только PyTorch, высокие требования к памяти) и размышляет о будущих применениях HE, включая перспективы ускорения на FPGA и ASIC.
Любой, кто слышал о гомоморфном шифровании, мог слышать, что оно медленное, но я хочу остановиться здесь, чтобы сравнить это время выполнения (однопоточный CPU, без амортизации!): 2 секунды для HE-инференса против 0,5 мс для открытого текста. Это замедление в 4000 раз.