KubernetesでCPU limitsを使うのはやめよう：アプリが遅くなりコストが膨らむ

For the love of god stop using CPU limits in Kubernetes

KubernetesのCPU limitsは、ノードに空きCPUがあってもアプリを毎秒何度もフリーズさせ、レイテンシを悪化させ、コスト増につながる。同じアプリをCPU limitあり・なしで比較した実証結果によると、limitなしではテールレイテンシが維持され、CPU負荷の高い起動処理が約2倍速くなる。CPU requestsはアプリのシェアを保証するため、limitsの代わりにrequestsを維持し、memory limitsはノード保護のため残すべき。本分析では、スロットリングの仕組み、CFSの公平な共有、ノイジーネイバー問題、コストモデルなどを詳説する。