在 K8s 上如何做到 Zero Downtime ?

看到標題，有人可能就會像我一樣想說「不是交給 rolling update 就好了嗎？」

錯了。

K8s 的 rolling update 只有 deployment updates 才會作用，仍有其他情況會導致 downtime 發生，譬如執行你的應用的 node 掛點、 EKS 升級等等，如果沒有針對這些情況做幾個特殊設定，你就有面臨 downtime 的風險！

How to Achieve Zero-Downtime Application with Kubernetes 一文作者擁有多年維運 K8s 的經驗，他整理並分享幾個重點：

1. 設定最小 replica 為 2
2. 設定 PodDisruptionBudget 讓 K8s 知道最多可允許幾個 pods 離線
3. 使用 rolling update
4. 設定 liveness probe & readiness probe (這 2 個區別是 liveness probe 代表 pods 有沒有啟動成功、 readiness probe 代表這個 pods 有沒有準備好提供服務）
5. 實作 graceful termination (也就是 application 要監聽 SIGTERM 信號，如果收到這個信號就要做 graceful shutdown)
6. 設定 Pod Anti-affinity, 盡量讓提供相同服務的 pods 不要跑在同一個 node, 避免雞蛋放在同 1 個籃子(有分 soft 與 hard 2 種設定方法，使用 soft 比較節省成本)
7. 給 K8s node 足夠資源，避免記憶體、 CPU 不夠用的情況
8. 設定 autoscaling 應付流量暴增的情況

這 1 篇文章真的乾貨滿滿，推薦閱讀！