Kubernetes hỗ trợ tự động auto scale dựa trên các custom metrics như GPU metrics bằng cách kết hợp với Prometheus. Bài viết này giới thiệu cách để cấu hình Auto Scale cho các ứng dụng sử dụng GPU chạy trên nền tảng FPT Kubernetes Engine.
Sử dụng dịch vụ FPT App Catalog
Sử dụng helm chart:
helm repo add xplat-fke <https://registry.fke.fptcloud.com/chartrepo/xplat-fke> && helm repo update
helm install --wait --generate-name \\
-n prometheus --create-namespace \\
xplat-fke/kube-prometheus-stack
prometheus_service=$(kubectl get svc -n prometheus -lapp=kube-prometheus-stack-prometheus -ojsonpath='{range .items[*]}{.metadata.name}{"\\n"}{end}')
helm install --wait --generate-name \\
-n prometheus --create-namespace \\
xplat-fke/prometheus-adapter \\
--set prometheus.url=http://${prometheus_service}.prometheus.svc.cluster.local
Sau khi deploy xong gói kube-prometheus-stack, ta tiếp tục deploy prometheus- adapter, tuy nhiên ta cần thay đổi values của gói để trỏ đúng prometheus service của kube-prometheus-stack. Ví dụ với namespace của kube-prometheus-stack ta đặt là prometheus thì values ta cần điền vào là:
<<service_name>>.<<namespace>>.svc.cluster.local
prometheus-kube-prometheus-prometheus.prometheus.svc.cluster.local
Sau đó ta kiểm tra trạng thái của hai gói trên
Horizontal Pod Autoscaler (HPA) tự động scale các Pod để đáp ứng điều kiện được đưa ra trong cấu hình. Ở phần trên khi cấu hình xong prometheus-addapter sẽ export ra các Custom Metric của DCGM để theo dõi workload của GPU.
Ví dụ một file manifest HPA
apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
name: my-gpu-app
spec:
maxReplicas: 3 # Update this accordingly
minReplicas: 1
scaleTargetRef:
apiVersion: apps/v1beta1
kind: Deployment
name: my-gpu-app # Add label from Deployment we need to autoscale
metrics:
- type: Pods # scale pod based on gpu
pods:
metric:
name: DCGM_FI_PROF_GR_ENGINE_ACTIVE # Add the DCGM metric here accordingly
target:
type: AverageValue
averageValue: 0.8
Tham khảo thêm tài liệu của NVIDA về các DCGM metric link
Sau đó kiểm tra HPA vừa khởi tạo:
kubectl get hpa -A