タグ: #ArgoCD
Kubernetes・DevOps・MLOps を自分で動かして測った値で書くブログ · 1 件
KubernetesのCRDとオペレーターでLLMサービングのデプロイを自動化する
LLMサービングはスケールの単位が単一のPodではなくPodのまとまりであるため、Deployment単体で表現することが難しく、これをLeaderWorkerSet、KServe、DynamoなどのCRDとオペレーターが担います。調整ループ、オーナー参照とfinalizer、CRDのバージョン管理、ロールアウト、Argo CDとの衝突を公式ドキュメントと現在のスキーマで確認し、隔離された検証環境で確認した動作を根拠にまとめました。
2026-10-08 · 48 分で読めます #쿠버네티스#CRD#오퍼레이터#LeaderWorkerSet#KServe