タグ: #Kubernetes
Kubernetes・DevOps・MLOps を自分で動かして測った値で書くブログ · 2 件
マルチテナントGPUスケジューリングと容量計画
デフォルトスケジューラーがGPUを扱う方式の限界から出発し、KueueとVolcanoの設計の違い、トポロジ認識配置、GPU共有の隔離の限界、DRAの現状を整理します。最後に、要求率と遅延目標からGPU数を逆算する方法を、筆者の実験環境で測定した値を基準点として示します。
2026-10-08 · 37 分で読めます #Kubernetes#GPU#Kueue#Volcano#스케줄링ハイブリッドGPU KubernetesとCilium・Istioネットワーク
オンプレミスのGPUノードとクラウドのノードを1つまたは複数のクラスターにまとめる際の選択肢、ネットワーク経路、そしてCiliumとIstioの役割分担についてまとめます。LLMサービングにおける長時間の接続やストリーミング応答が、タイムアウト、ロードバランス、ヘルスチェックにおいてどのように途切れるかを中心に扱います。
2026-10-08 · 46 分で読めます #Kubernetes#하이브리드클라우드#GPU#Cilium#Istio