タグ: #Istio
Kubernetes・DevOps・MLOps を自分で動かして測った値で書くブログ · 1 件
ハイブリッドGPU KubernetesとCilium・Istioネットワーク
オンプレミスのGPUノードとクラウドのノードを1つまたは複数のクラスターにまとめる際の選択肢、ネットワーク経路、そしてCiliumとIstioの役割分担についてまとめます。LLMサービングにおける長時間の接続やストリーミング応答が、タイムアウト、ロードバランス、ヘルスチェックにおいてどのように途切れるかを中心に扱います。
2026-10-08 · 46 分で読めます #Kubernetes#하이브리드클라우드#GPU#Cilium#Istio