태그: #xDS
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 1 편
쿠버네티스에서의 gRPC: 한 파드로 쏠리는 이유와 헬스 체크
쿠버네티스 Service 의 기본 부하 분산은 연결을 열 때 한 번 백엔드를 고릅니다. gRPC 는 연결 하나를 오래 쓰며 그 위로 호출을 몰아 보내므로, 파드를 늘려도 기존 연결의 호출은 처음 고른 파드로만 갑니다. 해법은 셋입니다. 헤드리스 서비스와 클라이언트 측 roundrobin, 호출 단위로 나눠 주는 L7 프록시(Envoy·Cilium·메시), 그리고 프록시 없이 gRPC 라이브러
2026-10-16 · 19 분 읽기 #gRPC#쿠버네티스#부하 분산#헤드리스 서비스#xDS