태그: #스트리밍
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 1 편
스트리밍, deadline, 재시도, keepalive: 호출이 길어지거나 실패할 때
gRPC 메서드는 요청과 응답 각각이 하나인지 흐름인지에 따라 네 가지입니다. 흐름은 HTTP/2 흐름 제어 창이 막아 주고, 시간 한도는 deadline 이 남은 시간으로 다음 서버에 전달되며, 취소는 RSTSTREAM 으로 퍼집니다. 라이브러리 재시도는 서버가 응답 머리말을 보내기 전(Trailers-Only)에만, 최대 5회, 0.8~1.2배 흔들림을 섞어 합니다. grpc-go 1.8
2026-10-16 · 20 분 읽기 #gRPC#스트리밍#deadline#재시도#keepalive