태그: #큐
GPU·LLM·MLOps·쿠버네티스, 그리고 마음가짐에 관한 글 · 1 편
← 전체 글
「실시간」 은 모델이 빠르다는 뜻이 아니라, 카메라가 찍은 순간부터 화면에 결과가 나올 때까지가 정해진 예산 안에 든다는 뜻입니다. 30fps 면 한 프레임에 33.3ms 이고, 그 안에 잡기·줄이기·인코딩·전송·디코딩·추론·후처리·그리기가 다 들어가야 합니다. 끝단 지연과 처리량이 왜 다른 숫자인지, 밀릴 때 줄을 세우면 왜 지연이 끝없이 커지는지 흉내 내 보고(추론 36ms 에서 줄 세우
2026-10-15 · 10 분 읽기 #비전 모델#실시간#지연#처리량#스트리밍 인식
