태그: #LoRA
쿠버네티스·DevOps·MLOps 를 직접 돌려 보고 잰 값으로 쓰는 블로그 · 3 편
RL 은 골라내는가: 0.5B 모델로 재 본 GRPO 와 pass@k
RL 후학습은 새 능력을 만들까요, 베이스가 가끔 내던 답을 골라낼까요? 0.5B 지시 모델에 세 자리 곱셈 산수로 GRPO 를 직접 돌려 pass@k 를 쟀습니다. 많은 문제로 75걸음 학습하자 계산 정확도(pass@1)는 0.25 에서 0.66 으로 올랐지만 32번 뽑아 하나라도 맞힐 확률은 0.84 대 0.81 로 같았습니다. 150걸음까지 늘리면 그 상한이 0.68 로 내려가 k=16
2026-10-31 · 24 분 읽기 #강화학습#GRPO#RLVR#pass@k#LoRA병렬화, 멀티모달, 풀링: GPU 한 장으로 잴 수 있는 것과 없는 것
vLLM 의 나머지 큰 기능 셋을 묶었습니다. 모델을 여러 GPU 에 나누는 텐서·파이프라인·데이터·전문가 병렬은 GPU 가 한 장이라 미실측이고, 각각 무엇을 나누고 언제 쓰는지를 문서와 논문으로 정리했습니다. 이미지·영상·오디오 입력은 필요한 모델을 새로 받아야 해서 미실측이며, 대신 SSRF 를 막는 --allowed-media-domains 와 CPU 메모리를 4GiB 잡는 처리기 캐
2026-10-27 · 16 분 읽기 #vLLM#텐서 병렬#파이프라인 병렬#데이터 병렬#전문가 병렬LoRA 어댑터 서빙을 직접 재 보기: 처리량 비용, 어댑터 슬롯, 실행 중 적재
기본 모델 하나에 LoRA 어댑터 여러 개를 얹어 서빙할 때 처리량이 얼마나 줄어드는지, 어댑터 수가 슬롯 수를 넘으면 무슨 일이 생기는지, 실행 중에 어댑터를 올리는 데 얼마나 걸리는지를 1.7B 모델과 vLLM 으로 직접 쟀습니다.
2026-10-07 · 19 분 읽기 #LoRA#vLLM#멀티 어댑터#서빙#처리량